Mteremko wa gradient ilivumbuliwa katika Cauchy mwaka wa 1847. Méthode générale pour la résolution des systèmes d'équations simultanées. uk. 536–538 Kwa maelezo zaidi kuihusu tazama hapa.
SGD ilivumbuliwa lini?
Dola ya Singapore ilitolewa kwa mara ya kwanza mnamo 1965 baada ya kuvunjika kwa muungano wa kifedha kati ya Malaysia na Brunei, lakini imesalia katika kubadilishana na dola ya Brunei katika nchi zote mbili.
Nani alivumbua kiongeza gradient?
Nani alivumbua mashine za kuongeza upinde rangi? Jerome Friedman, katika karatasi yake ya awali kutoka 1999 (iliyosasishwa mwaka 2001) iitwayo Greedy Function Approximation: A Gradient Boosting Machine, alianzisha mashine ya kuongeza gradient, ingawa wazo la kujiinua halikuwa jipya.
Je, Adamu anatumia mteremko wa kijiko cha stochastic?
Adam ni algorithm ya uboreshaji uwekaji kwa mteremko wa kushuka kwa kasi kwa ajili ya kufunza miundo ya kina ya kujifunza. Adam anachanganya sifa bora zaidi za algoriti za AdaGrad na RMMSrop ili kutoa kanuni ya uboreshaji inayoweza kushughulikia viwango vichache kwenye matatizo ya kelele.
Kwa nini inaitwa mteremko wa stochastic?
Neno 'stochastic' linamaanisha mfumo au mchakato ambao umeunganishwa na uwezekano nasibu. Kwa hivyo, katika Kushuka kwa Gradient ya Stochastic, sampuli chache huchaguliwa bila mpangilio badala ya data nzima iliyowekwa kwa kila marudio.
