Logo lv.boatexistence.com

Kas atklāja stohastisko gradienta nolaišanos?

Satura rādītājs:

Kas atklāja stohastisko gradienta nolaišanos?
Kas atklāja stohastisko gradienta nolaišanos?

Video: Kas atklāja stohastisko gradienta nolaišanos?

Video: Kas atklāja stohastisko gradienta nolaišanos?
Video: Я работаю в Страшном музее для Богатых и Знаменитых. Страшные истории. Ужасы. 2024, Jūlijs
Anonim

Gradienta nolaišanās tika izgudrota Cauchy 1847. gadā. Méthode générale pour la résolution des systèmes d'équations simultanées. 536.–538. lpp. Plašāku informāciju par to skatiet šeit.

Kad tika izgudrots SGD?

Singapūras dolārs pirmo reizi tika emitēts 1965. gadā pēc Malaizijas un Brunejas monetārās savienības izjukšanas, taču abās valstīs tas joprojām ir aizstājams ar Brunejas dolāru.

Kas izgudroja gradienta pastiprināšanu?

Kas izgudroja gradienta paaugstināšanas iekārtas? Džeroms Frīdmens savā 1999. gada pamatrakstā (atjaunināts 2001. gadā) ar nosaukumu Greedy Function Approximation: A Gradient Boosting Machine iepazīstināja ar gradienta paaugstināšanas iekārtu, lai gan pati palielināšanas ideja nebija jauna.

Vai Ādams izmanto stohastisko gradienta nolaišanos?

Adam ir aizvietošanas optimizācijas algoritms stohastiskā gradienta nolaišanās padziļinātās mācīšanās modeļu apmācībai. Adam apvieno AdaGrad un RMSProp algoritmu labākās īpašības, lai nodrošinātu optimizācijas algoritmu, kas var apstrādāt retus gradientus trokšņainu problēmu gadījumā.

Kāpēc to sauc par stohastisko gradienta nolaišanos?

Vārds "stohastisks" nozīmē sistēmu vai procesu, kas ir saistīts ar nejaušu varbūtību. Tādējādi stohastiskā gradienta nolaišanās gadījumā daži paraugi tiek atlasīti nejauši, nevis visa datu kopa katrai iterācijai.

Ieteicams: