Bahay Audio Bakit pinag-uusapan ng mga dalubhasa sa pag-aaral ng makina ang tungkol sa pagsisimula ng xavier?

Bakit pinag-uusapan ng mga dalubhasa sa pag-aaral ng makina ang tungkol sa pagsisimula ng xavier?

Anonim

T:

Bakit ang mga dalubhasa sa pag-aaral ng machine ay pinag-uusapan ang pagsisimula ng Xavier?

A:

Ang pagsisimula ng Xavier ay isang mahalagang ideya sa engineering at pagsasanay ng mga neural network. Ang mga propesyon ay pinag-uusapan tungkol sa paggamit ng Xavier na pagsisimula upang pamahalaan ang pagkakaiba-iba at ang mga paraan na lumabas ang mga signal sa pamamagitan ng mga layer ng neural network.

Ang pagsisimula ng Xavier ay mahalagang paraan upang maiayos ang mga paunang timbang para sa mga indibidwal na input sa isang modelo ng neuron. Ang net input para sa neuron ay binubuo ng bawat indibidwal na pag-input, pinarami ng bigat nito, na humahantong sa paglipat ng function at isang nauugnay na pagpapaandar ng pag-activate. Ang ideya ay nais ng mga inhinyero na pamahalaan ang mga paunang timbang ng network nang aktibo, upang matiyak na ang network ay nakakabig nang maayos sa naaangkop na pagkakaiba-iba sa bawat antas.

Libreng Pag-download: Pag- aaral ng Machine at Bakit Mahalaga ito

Itinuturo ng mga eksperto na ang mga inhinyero ay maaaring, sa ilang sukat, ay gumagamit ng stochastic gradient descent upang ayusin ang mga timbang ng mga input sa pagsasanay, ngunit kung sisimulan nila nang hindi wastong timbang, maaaring hindi sila magkakabisa nang tama dahil ang mga neuron ay maaaring maging saturated. Ang isa pang paraan na inilagay ng ilang mga propesyonal ay ang mga senyas ay maaaring "palaguin" o "pag-urong" nang labis sa hindi wastong timbang, at iyon ang dahilan kung bakit gumagamit ang Xavier ng pagsisimula alinsunod sa iba't ibang mga pag-andar ng pag-activate.

Ang bahagi ng ideyang ito ay nauugnay sa mga limitasyon ng pagharap sa mga system na hindi pa binuo: Bago ang pagsasanay, ang mga inhinyero ay nasa ilang mga paraan na nagtatrabaho sa madilim. Hindi nila alam ang data, kaya paano nila malalaman kung paano timbangin ang paunang input?

Sa kadahilanang iyon, ang inisyal na Xavier ay isang tanyag na paksa ng pag-uusap sa mga blog ng programming at forum, habang tinatanong ng mga propesyonal kung paano ilalapat ito sa iba't ibang mga platform, halimbawa, TensorFlow. Ang mga uri ng mga pamamaraan na ito ay bahagi ng pagpino ng pag-aaral ng machine at artipisyal na disenyo ng intelihente na nagkakaroon ng malaking epekto sa pag-unlad sa mga merkado ng mamimili at sa ibang lugar.

Bakit pinag-uusapan ng mga dalubhasa sa pag-aaral ng makina ang tungkol sa pagsisimula ng xavier?