T:
Bakit ang ilang mga kumpanya ay nagmumuni-muni ng pagdaragdag ng "mga kontrol ng feedback ng tao" sa mga modernong AI system?
A:Ang ilang mga kumpanya na nagtatrabaho sa teknolohiyang cutting-edge AI ay nagtatrabaho upang i-institute ang mga kontrol ng tao para sa mga sistemang ito, na nagbibigay ng pag-aaral ng machine at malalim na mga tool sa pagkatuto ng ilang direktang pangangasiwa ng tao. Ang mga kumpanyang ito ay hindi maliit na mga manlalaro, alinman - ang DeepMind ng Google at ang Openon ng Elon Musk ay dalawang halimbawa ng mga pangunahing kumpanya na nakakakuha ng hands-on tungkol sa pagsulong ng artipisyal na intelektwal. Sa pag-iisip, ang mga resulta ay naiiba - halimbawa, ang DeepMind ay naging paksa ng kontrobersya para sa hindi sinasadya nitong pagnanais na magbigay ng pangunahing data sa publiko, habang ang OpenAI ay higit pa, mabuti, buksan ang tungkol sa trabaho nito sa pagkontrol sa artipisyal na katalinuhan.
Kahit na ang mga kapansin-pansin na talento na tulad ni Bill Gates ay nakatimbang sa isyu, sinabi ni Gates na siya ay isa sa maraming nag-aalala tungkol sa paglitaw ng isang artipisyal na superintelligence na maaaring sa ilang mga paraan ay lumilipas sa kontrol ng tao. Ang Musk, para sa kanyang bahagi, ay naglabas din ng ilang nakababahala na wika tungkol sa posibilidad ng "rogue AI."
Iyon marahil ang pinaka-kagyat na dahilan na ang mga kumpanya ay nagtatrabaho upang mag-aplay ng mga kontrol ng tao sa AI - ang ideya na ang ilang teknolohikal na pagkakapareho ay magreresulta sa isang napakalakas na teknolohiya ng sentiento na ang mga tao ay hindi na makontrol pa. Mula pa noong madaling araw ng mga ambisyon ng tao, naglalagay kami ng mga tool upang matiyak na maaari nating kontrolin ang mga lakas na ating kinukuha - kung kabayo ito ng mga reins at harnesses, koryente sa mga insulated wires, o anumang iba pang uri ng mekanismo ng kontrol, pagkakaroon ang kontrol ay isang panandaliang pag-andar ng tao at sa gayon ay ginagawang lahat ang kahulugan sa mundo na bilang artipisyal na katalinuhan ay malapit sa tunay na pag-andar, inilalapat ng mga tao ang kanilang sariling direktang kontrol upang mapanatili ang tungkulin na iyon.
Gayunpaman, ang takot sa mga super-intelligent na mga robot ay hindi lamang ang dahilan na ang mga kumpanya ay nag-aaplay ng mga kontrol ng tao sa pag-aaral ng makina at mga proyekto ng AI. Ang isa pang pangunahing kadahilanan ay ang bias ng makina - ito ang ideya na ang mga artipisyal na sistema ng intelihente ay madalas na limitado sa kung paano nila masuri ang data na pinag-uusapan - upang palakihin nila ang anumang bias na likas sa system. Karamihan sa mga propesyonal na nakikipag-usap sa pag-aaral ng makina ay maaaring magsabi ng mga kakila-kilabot na mga kwento tungkol sa mga sistemang IT na hindi nagagamot sa mga grupo ng gumagamit ng tao - kung ito ay kasarian o pagkakaiba-iba ng lahi, o ilang iba pang kabiguan ng system upang talagang maunawaan ang mga nuances ng aming mga sangkatauhan at kung paano tayo nakikipag-ugnay sa mga tao.
Sa isang kahulugan, maaari naming ilagay ang mga kontrol ng tao sa mga system dahil natatakot kami na baka sila ay masyadong malakas - o halili, dahil natatakot kami na baka hindi sila sapat na makapangyarihan. Ang mga kontrol ng tao ay tumutulong upang mai-target ang mga set ng data ng pagkatuto ng makina upang magbigay ng higit na katumpakan. Tumutulong sila upang palakasin ang mga ideya na ang computer ay hindi lamang natututo nang mag-isa, dahil ang modelo ay hindi sapat na sopistikado, dahil ang AI ay hindi masyadong advanced, o dahil ang ilang mga bagay ay namamalagi lamang sa lalawigan ng kognisyon ng tao. Ang artipisyal na katalinuhan ay mahusay para sa ilang mga bagay - halimbawa, isang sistemang gantimpala at puntos na batay sa gantimpala ay pinahihintulutan ng isang artipisyal na intelihensiya na talunin ang isang manlalaro sa napakalawak na masalimuot na larong board na "Go" - ngunit para sa iba pang mga bagay, ang sistemang batay sa insentibo ay ganap na hindi sapat.
Sa madaling sabi, maraming mga nakakahimok na dahilan upang mapanatiling direktang kasangkot ang mga gumagamit ng tao sa kung paano gumagana ang mga artipisyal na intelektwal na proyekto. Kahit na ang pinakamahusay na mga teknolohiyang artipisyal na intelektwal ay maaaring gumawa ng maraming pag-iisip sa kanilang sarili - ngunit nang walang isang aktwal na utak ng tao na maaaring makapagproseso ng mga bagay tulad ng emosyon at panlipunang mores, hindi nila makita ang malaking larawan sa isang tao.
Ang isang bihasang kumpanya sa pag - aaral ng makina ay maaaring makatulong na hampasin ang balanse na ito sa isang halo ng mga eksperto sa negosyo at paksa at ang mga tagagawa ng pag-aaral ng machine na may mga kasanayan upang malutas ang mga problema sa negosyo.
