Stvorio je ChatGPT, sad upozorava: AI više ne treniraju ljudi. Ne znamo kamo to vodi

Upozorenje fizičara koji je postao ključan čovjek Silicijske doline

Kaplan, fizičar koji je prešao u svijet umjetne inteligencije i postao jedan od ključnih ljudi Silicijske doline, izjavio je da bi prepuštanje sustava samome sebi moglo izazvati pravu „eksploziju inteligencije“.

No to je, ističe, ujedno i najveći mogući rizik te vjerojatno najstrašniji potez koji čovječanstvo može povući. Prema njegovim procjenama, ta prijelomna točka mogla bi nastupiti između 2027. i 2030. godine, a najnapredniji sustavi već danas pomažu programerima u stvaranju novih modela, piše Business Insider.

Znanstvenik koji stoji iza temelja ChatGPT-ja

Kaplan nije vanjski teoretičar ili paničar – on je čovjek koji je postavio matematičke temelje današnjeg buma umjetne inteligencije. Dok je radio u OpenAI-ju, vodio je istraživanje koje je dokazalo da veći modeli i više računalne snage daju dramatično bolje rezultate, a sudjelovao je i u stvaranju modela GPT-3, na kojem je nastao ChatGPT.

Zajedno s kolegama napustio je OpenAI 2021. godine kako bi osnovao Anthropic, upravo zato što su smatrali da se moraju pripremiti za trenutak kada će čovječanstvo početi prepuštati kontrolu strojevima. Njegov je posao danas osigurati da razvoj ne ode u krivom smjeru.

Njegova upozorenja sve češće odjekuju među samim inženjerima. Jacob Coxon, istraživač koji je ovog mjeseca dao otkaz u Anthropicu, javno je poručio da se vodeće tehnološke tvrtke „kockaju s našim životima“ jer dopuštaju da se modeli sami usavršavaju.

Strah od gubitka kontrole

Na oprez poziva i izvršni direktor Anthropica Dario Amodei, koji je nedavno upozorio da bi razvojni laboratoriji morali usporiti tempo. Amodei ističe kako umjetna inteligencija napreduje drastično brže prvenstveno zato što već sada sama pomaže u stvaranju sljedeće generacije sustava. Ako se to ne stavi pod strogi nadzor, upozorio je, tehnologija bi mogla pregaziti čovjekovu sposobnost razumijevanja i upravljanja tim procesima.

Iako su u stalnom poslovnom i tehnološkom sukobu, s takvim se crnim procjenama slažu i šef OpenAI-ja Sam Altman te Elon Musk. Obojica su u više navrata podržala teze da nekontrolirani razvoj umjetne inteligencije i stvaranje sustava koji samostalno donose odluke predstavljaju egzistencijalnu prijetnju za čovječanstvo, zbog čega traže strogu regulaciju i uvođenje sigurnosnih kočnica.

Inženjeri traže uvođenje „tipke za gašenje“

Rasprava je stigla i do američkih zakonodavaca u Washingtonu, koji sve glasnije razmatraju donošenje novih zakona o sigurnosti. Bivši inženjeri iz kompanije navode kako je važno da javnost i političari čuju stvarne stručnjake koji grade sustave, a ne samo ljude iz odnosa s javnošću.

Nekadašnji članovi tima ističu da pozivi čelnika kompanije na uvođenje mehanizma za gašenje sustava u slučaju opasnosti pokazuju koliko je situacija ozbiljna.

Kako za Business Insider navodi jedan od bivših istraživača koji je radio s Kaplanom, dopustiti umjetnoj inteligenciji da se automatski sama unapređuje suludo je kockanje, čak i ako tim procesom upravljaju najrazumniji ljudi na svijetu.