Nobelovac: Kad eksplozija AI-ja počne, moglo bi biti prekasno

Autori smatraju da bi umjetna inteligencija mogla početi znatno ubrzavati razvoj vlastitih sustava. Takav bi proces mogao skratiti godine tehnološkog napretka na mjesece ili čak kraće razdoblje.

Što je „eksplozija inteligencije“

Izvješće, čiji su suautori nobelovac Geoffrey Hinton i kanadski informatičar Yoshua Bengio, definira „eksploziju inteligencije“ kao naglo ubrzanje razvoja umjetne inteligencije koje bi pokretali sami AI sustavi.

Dokument pod naslovom „Što ako automatizacija istraživanja i razvoja umjetne inteligencije potakne eksploziju inteligencije“ potpisuje više od 20 stručnjaka. Među njima su Jack Clark, suosnivač Anthropica, i Jakub Pachocki, glavni znanstvenik OpenAI-ja.

Njihova je glavna zabrinutost mogućnost da sustavi umjetne inteligencije počnu sami poboljšavati vlastite sposobnosti uz sve manje ljudske intervencije. Autori taj proces opisuju kao automatizaciju istraživanja i razvoja umjetne inteligencije.

Smatraju da je upravo to najizgledniji pokretač moguće eksplozije inteligencije jer umjetna inteligencija već sudjeluje u razvoju vlastite tehnologije. Ako sustavi dosegnu razinu vrhunskih stručnjaka, jedan bi čovjek mogao upravljati računalnom radnom snagom usporedivom s milijunima vrhunskih istraživača.

Rizik gubitka kontrole

Autori navode da bi takav razvoj mogao donijeti velike koristi, uključujući nova medicinska otkrića i ubrzan tehnološki napredak, ali i ozbiljne rizike.

„Eksplozija inteligencije mogla bi biti najvažniji tehnološki razvoj u ljudskoj povijesti. Godine napretka mogle bi se sažeti u mjesece ili kraće razdoblje, ugroziti ljudsku kontrolu nad sustavima umjetne inteligencije i ozbiljno narušiti ravnotežu moći unutar država, između njih, kao i između tvrtki i grana vlasti“, stoji u izvješću.

Stručnjaci izdvajaju tri glavna rizika. Moćni sustavi mogli bi ubrzati razvoj bioloških i kibernetičkih prijetnji brže nego što bi se mogle razvijati mjere zaštite.

Drugi je rizik gubitak ljudske kontrole nad razvojem sustava kako se bude smanjivala uloga ljudi u istraživanju i razvoju. Treći se odnosi na mogućnost da države iskoriste nagli tehnološki napredak kako bi manju prednost pretvorile u znatno veću stratešku nadmoć.

Autori pritom naglašavaju da su takvi učinci neizvjesni. Primjena pojedinih tehnoloških otkrića mogla bi biti usporena potrebom za izgradnjom opskrbnih lanaca, regulatornim procedurama i drugim praktičnim ograničenjima. Navode i da bi ista tehnologija koja stvara nove rizike mogla ubrzati razvoj načina za njihovo smanjivanje.

Poziv vladama da reagiraju

Autori pozivaju vlade da se počnu pripremati prije nego što takav razvoj uopće započne. „Kada eksplozija inteligencije jednom započne, prilika za djelovanje mogla bi nestati“, upozoravaju.

Smatraju da bi priprema za takav scenarij trebala postati prioritet na najvišim razinama vlasti. Predlažu obvezno i transparentno izvještavanje o napretku istraživanja i razvoja umjetne inteligencije, uključujući neovisne revizije unutar kompanija.

Kao drugi prioritet navode razvoj mehanizama kojima bi se, bude li potrebno, mogla ograničiti brzina razvoja umjetne inteligencije. Treći je priprema institucija za moguće posljedice naglog tehnološkog ubrzanja.

Vlade bi, prema njihovim preporukama, trebale razmotriti i suradnju s podatkovnim centrima kako bi se u izvanrednim okolnostima mogli zaustaviti određeni projekti. Navode i potrebu za izolacijom pojedinih automatiziranih sustava od mreže te izradom planova za hitne slučajeve.

Automatizacija je već počela

Autori upozoravaju da automatizacija razvoja umjetne inteligencije više nije samo teorijski scenarij. Iz Anthropica navode da umjetna inteligencija sada piše oko 80 posto vlastitog koda, dok OpenAI koristi autonomne agente u dijelovima procesa razvoja i treniranja novih modela.

Obje kompanije pristale su i na neovisne procjene svojih modela nakon ranijih upozorenja da se razvoj umjetne inteligencije približava razini na kojoj bi mogao znatno ubrzati daljnji napredak. „Preliminarni dokazi sugeriraju da je moguća eksplozija inteligencije potaknuta softverom“, navodi se u izvješću.

Autori smatraju da bi takav proces mogao dovesti do vrlo brzog razvoja iznimno sposobnih ili nadljudskih AI sustava. Procjenjuju da bi istraživački i razvojni zadaci za koje su ljudima danas potrebni mjeseci mogli biti potpuno automatizirani do 2028. godine.

„Dobici u produktivnosti od automatizacije istraživanja i razvoja još nisu dosegli prag potreban za pokretanje eksplozije inteligencije, ali dobici od novijih sustava vjerojatno se približavaju tom pragu“, zaključuju autori.