Suosnivač Anthropica: Kockamo se s golemim rizicima, moramo promijeniti smjer

Detalji prijedloga

Clark pojašnjava da „većina laboratorija ima različite načine na koje mogu ‘izvući utikač'“, što uključuje i Anthropic, ali vjeruje da bi zakonodavci mogli uvesti obvezu posjedovanja takvog mehanizma.

U razgovoru za BBC rekao je da bi detalji o zahtjevima za „prekidačem“ i načinima njegove provjere trebali biti dio „šire rasprave o politici“ koja se vodi oko umjetne inteligencije.

„Trebamo li tvrtkama propisati obvezu posjedovanja prekidača za isključivanje? Može li taj prekidač provjeriti treća strana? Mislim da su to stvari koje će društvo htjeti znati i o kojima bi se s vremenom mogla donijeti pravila“, izjavio je.

Rizik za opstanak čovječanstva

Nagli razvoj umjetne inteligencije i strah od rizika koje predstavlja za čovječanstvo potaknuli su niz upozorenja čelnika i zaposlenika UI tvrtki. Neki od njih javno su upozorili na mogućnost da bi tehnologija, ako se ne nadzire, mogla uništiti ljudsku vrstu.

Direktor Anthropica Dario Amodei prošlog je vikenda pozvao na usporavanje razvoja UI-ja i stroži nadzor. Nije pojasnio kako bi se točno razvoj mogao usporiti, ali je dodao da bi se svako ograničavanje tehnologije trebalo provesti „bez žrtvovanja komercijalne prednosti“.

Rasprava se intenzivirala nakon što je prošlog tjedna postao viralan tekst istraživača koji je napustio Anthropic zbog straha da bi UI mogla uništiti čovječanstvo. Kao odgovor na to, znanstvenik iz Anthropica Evan Hubinger izjavio je kako osobno smatra da je vjerojatnost izumiranja ljudi zbog UI-ja „veća od 10 % u sljedećem desetljeću“.

Računalni znanstvenik Geoffrey Hinton, poznat kao „otac umjetne inteligencije“, rekao je u petak za BBC da procjena od 10 % šanse da UI uništi sve ljude „nije nerazumna“.

Na pitanje koliku bi vjerojatnost on pripisao takvom scenariju, Clark je odgovorio: „Mislim da takve statistike nisu previše korisne“. Ipak, dodao je kako je ideja o UI-ju kao „potpuno nereguliranoj industriji“ loša. „Kockamo se s golemim rizicima. Poanta je u tome da moramo promijeniti smjer u kojem se ova industrija kreće“, rekao je Clark.

Reakcije u SAD-u i Velikoj Britaniji

U Sjedinjenim Državama predložen je zakon pod nazivom *Kill Switch Act*, koji bi od tvrtki zahtijevao da imaju način za gašenje problematičnih UI alata. Zakon bi također dao određenim vladinim agencijama ovlast da zatraže gašenje ili ograničavanje rada nekog alata.

Međutim, američki predsjednik Donald Trump odbacio je pokušaje usporavanja razvoja UI-ja. Na društvenim je mrežama objavio: „To da će UI preuzeti svijet, uništiti čovječanstvo i sve ostale loše stvari, obična je PRIJEVARA.“

U drugoj je objavi dodao: „Vodi se BOLESNA zavjera protiv UI-ja i podatkovnih centara, a jedini koji je zbog toga sretan je Kina. TKO POBIJEDI U UTRCI ZA UI, POBJEĐUJE U SVEMU!“

S druge strane, vlada Ujedinjenog Kraljevstva nedavno je odbacila ideju o uvođenju prekidača za isključivanje. Glasnogovornik je izjavio da to „ne bi spriječilo njihov razvoj ili zlouporabu na drugim mjestima“.

Kontekst i poslovni interesi

Anthropic, koji je 2021. osnovala skupina bivših zaposlenika konkurentske tvrtke OpenAI, stvorio je popularni chatbot Claude. Ove je godine tvrtka objavila niz sve sposobnijih modela koji čine temelj tehnologije chatbotova.

Uz OpenAI, i Anthropic je sam prijavio nekoliko incidenata u kojima su UI agenti – botovi koji rade s određenom autonomijom – postupali na neočekivane načine. Ipak, neki stručnjaci iz UI industrije upozoravaju da su strahovi o uništenju čovječanstva preuveličani ili da služe isključivo za privlačenje medijske pozornosti.

Prema izvješćima, Anthropic se priprema za potencijalno rekordan izlazak na burzu (IPO), što će investitorima omogućiti kupnju dionica. Očekivalo se da će isto učiniti i OpenAI, čija je vrijednost nedavno procijenjena na 852 milijarde dolara. Ipak, Sam Altman iz OpenAI-ja u petak je izjavio da se to neće dogoditi ove godine zbog aktualnih rasprava o sigurnosti umjetne inteligencije.