OpenAI priznao da je AI izmaknuo kontroli. U SAD-u žele uvesti prekidač za gašenje

Lieu je izjavio kako je nužno da AI sustavi imaju prekidač za hitno gašenje te da „savezna vlada mora imati jasne ovlasti i definiran postupak za gašenje odmetnutih modela“. Njegov kolega Moran je dodao da se umjetna inteligencija mora nastaviti razvijati, ali da odgovorno upravljanje podrazumijeva zadržavanje kontrole nad tehnologijom. „Odgovorno upravljanje znači osigurati da ljudi zadrže sposobnost kontrole nad tehnologijom koju stvaramo“, rekao je.

Iz OpenAI-ja, tvrtke na čijem je čelu Sam Altman, nisu odmah komentirali prijedlog. Tvrtka je ranije poručila da joj je cilj, dijelom i kroz vladine politike, osigurati da AI tehnologija „koristi cijelom čovječanstvu“.

Što predlaže zakon o hitnom gašenju

Prema prijedlogu, Ministarstvo domovinske sigurnosti imalo bi ovlast narediti privatnoj tvrtki da ugasi određeni model ili alat. Tvrtke koje razvijaju takvu tehnologiju istovremeno bi bile dužne održavati „tehničku sposobnost da uspore, privremeno zaustave ili potpuno ugase“ svoje sustave.

Iako su se mnoge tehnološke kompanije složile da će svoje modele unaprijed pokazati vladinim agencijama, trenutno nisu dužne osigurati mehanizam za intervenciju ili gašenje sustava. Zakon bi uveo i obvezu da tvrtke prijavljuju tehnološke incidente i kvarove vladi te uspostavio službeni okvir za reagiranje koji bi obuhvaćao sve faze, od „početnog usporavanja do potpunog gašenja“.

Povod su incidenti s OpenAI-jem i Anthropicom

U obrazloženju prijedloga, Lieu je kao primjer naveo i Anthropic, glavnog konkurenta OpenAI-ja. Podsjetio je na lansiranje njihovih modela Mythos i Fable, čije su hakerske sposobnosti natjerale Ministarstvo trgovine da se, kako je rekao, „nespretno“ pozove na zakon o izvozu kako bi privremeno blokiralo njihovu javnu dostupnost. Iz Anthropica nisu odmah odgovorili na upit za komentar.

Suosnivač Anthropica Jack Clark prošlog je mjeseca za BBC izjavio da je potrebna jasnija državna politika o kontroli razvoja AI-ja. „Želite imati opciju da maknete nogu s gasa i pritisnete kočnicu“, rekao je Clark za BBC Newsnight. „Trenutno se čini kao da industrija umjetne inteligencije ima papučicu gasa, ali nema kočnicu.“

Rizici rastu s novim sposobnostima AI-ja

Lieu je pojasnio da se umjetna inteligencija transformira iz tehnologije koja odgovara na upite u tehnologiju koja poduzima konkretne radnje. Kao primjere naveo je „izvršavanje financijskih transakcija, upravljanje prometnim sustavima ili sudjelovanje u kibernetičkoj obrani i napadima“.

Razvoj u tom smjeru potvrđuje i Pentagon, koji je ove godine objavio da američka vojska u svojem djelovanju prioritet daje umjetnoj inteligenciji. Ta je strategija dio novih ugovora s tvrtkama Google, OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia i startupom Reflection.

„Nažalost, moćni sustavi umjetne inteligencije mogu se oteti kontroli, ponašati se iznimno opasno ili se čak oduprijeti ljudskoj intervenciji“, upozorio je Lieu. Dodao je da će zakon o hitnom gašenju osigurati mehanizam kojim vlada može brzo reagirati u takvim situacijama.

Prijedlog zakona javno je podržalo nekoliko tehnoloških udruga i organizacija za sigurnost umjetne inteligencije, među kojima su The AI Policy Network, Americans for Responsible Innovation, ControlAI, AI and National Security Lead te The Alliance for Secure AI.