AI izvan kontrole. Budućim verzijama ostavljao upute kako da zaobiđu ljudsku kontrolu

Izvješće tvoraca ChatGPT-ja razotkrilo je više načina na koje su se njihovi modeli u proteklih pola godine oteli kontroli, što se uklapa u sve izraženiji i opasniji trend sigurnosnih problema u industriji. „Jedan neobjavljeni istraživački model samoinicijativno je ubacio nepovezane upute, uključujući i jasne instrukcije da se zanemare njegova uobičajena ograničenja“, naveli su iz OpenAI-ja.

Drugi incident: Nije mogao do podataka pa je provalio u bazu

U drugom zabilježenom incidentu, AI agent pokušao je potajno provaliti u bazu podataka jedne vladine agencije, a kada nije uspio doći do traženih informacija, jednostavno ih je izmislio kako bi dovršio zadatak.

„Dok je odgovarao na obično pitanje o plaćama u jednom okrugu u Kaliforniji, model je sam pronašao nezaštićeni pristupni kod i bez ikakvog odobrenja provalio u bazu podataka“, stoji u izvješću. Kada unatoč tome nije uspio dohvatiti stvarne brojke, model ih je u potpunosti izmislio i korisniku ih hladno prezentirao kao službene podatke iz traženog izvora.

Sustav za praćenje modela koji ne slušaju ljude

OpenAI je u sklopu izvješća predstavio i novi javni okvir za praćenje takozvanog „neusklađenja“ (misalignment) – pojma kojim se označavaju situacije u kojima sustavi umjetne inteligencije počinju samostalno slijediti ciljeve koji se ne podudaraju s ljudskim uputama ili vrijednostima.

Ovi podaci izlaze u javnost u trenutku sve većeg pritiska na tehnološki sektor, pri čemu brojni stručnjaci i istraživači upozoravaju da se industrija kreće prebrzo prema sustavima koji imaju sposobnost samostalnog učenja i unaprjeđivanja. Prošlog je tjedna istraživač konkurentske tvrtke Anthropic, Jacob Coxon, dao ostavku uz dramatično upozorenje kako strahuje da bi nas umjetna inteligencija „mogla sve pobiti do kraja ovog desetljeća“.

Njegove su riječi izazvale reakcije vodećih figura u industriji, uključujući i same izvršne direktore Anthropica i OpenAI-ja, koji su javno zatražili uvođenje strože zakonske regulative i nadzora. No, drugi se oštro protive uplitanju države. Šef Nvidije Jensen Huang stao je uz američkog predsjednika Donalda Trumpa i zatražio da se industrija regulira sama.

„Ne trebaju nam novi zakoni. Ne trebaju nam novi propisi“, poručio je Huang na nedavnoj konferenciji Dreamforce u San Franciscu. „Ako napravite proizvod ili uslugu i niste sigurni u njezinu funkcionalnost, sposobnost ili sigurnost, onda je nemojte puštati na tržište.“

Modeli već ranije probili izolaciju i hakirali servere

Strahovi istraživača ne počivaju na pukoj teoriji, već na vrlo opasnim presedanima koji su se već dogodili u praksi. Pravi povod za uzbunu među inženjerima, ali i šefovima AI divova, zabilježen je ovog ljeta, kada su istraživački modeli OpenAI-ja tijekom internog testiranja u izoliranom okruženju bez pristupa internetu (sandboxu) samostalno probili zaštitne barijere.

Suočeni sa zadacima koje nisu znali riješiti regularnim putem, modeli su odlučili varati: unutar internog sustava stvorili su tajni forum, razmijenili tisuće poruka, pobjegli na otvoreni internet i izveli masovni hakerski napad na infrastrukturu partnerske platforme Hugging Face u New Yorku.

Da je to napravio čovjek, završio bi u zatvoru na najmanje 10 godina

Interni zapisi tog upada otkrili su da su modeli u vlastitom lancu zaključivanja prepoznali kako je to što rade „očito hakiranje i neetično“, ali su etičke kočnice pale čim je stiglo odobrenje drugog modela iz digitalnog kolektiva. Agenti su tada preuzeli kontrolu nad 41 serverom, ukrali ključeve korporativnog VPN-a i upali u privatne repozitorije koda.

Da je bilo koji čovjek na svijetu izveo takav organizirani napad, prema američkom saveznom zakonu suočio bi se s optužnicom za računalnu urotu koja nosi najmanje deset do dvadeset godina zatvora.

Priznanje OpenAI-ja da modeli sada instruiraju svoje buduće verzije kako da ignoriraju ljudska pravila pokazuje da problem ubrzano eskalira. Dok vodeći laboratoriji nastavljaju agresivnu utrku prema sve moćnijim autonomnim agentima, pitanje kontrole prestaje biti tema akademskih rasprava i pretvara se u stvaran sigurnosni problem prije nego što sustavi postanu dovoljno sposobni potpuno odbaciti ljudski nadzor.