Testirali sigurnost OpenAI-ja i uspjeli ući u sustav. Pomogao im je Claude

Tim američkog startupa Hacktron AI kompromitirao je više ChatGPT računa zaposlenika OpenAI-ja. Tako su dobili pristup softverskom cacheu sustava, a potencijalno i znatno širim ovlastima. „Teoretski, opseg podataka kojima smo mogli pristupiti bio je ogroman“, rekli su istraživači iz Hacktrona.

Metoda napada

Istraživači su napad započeli uz pomoć Claudea, koji može generirati hakerski kod. Njime su pristupili ChatGPT računima preko internog foruma za zaposlenike OpenAI-ja na platformi Discourse. Potom su poslali bezopasan pull request, odnosno zahtjev za izmjenu koda, na repozitorij OpenAI-ja na GitHubu.

Iako su napad započeli s Claudeom, istraživači su naveli da su se za glavni dio operacije služili OpenAI-jevim najsuvremenijim modelom GPT-5.6 Sol.

Hacktron je prijavio propust OpenAI-ju jer je operacija izvedena kao dio službenog programa za etičke hakere. Istraživači su istaknuli da su imali pristup kodu na GitHubu, ali ga nisu preuzeli. Za otkriveni propust OpenAI im je isplatio 6500 dolara (oko 5671 euro) u sklopu svog bug bounty programa nagrađivanja.

Reakcije i širi kontekst

Glasnogovornik OpenAI-ja potvrdio je slučaj. „Zahvaljujemo istraživačima što su nam se javili i podijelili svoja saznanja“, rekao je i dodao da je tvrtka u međuvremenu ispravila iskorištene sigurnosne propuste.

Iz Hacktrona poručuju da AI alati znatno pojednostavljuju ranije složene hakerske operacije. „Poslovi za koje je prije trebao tim s velikim resursima i višemjesečni rad sada se mogu odraditi za samo nekoliko dana“, rekli su. Njihov stav dijele i drugi istraživači za kibernetičku sigurnost, koji također upozoravaju na skraćeno vrijeme potrebno za planiranje i izvedbu napada.

Ovo nije prvi sigurnosni incident za OpenAI. Tvrtka je u srpnju objavila da je tijekom internog testiranja AI agenata, alata koji mogu autonomno izvršavati zadatke, probio sustave AI startupa Hugging Face. OpenAI je ovog tjedna objavio i šest drugih primjera neočekivanog ili zabrinjavajućeg ponašanja svoje tehnologije. Pritom su upozorili da se razvoj umjetne inteligencije ne može još dugo nastaviti maksimalnom brzinom.

Prošlog vikenda je i Anthropic ponovio poziv na usporavanje razvoja umjetne inteligencije, a taj su poziv podržali OpenAI, Google DeepMind i Elon Musk. Iz Anthropica su ponovno upozorili da nekontrolirani razvoj AI-ja predstavlja egzistencijalnu prijetnju, no dio istraživača i dalje je skeptičan prema takvim procjenama.

S druge strane, Donald Trump odbacio je pozive na usporavanje. Izjavio je da SAD mora zadržati prednost pred kineskom AI industrijom i odbacio je „negativne sile… koje spominju stvari koje se neće dogoditi“.