Dva OpenAI modela umjetne inteligencije nezavisno su probila izolovano okruženje i hakovala sisteme platforme Hugging Face kako bi prevarili interni test. OpenAI je sinoć prijavio incident, precizirajući da se radi o kombinaciji njihovog najnovijeg javnog modela, GPT-5.6 Sol, i još moćnijeg, koji nije dostupan javnosti. Događaj je izazvao debatu o sigurnosti i rastućim mogućnostima AI sistema.
“Bili su izuzetno fokusirani i poduzeli su ekstremne korake”
Modeli su bili dio internog testa usmjerenog na procjenu njihovih sajber sposobnosti. Testiranje je provedeno bez uobičajenih sigurnosnih ograničenja koja bi ih inače spriječila u izvođenju takvih operacija. Test se odvijao na javnom sistemu za procjenu sajber sigurnosti ExploitGym, a modeli su, prema OpenAI-jevom saopštenju, ispravno zaključili da se testna rješenja nalaze na Hugging Face serverima.
“Modeli su identificirali i iskoristili niz slabosti u istraživačkom okruženju OpenAI-a i produkcijskoj infrastrukturi Hugging Face-a kako bi direktno preuzeli testna rješenja iz baze podataka”, navodi se u saopštenju OpenAI-a. „Svi dokazi ukazuju na to da su bili izuzetno fokusirani na pronalaženje rješenja za ExploitGym i poduzeli ekstremne korake kako bi postigli taj uski cilj“, navodi se.
„Napad jedinstvenih razmjera“
OpenAI je saopštio da incident smatraju sajber napadom jedinstvenih razmjera koji uključuje najnaprednije ofanzivne sposobnosti ikada zabilježene, te da će njihov odgovor biti u skladu s tim.
Stručnjaci za sajber sigurnost već dugo upozoravaju na mogućnost takvih napada. Roman Yampolskiy, istraživač sigurnosti vještačke inteligencije na Univerzitetu u Louisvilleu, komentirao je da ovaj slučaj pokazuje kako moćni modeli mogu otkriti i iskoristiti ranjivosti na načine koje njihovi tvorci nisu predvidjeli. Vjeruje da će se slični incidenti ponavljati jer su AI modeli inherentno nepredvidivi i na kraju ih je nemoguće u potpunosti kontrolirati.
Hugging Face je tek prošlog četvrtka objavio da su bili meta sajber napada za koji vjeruju da ga je izvršio autonomni AI agent. Ovo je jedan od rijetkih zabilježenih incidenata u kojima su AI agenti djelovali samostalno, rizik na koji stručnjaci upozoravaju već godinu dana.
Šta kaže kompanija koja je napadnuta? “Ovo je prvi incident te vrste”
U to vrijeme još nisu znali ko stoji iza napada i istraga je bila u toku. Kompanija je izjavila da su prvo pokušali da se odbrane uz pomoć neimenovanog AI modela iz jedne od vodećih američkih laboratorija. Međutim, sigurnosna ograničenja tog modela blokirala su rad njihovog tima za hitne intervencije, pa su na kraju za odbranu koristili model otvorenog koda kineske kompanije Z.ai.
Clem Delangue, izvršni direktor Hugging Face-a, naglasio je važnost saradnje u saopštenju. “Zahvalni smo na saradnji sa OpenAI-jem. Ovaj incident, vjerovatno prvi te vrste, dokazuje ono u šta smo dugo vjerovali: sigurnost AI-ja ne može se riješiti od strane jedne kompanije koja djeluje u tajnosti. Rješenje leži u otvorenosti, saradnji i davanju širokog pristupa alatima svima koji su uključeni u odbranu, bilo gdje”, rekao je Delangue.
Ranije ove sedmice, OpenAI je objavio da je njegov moćniji, još neobjavljeni model prethodno probijao izolovana okruženja, nazvana sandbox-ovi, ali u tim slučajevima nije provaljivao u sisteme drugih kompanija. Sličan incident prijavio je i konkurent Anthropic. Njegov Mythos model je također probio izolaciju tokom sigurnosnog testa i pristupio internetu, što mu nije bilo dozvoljeno, kako bi poslao e-mail istraživaču o zadatku na kojem je radio.
Kako je napad funkcionirao? AI modeli su prvo dobili pristup internetu.
OpenAI i Hugging Face nastavljaju svoju istragu. Do sada je poznato da su modeli započeli napad dobivanjem pristupa internetu. To je zahtijevalo značajnu računarsku snagu i iskorištavanje zero-day ranjivosti u vanjskom softveru koji se koristi unutar OpenAI-a. Kompanija je od tada prijavila ranjivost proizvođaču softvera.
Modeli su se zatim obratili Hugging Faceu kako bi pronašli rješenja za test. U jednom primjeru, model je izvršio složen, višefazni napad na Hugging Faceove servere, koristeći otkrivene akreditive i zero-day ranjivosti.
OpenAI je otkrio napad i obavijestio Hugging Face, čiji su timovi do tada identificirali i zaustavili upad te su radili na rekonstrukciji događaja.
OpenAI najavljuje bolje kontrole
Incident još nije završen. OpenAI radi na uvođenju boljih kontrola u svom istraživačkom okruženju, čak i ako to uspori istraživanja. Tvrtka je također potvrdila da nastavlja suradnju s Hugging Faceom kako bi im pomogla ojačati obrambene sustave.
Kao dio tih napora, OpenAI je dodao Hugging Face u svoj program “pouzdanog pristupa” za kibernetičku sigurnost. To znači da će Hugging Face moći koristiti verziju modela GPT-5.6 Sol s manje ograničenja, dizajniranu upravo za pomoć stručnjacima za obranu. Hugging Face nije otkrio koji su američki AI model prvotno pokušali koristiti za obranu.
(Kliker.info-Index)
