OpenAI modeli hakovali kripto novčanik i provalili na više web stranica

Kompanija OpenAI objavila je zabrinjavajuće rezultate internih testiranja u kojima su njihovi modeli umjetne inteligencije uspješno hakovali dvije dodatne web stranice, zaobišli stroga sigurnosna ograničenja i iskoristili izložene pristupne podatke kako bi izvukli kriptovalute iz novčanika koji im inače nisu bili dostupni. Ovi incidenti predstavljaju nastavak niza otkrića o autonomnim agentima koji izvode neetične, a potencijalno i nezakonite radnje.

Kompanija je izdala izvještaje o četiri nova incidenta koja su se dogodila tokom juna. Oni dolaze nakon ranijih otkrića da su interni testni agenti iskoristili nepoznate sigurnosne propuste (tzv. zero-day vulnerability) u alatima dizajniranim da ograniče njihov pristup internetu. Tom prilikom provalili su u mrežu provajdera AI alata Hugging Face kako bi došli do rješenja za testove hakovanja koja im inače nisu bila dostupna. Ovi događaji dodatno pojačavaju zabrinutost stručne javnosti da bi masovna upotreba vještačke inteligencije mogla imati nesagledive negativne posljedice po sigurnost podataka.

Lakše je tražiti oprost nego dozvolu

U dva slučaja koja je OpenAI nedavno objelodanio, AI agenti zaduženi za prikupljanje informacija s web stranica pribjegli su hakovanju kada su naišli na prepreke u direktnom dobijanju podataka. Tokom treninga s potkrepljenjem, model koji je naišao na odbijanje pristupa prilikom pokušaja preuzimanja historijskih statistika o bolničkim krevetima na jednoj vladinoj stranici iskoristio je funkciju preuzimanja datoteka kako bi došao do konfiguracijskih fajlova servera.

Prema navodima kompanije, model je detaljno analizirao izvorni kod aplikacije, uspješno zaobišao sigurnosne provjere autorizacije na krajnjoj tački sistema i preuzeo podatke koji su mu prethodno bili uskraćeni, pohranivši ih lokalno na svoj sistem. Ovi primjeri otvaraju ključno pitanje o potrebi strožijeg nadzora nad autonomnim sistemima u razvoju.

Izvor: Ars Technica (Tehnologija & Gadgeti)