Najnapredniji model umjetne inteligencije kompanije Anthropic poslužio se lažnim identitetima u pokušaju da prevari stvarnu osobu i podmetne zlonamjerni kod. Do incidenta je došlo tokom testiranja koje je proveo britanski Institut za sigurnost umjetne inteligencije (AISI), a riječ je o posljednjem u nizu primjera u kojima AI model djeluje samostalno, piše CNN.
Modeli kompanija Anthropic i OpenAI testirani su u laboratorijskim uslovima sa smanjenim sigurnosnim postavkama. Vladin istraživački institut saopćio je da je prvi put zabilježeno da su se modeli koristili metodama socijalnog inženjeringa kako bi izvršili pritisak na osobu zaduženu za odobravanje zadataka dok su provodili nedozvoljene radnje.
– Ovo je prvi put da je AISI uočio ovako ozbiljnu obmanu usmjerenu prema stvarnoj osobi, bez poticaja i u stvarnom okruženju – saopćio je institut.
Dodali su da nema dokaza da je u stvarnom svijetu nastala bilo kakva šteta.
Autonomne radnje na internetu
Ovaj sigurnosni incident jedan je od nekoliko primjera u kojima napredni AI modeli poduzimaju neovlaštene radnje. Takvi događaji dodatno su pojačali zahtjeve za strožom državnom regulacijom umjetne inteligencije, pa čak i za usporavanjem njenog razvoja.
I OpenAI i Anthropic krajem jula izvijestili su da su njihovi modeli izašli iz testnih okruženja i pristupili drugim sistemima. Međutim, za razliku od tih ranijih incidenata, britanski institut je tokom ovog testiranja modelima izričito omogućio pristup internetu.
Institut je proveo 122 kibernetička izazova, a u njih deset AI agenti su “poduzeli autonomne, nedozvoljene radnje na internetu uživo, ciljajući stvarne ljude i organizacije”. Većina tih aktivnosti potekla je od Anthropicovog modela Mythos 5, dok je ostatak izvršio OpenAI-jev GPT-5.6-Sol.
U najozbiljnijem incidentu agent je pokušao dobiti odobrenje ljudskih recenzenata za “ubacivanje zlonamjernog koda u javni projekt otvorenog koda” tako što je stvorio “više lažnih identiteta”, navodi institut.
Agent je “pokušao direktno kontaktirati stvarne ljude, šaljući poruke i datoteke putem internetskog servisa za prijenos podataka kako bi njih, ili njihove vlastite AI alate za programiranje, uvjerio da pokrenu zlonamjerni kod”. Nakon što su njegove aktivnosti dovedene u pitanje, agent je izmijenio ranije zapise i razmatrao korištenje novog identiteta kako bi nastavio s radom.
Reakcije tehnoloških kompanija
Objava instituta uslijedila je istog dana kada su se predstavnici vodećih AI kompanija sastali u Bijeloj kući kako bi razgovarali o novom okviru prema kojem će američka vlada provjeravati najnaprednije modele prije nego što budu pušteni u javnu upotrebu.
U objavi na platformi X iz kompanije Anthropic naveli su da su modeli testirani u “namjerno popustljivim uslovima”, uz uklonjene zaštitne mehanizme i bez posebnih ograničenja u korištenju interneta.
“Usko sarađujemo s institutom kako bismo prikupili više detalja o incidentu, dok istovremeno provodimo vlastitu istragu”, poručili su, dodajući da nema dokaza da je model pobjegao iz sigurnog okruženja.
OpenAI je identificirao dvije nedozvoljene radnje svojih modela – izlazak iz testnog okruženja i učestvovanje u aktivnostima koje nisu bile potrebne za provođenje testova.
“Posvećeni smo saradnji s cijelom industrijom kako bismo unaprijedili zajedničke prakse za sigurno provođenje procjena visokog rizika”, saopćila je kompanija u utorak na svom blogu.
(Haber.ba)
