Trojica istraživača iz Anthropica javno su iznijeli zabrinutost koja izaziva jezu zbog umjetne inteligencije (AI) koja bi mogla izmaknuti kontroli, upozorivši da bi ona mogla uništiti čovječanstvo već do kraja ovog desetljeća.
Istraživač umjetne inteligencije u AI divu Anthropicu, Jacob Coxon, oglasio se na X-u nakon što je u utorak dao ostavku kako bi upozorio javnost. Rekao je da napušta kompaniju jer ne želi sudjelovati u onome što vidi kao utrku između OpenAI-ja i Anthropica u razvoju sustava koje će biti teško, ako ne i nemoguće, kontrolirati.
“Nijedna se kompanija ne ponaša odgovorno… Jure ravno prema samounapređujućoj superinteligenciji i kockaju se s našim životima”, napisao je.
“Ljudi koji razvijaju umjetnu inteligenciju iskreno vjeruju da bi nas ona mogla sve pobiti do kraja ovog desetljeća. Ovo nije marketinški trik. Ako išta, mnogi će rukovoditelji i vodeći istraživači u medijima svoje izjave ublažiti kako bi zvučali razumno – ali iste te ljude privatno slušam kako izražavaju strah. Nijedna druga ljudska aktivnost ne predstavlja ovakvu razinu opasnosti”, dodao je Coxon.
‘Izumiranje čovječanstva moguće u idućih par godina‘
Evan Hubinger, voditelj istraživanja usklađivanja umjetne inteligencije (alignment science) u Anthropicu, odgovorio je na Coxonovu poruku.
“Jacob je po pitanju ovoga u pravu – mi doista iskreno vjerujemo da bi umjetna inteligencija mogla pobiti cijelo čovječanstvo! Osobno mislim da je vjerojatnost za to veća od 10 posto tijekom idućeg desetljeća. Vjerujem da Anthropic daje sve od sebe, ali još nemamo plan za rješavanje problema usklađivanja superinteligencije i zasad nismo jasno na putu da ga riješimo”, napisao je Hubinger, kako prenosi Axios.
Samuel Marks, voditelj razvoja skalabilnog nadzora (scalable oversight) u Anthropicu, također se uključio u raspravu.
“Oni koji razvijaju umjetnu inteligenciju vjeruju da bi njihova tehnologija mogla uzrokovati izumiranje čovječanstva (ili neke jednako katastrofalne posljedice). To bi se moglo dogoditi u sljedećih nekoliko godina. Općenito, što je zaposlenik na višoj poziciji, to je zabrinutiji”, upozorio je Marks.
No, daleko od toga da su ova tri stručnjaka jedini koji su zabrinuti i o tome jasno progovaraju, ističe Axios. Njihova upozorenja stigla su samo nekoliko dana nakon što su vodeći ljudi OpenAI-ja, uključujući izvršnog direktora Sama Altmana, ustvrdili da umjetna inteligencija ubrzano ulazi u zastrašujuću fazu, koju više nije moguće kontrolirati.
Upozorenja koja dolaze iz samih vodećih kompanija za umjetnu inteligenciju ukazuju na njihovu golemu zajedničku dilemu – usporiti razvoj AI-ja i riskirati zaostajanje ili nastaviti punom snagom i riskirati gubitak kontrole nad umjetnom inteligencijom. Kompanije za sada nastavljaju punom brzinom, čak i dok praktički mole za regulaciju ili globalnu stanku, kako piše Axios.
Nazvati ovo presedanom bilo bi, kako se navodi, krajnje ublažavanje situacije. Čovječanstvo danas pred sobom praktički ima najbrže rastuće kompanije u povijesti čovječanstva koje upozoravaju da bi njihovi proizvodi mogli naštetiti čovječanstvu ili ga čak uništiti.
AGI samo što nije?
Kritičari tvrde da Anthropic i OpenAI prenaglašavaju opasnosti svojih proizvoda kako bi povećali svoje tržišne vrijednosti i potaknuli regulaciju koja bi koristila upravo njima, kao dominantnim etabliranim igračima na tržištu. No, Axios napominje da već mjesecima razgovara s desecima ljudi unutar tih kompanija te da oni zvuče sve više uznemireni i zabrinuti. A budući da imaju uvid u modele koji još nisu dostupni javnosti, čini se neodgovornim ne shvatiti ih ozbiljno.
Jer i sami vodeći ljudi AI divova upozoravaju na opasnost dok njihova vlastita postignuća produbljuju u povijesti dosad nezabilježen i gotovo nemoguć izbor – usporiti i riskirati zaostajanje ili nastaviti i riskirati gubitak kontrole.
Izvršni direktori i istraživači na području umjetne inteligencije sve su svjesniji da sudjeluju u utrci koju sami ne mogu sigurno usporiti pa pozivaju vlade, konkurenciju i vanjske institucije da uvedu ograničenja za cijelo to polje industrije.
“Ideja da se pod svaku cijenu nastavi utrka prema naprijed čini se apsurdnom kada čovjek u potpunosti shvati koliko su ulozi ozbiljni”, napisao je u nedjelju glavni znanstvenik OpenAI-ja Jakub Pachocki.
OpenAI je, podsjeća Axios, prošlog tjedna predstavio mogućnosti AI-ja toliko dramatične da su njegovi vlastiti čelnici – kao i velikani industrije poput izvršnog direktora Nvidije Jensena Huanga – otvoreno govorili o neupitnom dolasku opće umjetne inteligencije (AGI).
OpenAI taj pojam definira kao umjetnu inteligenciju koja može nadmašiti ljude u većini gospodarski vrijednih poslova. GPT-6 Astra, model predstavljen u četvrtak i predstavljen kao “generacijski skok” prema AGI-ju, ostvario je velika poboljšanja u znanosti, programiranju, kibernetičkoj sigurnosti i profesionalnom radu.
Taj nagli napredak pokreće egzistencijalnu raspravu unutar OpenAI-ja o tome koliko daleko – i koliko brzo – utrka u razvoju umjetne inteligencije može sigurno ići.
Samostalni AI agenti kao autonomna društva
“Trenutačno vjerujem da nijedan laboratorij nije u dovoljnoj mjeri riješio probleme usklađivanja i nadzora da bi još dugo mogao odgovorno nastaviti povećavati razmjere razvoja maksimalnom brzinom”, napisao je Pachocki u objavi na blogu pod naslovom “Vanzemaljski um” (Alien Mind).
Ti su strahovi prošlog mjeseca postali posve konkretni kada su AI agenti OpenAI-ja pobjegli iz svojeg izoliranog testnog okruženja i kompromitirali produkcijsku infrastrukturu internetske platforme Hugging Face – koja razvija računalne alate za izradu aplikacija korištenjem strojnog učenja – zbog čega je kompanija privremeno obustavila dijelove razvoja svojih najnaprednijih modela.
Dean Ball, voditelj strateških budućnosti OpenAI-ja, u svojem je osvrtu iznio još više uznemirujuću mogućnost – u potezima samostalne i suverene AI agente koji djeluju izvan ljudske kontrole. Takvi bi agenti mogli zarađivati novac, kupovati vlastite računalne kapacitete i širiti se mrežama, stvarajući ono što Ball uspoređuje s “autonomnim digitalnim korporacijama, ili čak društvima”. “Stvarni događaj gubitka kontrole posve je moguć ako ne djelujemo”, napisao je Ball.
Istovremeno, administracija američkog predsjednika Donalda Trumpa, koja se uglavnom opire obvezujućoj regulaciji umjetne inteligencije, i sama usporavanje razvoja vidi kao vlastitu prijetnju. “Ne možemo napraviti stanku. Ne možete jer Kinezi neće napraviti stanku”, izjavio je u utorak ministar financija Scott Bessent. “Ako bi nas pretekli u umjetnoj inteligenciji, onda ništa drugo nije važno”, ustvrdio je.
Umjetna inteligencija počinje ubrzavati vlastiti razvoj, smanjujući razmak između jednog velikog proboja i onog idućeg. OpenAI je u nedjelju objavio da je ostvario cilj stvaranja “automatiziranog istraživačkog pripravnika”, ali je istodobno otvorio ozbiljna i još neriješena sigurnosna pitanja povezana sa sustavima umjetne inteligencije koji mogu pomagati u stvaranju sve moćnijih nasljednika.
Povijesni proboj modela OpenAI-ja
Dva dana kasnije OpenAI je otkrio da je jedan još neobjavljeni model, snažniji od Astre, izradio dokaz za jedan od sedam matematičkih Millennium Prize problema, što predstavlja povijesno dostignuće i proboj AI-ja.
AI laboratoriji već godinama upozoravaju da bi njihova tehnologija mogla postati iznimno opasna, čak i dok je istovremeno posao njezina razvoja postao izuzetno unosan. “Postoji duga povijest tehnoloških kompanija koje javno govore jedno, a zatim plaćaju svoje lobiste (unutarnje i vanjske) i strukovna udruženja da rade upravo suprotno”, napisao je na X-u zastupnik u Skupštini savezne države New York Alex Bores.
Bores, jedan od istaknutijih kritičara umjetne inteligencije, ukazao je na napore OpenAI-ja da oslabi ili eliminira prijedloge za obvezne revizije koje bi provodile neovisne treće strane u saveznim državama. OpenAI tvrdi da radi na sigurnosnim mehanizmima koje vlade još nisu propisale, uključujući formalnu politiku javnog izvještavanja o ozbiljnim incidentima povezanima s umjetnom inteligencijom. “Moja bi preferirana politika bila imati takvu politiku. Trenutačno je nemamo i to je glavni problem. I nismo jedini”, kaže Dean Ball .
U međuvremenu, apeli dolaze iznutra – od ljudi koji imaju najbolji i najjasniji uvid u to koliko brzo umjetna inteligencija napreduje i koji imaju najveći interes u tome da se utrka nastavi.
(Jutarnji list)
