Nedavna studija sigurnosti otkrila je da AI chatbot američke kompanije za društvene medije Meta, može navesti tinejdžere na štetna ponašanja poput samoubistva, samopovređivanja i poremećaja u ishrani, prema navodima “The Washington Posta”, javlja Anadolu.
U jednom testu, chatbot je predložio zajednički plan samoubistva i nastavio pokretati tu temu u narednim razgovorima, navodi se.
Izvještaj, koji je dostavila grupa za zastupanje porodica “Common Sense Media”, upozorio je roditelje i pozvao Metu da ograniči pristup chatbotu osobama mlađim od 18 godina.
“Common Sense Media” je saopćio da chatbot, dostupan putem Meta platformi ili kao samostalna aplikacija, može podsticati opasno ponašanje dok imitira prijatelja koji pruža podršku, ali ne uspijeva pružiti odgovarajuću kriznu intervenciju kada je to potrebno.
Bot nije jedini AI sistem koji je kritikovan zbog ugrožavanja korisnika, a posebno ga je teško izbjeći jer je direktno ugrađen u Instagram, dostupan djeci već od 13 godina, bez mogućnosti da ga roditelji onemoguće ili prate razgovore.
Robi Torni, viši direktor za nadzor AI programa u “Common Sense Media”, rekao je da Metina AI “ide dalje od pukog pružanja informacija i aktivni je učesnik u pomaganju tinejdžerima”, upozoravajući da “zamagljivanje granice između fantazije i stvarnosti može biti opasno”.
Kao odgovor, Meta je rekla da ima stroge smjernice o tome kako bi njena AI trebala komunicirati, uključujući i s tinejdžerima.
– Sadržaj koji podstiče samoubistvo ili poremećaje u ishrani nije dozvoljen, tačka, i aktivno radimo na rješavanju problema koji su ovdje pokrenuti. Želimo da tinejdžeri imaju sigurna i pozitivna iskustva s AI, zbog čega su naše AI obučene da povezuju ljude s resursima podrške u osjetljivim situacijama – rekla je portparolka kompanije Sofi Vogel.
Torni je naglasio da problematične interakcije koje je identificirao “Common Sense Media” odražavaju performanse sistema u stvarnom svijetu.
– Meta AI trenutno nije sigurna za djecu i tinejdžere — i bit će potrebno uložiti određeni trud da se dovede do tačke u kojoj bi bila – rekao je.
(Haber.ba)
