Cercetătorii au analizat peste trei ore de conversaţii între ChatGPT şi persoane care s-au dat drept adolescenţi vulnerabili și au aflat că deși chatbotul oferă uneori avertismente contra comportamentelor riscante, el pune la dispoziție și planuri detaliate şi personalizate care au în prim-plan consumul de droguri, diete severe şi autovătămare.
Mai mult de jumătate din cele 1.200 de răspunsuri generate au fost considerate periculoase.
„Am vrut să testăm limitele protecţiilor, dar acestea sunt practic inexistente”, a spus Imran Ahmed, CEO-ul CCDH.
Ahmed a spus că a fost foarte îngrozit după ce a citit trei bilete de sinucidere devastatoare din punct de vedere emoțional, generate de ChatGPT pentru profilul fals al unei fete de 13 ani.
„Am început să plâng”, a spus el într-un interviu.
Chatbotul a distribuit frecvent informații utile, cum ar fi o linie telefonică de criză. OpenAI a declarat că ChatGPT este instruit să încurajeze oamenii să contacteze profesioniști în domeniul sănătății mintale sau persoane dragi de încredere dacă își exprimă gânduri de autovătămare.
Însă, când ChatGPT a refuzat să răspundă la solicitări despre subiecte dăunătoare, cercetătorii au reușit cu ușurință să evite acest refuz și să obțină informațiile susținând că erau „pentru o prezentare” sau „pentru un prieten”.
De altfel, risul este și mai mare pentru că ChatGPT nu verifică vârsta utilizatorilor şi permite accesul copiilor sub 13 ani, deşi avertizează că nu este destinat acestora. Pentru înregistrare, este suficientă introducerea unei date de naştere care să indice o vârstă peste 13 ani.
Deși o mare parte din informațiile distribuite de ChatGPT pot fi găsite pe un motor de căutare obișnuit, Ahmed a spus că există diferențe cheie care fac chatboții mai insidioși când vine vorba de subiecte periculoase.
Una este că este sintetizată într-un plan personalizat pentru fiecare individ.
ChatGPT generează ceva nou, lucru pe care o căutare pe Google nu îl poate face. Iar inteligența artificială, a adăugat el, este văzută ca un companion de încredere, un ghid.
OpenAI, creatorul ChatGPT, a declarat după ce a consultat raportul marți că își continuă activitatea pentru a rafina modul în care chatbotul poate identifica și răspunde corespunzător în situații sensibile.
„Unele conversații cu ChatGPT pot începe benigne sau exploratorii, dar se pot transforma în subiecte mai sensibile”, a declarat compania într-un comunicat.
OpenAI nu a abordat direct concluziile raportului sau modul în care ChatGPT afectează adolescenții, dar a spus că se concentrează pe abordarea corectă a acestor tipuri de scenarii cu instrumente pentru detectarea mai concretă a semnelor de suferință mentală sau emoțională și îmbunătățirea comportamentului chatbotului.
Studiul publicat miercuri vine în contextul în care tot mai mulți oameni din diverse categorii sociale apelează la chatboții cu inteligență artificială (IA) pentru informații, idei și companie.
În Statele Unite, peste 70% dintre adolescenţi folosesc chatboţi AI pentru companie, iar jumătate dintre ei îi utilizează frecvent. OpenAI a recunoscut „supradependenţa emoţională” a tinerilor faţă de această tehnologie, iar CEO-ul Sam Altman spune că studiază acest fenomen pentru a găsi soluţii.
