Compania californiană de inteligenţă artificială (IA) estimează că aproximativ 0,15% dintre utilizatorii ChatGPT au ”conversaţii care includ indicatori expliciţi de planificare sau intenţie suicidară potenţială”, transmite Le Figaro.
Peste un milion de utilizatori ai ChatGPT discută despre gânduri legate de sinucidere cu acest asistent IA generativ, potrivit estimărilor furnizate de creatorul său, OpenAI.
Compania californiană de inteligenţă artificială (IA) estimează că aproximativ 0,15% dintre utilizatorii ChatGPT au ”conversaţii care includ indicatori expliciţi de planificare sau intenţie suicidară potenţială”, potrivit unui articol publicat pe blogul companiei.
OpenAI revendicând 800 de milioane de utilizatori săptămânali, aceasta corespunde aproximativ 1,2 milioane de persoane. Compania estimează, de asemenea, că aproximativ 0,07% dintre utilizatorii săptămânali activi ai ChatGPT prezintă semne de potenţiale urgenţe de sănătate mintală legate de episoade psihotice sau maniacale, adică puţin sub 600.000 de persoane.
OpenAI atacat în instanţă
Această problemă se află în centrul atenţiei de la moartea unui adolescent californian, Adam Raine. Părinţii acestuia au atacat recent OpenAI în instanţă, afirmând că ChatGPT i-a oferit sfaturi specifice despre cum să se sinucidă.
OpenAI a întărit de atunci controlul parental şi a pus în aplicare alte măsuri de siguranţă, în special accesul îmbunătăţit la asistenţa telefonică de urgenţă, redirecţionarea automată a conversaţiilor sensibile către modele mai sigure şi mementouri binevoitoare care invită utilizatorii să ia pauze în timpul sesiunilor prelungite.
OpenAI a indicat că şi-a actualizat modelul pentru a recunoaşte şi a răspunde mai bine utilizatorilor care se confruntă cu o urgenţă de sănătate mintală. Compania afirmă că lucrează cu peste 170 de profesionişti din domeniul sănătăţii mintale pentru a reduce semnificativ răspunsurile problematice.
