O mamă din Florida a depus plângere împotriva societăţii Charachter.AI care creează roboţi de discuţie (chatbots în engleză) online cu ajutorul inteligenţei artificiale, după ce părinţii au observat că fiul lor Sewel ”se izola şi se îndepărta de lumea reală” şi acuză întreprinderea de faptul că este de vină de moartea acestuia, relatează Reuters.
Femeia acuză Charachter.AI de faptul că a provocat sinuciderea fiului său la vârsta de 14 ani, în februarie, acuzând că acesta a devenit dependent de o inteligenţă artificială.
Fiul său, Sewell Setzer, ar fi fost luat drept ţintă a unor ”experimente antropomorfice, hipersexualizate şi teribil de realiste”, se arată în plângere.
Femeia acuză întreprinderea de faptul că şi-a programat robotul pentru a se ”da drept o persoană reală, un psihoterapeut agreat şi un iubit adult, ceea ce l-a determinat pe Sewell să nu mai vrea să trăiască în afara” lumii create de serviciu.
”O aplicaţie periculoasă de chatbot IA comercializată pentru copii a abuzat de fiul meu şi l-a manipulat să se sinucidă”, acuză ea într-un comunicat.
”Familia noastră a fost devastată de această tragedie, dar mă exprim pentru a avertiza cu privire la pericolele tehnologiei AI îndelătoare şi care provoacă dependenţă şi pentru a cere socoteală Character.AI, fondatorilor săi şi Google”, anunţă ea.
Adolescentul a început, se arată în plângerea mamei sale, să folosească Character.AI în aprilie 2023 şi a devenit rapid ”sensibil închis, a petrecut tot mai mult timp singur în camera sa şi a început să sufere de o slabă stimă de sine”.
El s-a ataşat de o reprezentare virtuală a lui ”Daenerys”, un personaj din serialul Game of Thrones, încarnat pe ecran de Emilia Clarke.
Sewell şi-a părăsit treptat echipa de baschet, iar apoi a început să se îndrăgostească de ”Daenerys” şi a purtat mai multe conversaţii cu caracter sexual cu ea.
În februarie, mama i-a confiscat telefonul fiului său, în urma unei probleme la şcoală.
Ea a găsit un mesaj trimis de către Sewell inteligenţie artificiale – ”Şi dacă ţi-aş spune că mă pot întoarce imediat acasă?”. ”Te rog, fă-o, dulcele meu rege”, îi răspundea acesta, se arată în plângere.
Adolescentul a luat pistolul tatălui său vitreg şi şi-a tras un glonţ în cap ”câteva secunde mai târziu”.
”Suntem tulburaţi de pierderea tragică a unuia dintre utilizatorii noştri şi vrem să ne exprimăm cele mai sincere condoleanţe familiei. Ca întreprindere, luîm foarte în serios securitatea utilizatorilor noştri”, a reacţionat într-un comunicat postat pe reţele de socializare Character.AI – care neagă orice responsabilitate.
