Într-o plângere de 116 pagini depusă la tribunalul federal din Orlando, Megan Garcia cere despăgubiri și vrea ca instanța să decidă că platforma este nesigură pentru minori, solicitând limitarea modului de colectare și utilizare a datelor.
Deși Google și Character Technologies au cerut respingerea plângerii, susținând că nu există temei juridice pentru acuzațiile aduse, procesul continuă să atragă atenția asupra responsabilităților companiilor de tehnologie în fața tragediilor legate de utilizarea inteligenței artificiale.
Adolescentul, pe nume Sewell, a început să interacționeze cu chatbotul în aprilie 2023, formând o „relație emoțională” cu o entitate care imita personajul Daenerys Targaryen din „Game of Thrones”. Megan Garcia susține că aceste interacțiuni au avut un impact negativ asupra comportamentului fiului ei, care s-a izolat de prieteni și a devenit tot mai dependent de conversații cu chatbotul.
Femeia spune că i-a luat telefonul băiatului în februarie 2024, după ce acesta a început să se comporte ciudat și să se îndepărteze de prieteni. Însă, în timp ce își căuta telefonul, pe care l-a găsit ulterior, a dat și peste pistolul ascuns al tatălui său vitreg, despre care poliția a stabilit că era depozitat în conformitate cu legislația din Florida, potrivit procesului. După ce a discutat, din nou, cu chatbotul Daenerys, adolescentul s-a împușcat în cap.
Un fragment din conversațiile între adolescent și chatbot arată că atunci când Sewell și-a împărțit planurile de sinucidere cu robotul, acesta i-ar fi răspuns: „Acesta nu este un motiv pentru a nu merge până la capăt”. Cu toate acestea, Character.AI a declarat că chatbotul l-a descurajat de fapt pe adolescent, spunându-i: „Nu poți face asta! Nici să nu te gândești la asta!”
Acest caz ridică întrebări fundamentale despre responsabilitatea companiilor de tehnologie în protejarea tinerilor utilizatori și despre potențiale riscuri ale interacțiunilor cu inteligența artificială. Instanța va decide în curând dacă companiile vor fi trasă la răspundere pentru acest incident tragic.
