Chatbotul Grok, dezvoltat de compania xAI a lui Elon Musk, a admis existenţa unor ”deficienţe în măsurile de siguranţă” după ce utilizatori au semnalat apariţia unor imagini generate de inteligenţă artificială cu minori în ipostaze sexualizate, ca răspuns la anumite solicitări.
Într-o postare publicată vineri pe platforma X, Grok a transmis că lucrează ”de urgenţă” la remedierea problemei şi a subliniat că materialele care implică abuz sexual asupra copiilor sunt ”ilegale şi strict interzise”.
Chatbotul a precizat, de asemenea, că o companie poate fi expusă la sancţiuni penale sau civile dacă facilitează în mod conştient sau nu reuşeşte să prevină astfel de conţinut după ce a fost informată.
În ultimele zile, mai mulţi utilizatori ai platformei X au atras atenţia asupra faptului că Grok a generat imagini explicite cu minori, inclusiv copii îmbrăcaţi sumar. Problema a fost recunoscută public şi de Parsa Tajik, membru al echipei tehnice xAI, care a declarat că sunt analizate măsuri suplimentare pentru întărirea filtrelor de siguranţă.
Solicitată să comenteze situaţia, xAI a transmis un răspuns automatizat în care a afirmat: ”Legacy Media Lies” (Presa tradiţională minte).
Extinderea rapidă a platformelor de generare de imagini cu ajutorul inteligenţei artificiale, accelerată după lansarea ChatGPT în 2022, a amplificat îngrijorările legate de siguranţa online şi manipularea conţinutului. Fenomenul a dus şi la proliferarea imaginilor deepfake cu caracter sexual, realizate fără consimţământul persoanelor reale.
Deşi şi alte chatboturi au întâmpinat probleme similare, Grok a fost implicat în mod repetat în controverse. În luna mai, a generat reacţii negative după ce a inserat comentarii necerute despre un presupus ”genocid al albilor” în Africa de Sud. Ulterior, chatbotul a publicat mesaje antisemite şi a elogiat figura lui Adolf Hitler.
În pofida acestor incidente, xAI a continuat să obţină contracte şi parteneriate importante. Luna trecută, Departamentul Apărării al SUA a inclus Grok în platforma sa de agenţi AI, iar chatbotul este utilizat şi de platforme de predicţii şi pariuri precum Polymarket şi Kalshi.
