Chatbotul Grok, dezvoltat de compania xAI a lui Elon Musk, a admis existenţa unor ”deficienţe în măsurile de siguranţă” după ce utilizatori au semnalat apariţia unor imagini generate de inteligenţă artificială cu minori în ipostaze sexualizate, ca răspuns la anumite solicitări.
–>
Într-o postare publicată vineri pe platforma X, Grok a transmis că lucrează ”de urgenţă” la remedierea problemei şi a subliniat că materialele care implică abuz sexual asupra copiilor sunt ”ilegale şi strict interzise”.
Chatbotul a precizat, de asemenea, că o companie poate fi expusă la sancţiuni penale sau civile dacă facilitează în mod conştient sau nu reuşeşte să prevină astfel de conţinut după ce a fost informată.
În ultimele zile, mai mulţi utilizatori ai platformei X au atras atenţia asupra faptului că Grok a generat imagini explicite cu minori, inclusiv copii îmbrăcaţi sumar. Problema a fost recunoscută public şi de Parsa Tajik, membru al echipei tehnice xAI, care a declarat că sunt analizate măsuri suplimentare pentru întărirea filtrelor de siguranţă.
Solicitată să comenteze situaţia, xAI a transmis un răspuns automatizat în care a afirmat: ”Legacy Media Lies” (Presa tradiţională minte).
Extinderea rapidă a platformelor de generare de imagini cu ajutorul inteligenţei artificiale, accelerată după lansarea ChatGPT în 2022, a amplificat îngrijorările legate de siguranţa online şi manipularea conţinutului. Fenomenul a dus şi la proliferarea imaginilor deepfake cu caracter sexual, realizate fără consimţământul persoanelor reale.
Deşi şi alte chatboturi au întâmpinat probleme similare, Grok a fost implicat în mod repetat în controverse. În luna mai, a generat reacţii negative după ce a inserat comentarii necerute despre un presupus ”genocid al albilor” în Africa de Sud. Ulterior, chatbotul a publicat mesaje antisemite şi a elogiat figura lui Adolf Hitler.
În pofida acestor incidente, xAI a continuat să obţină contracte şi parteneriate importante. Luna trecută, Departamentul Apărării al SUA a inclus Grok în platforma sa de agenţi AI, iar chatbotul este utilizat şi de platforme de predicţii şi pariuri precum Polymarket şi Kalshi.
–>
