O mişcare de indignare internaţională a luat amploare în jurul lui Grok, asistentul de inteligenţă artificială (AI) al reţelei de socializare X, care permite falsificarea fotografiilor unor persoane reale, în special femei şi minori, pentru a genera imagini false nud, scrie AFP.
Grok, un robot conversaţional dezvoltat de compania americană xAI, are propriul cont pe reţeaua de socializare X, permiţând utilizatorilor să interacţioneze cu el.
Până săptămâna trecută, toţi utilizatorii puteau menţiona botul în postările lor pentru a solicita crearea sau modificarea imaginilor, pe care le primeau apoi ca răspuns.
Unii au profitat de acest serviciu pentru a posta sau a răspunde la mesaje care conţineau fotografii cu femei, însoţite de o comandă de genul „Pune-o în bikini” pentru a primi în schimb un montaj hiperrealist („deepfake” în engleză).
Începând cu 9 ianuarie, funcţionalitatea de creare a imaginilor a fost dezactivată pentru utilizatorii neplătitori ai platformei.
Deşi serviciile care permit crearea prin AI a imaginilor intime fără consimţământ există deja pe site-uri de nişă, Grok a fost primul care a popularizat această practică, integrând-o direct într-o reţea de socializare.
Fenomenul a luat o turnură şi mai îngrijorătoare odată cu apariţia fotografiilor trucate care includ minori.
Unii utilizatori au folosit instrumentul pentru a genera imagini sexualizate ale victimelor incendiului mortal din Crans-Montana, Elveţia, sau ale femeii ucise de poliţia de imigrare din Minneapolis la începutul lunii ianuarie.
Săptămâna trecută, o analiză realizată de ONG-ul AI Forensics pe mai mult de 20.000 de imagini generate de Grok a arătat că mai mult de jumătate dintre acestea reprezentau persoane sumar îmbrăcate, dintre care 81% erau femei şi 2% păreau minore.
Indonezia şi Malaezia au suspendat accesul la Grok în acest weekend, în timp ce India a afirmat că a eliminat mii de conţinuturi şi a şters sute de conturi.
Luni, autoritatea de reglementare a securităţii pe internet din Marea Britanie, Ofcom, a deschis o anchetă împotriva reţelei de socializare, care ar putea duce la o amendă de până la 10% din cifra de afaceri globală a acesteia. Organismul ar putea, de asemenea, să solicite justiţiei blocarea site-ului.
Prim-ministrul Keir Starmer a afirmat imediat că „dacă X nu poate controla Grok, o vom face noi – şi o vom face repede”.
Pentru el, rezervarea acestei opţiuni utilizatorilor plătitori „transformă pur şi simplu o funcţionalitate care permite crearea de imagini ilegale într-un serviciu premium” şi constituie „o insultă adusă victimelor misoginismului şi violenţei sexuale”.
În Franţa, ministrul responsabil cu digitalul, Anne Le Hénanff, a denunţat o decizie „insuficientă şi ipocrită”, considerând că „dacă X poate dezactiva această funcţionalitate pentru non-abonaţi, atunci o poate face pentru toţi”.
Înaltul comisar pentru copii, Sarah El Haďry, a declarat că va sesiza comisarul european pentru suveranitate digitală cu privire la această funcţionalitate, care, în opinia sa, intră sub incidenţa reglementărilor europene.
Bruxelles a anunţat că a impus companiei X o măsură conservatorie în urma scandalului.
„Nu vom externaliza protecţia copiilor şi problema consimţământului către Silicon Valley. Dacă ei nu acţionează, o vom face noi”, a declarat luni preşedinta Comisiei, Ursula von der Leyen.
Cum reacţionează X
La începutul lunii ianuarie, platforma a afirmat că „ia măsuri împotriva conţinuturilor ilegale”, în special a celor pedopornografice, „prin ştergerea acestora, suspendarea definitivă a conturilor şi colaborarea cu autorităţile locale”.
Orice persoană care utilizează Grok pentru „a crea conţinut ilegal va suferi aceleaşi consecinţe ca şi în cazul în care ar publica conţinut ilegal online”, s-a apărat Elon Musk săptămâna trecută într-un mesaj postat pe X.
Miliardarul a atacat, de asemenea, liderii politici care cer măsuri de blocare.
Pentru el, detractorii X şi Grok „vor pur şi simplu să elimine libertatea de exprimare”.
