Compania X a lui Elon Musk este anchetată de Comisia Europeană din cauza îngrijorărilor că nu a reuşit să împiedice chatbotul său Grok AI să răspândească imagini deepfake „ce pot constitui material susceptibil de abuz sexual asupra copiilor”, informează Bloomberg.
Scandalul imaginilor generate de Grok a avut un impact mondial de la începutul acestui an. Pornind de la simpla comandă „Grok, pune-o în bikini”, mii de utilizatori ai reţelei sociale X au dezbrăcat fără consimţământul lor femei, adolescente şi chiar copii, graţie inteligenţei artificiale integrate în platformă.
Comisia Europeană a declarat luni că ancheta, care riscă să atragă un nou val de critici din partea Casei Albe, va verifica dacă platforma socială a evaluat şi a atenuat în mod corespunzător riscurile asociate cu implementarea Grok în X în cele 27 de ţări ale UE.
„Deepfake-urile sexuale neconsensuale cu femei şi copii sunt o formă violentă şi inacceptabilă de degradare”, a declarat comisarul european pentru tehnologie, Henna Virkkunen. Cazul intră sub incidenţa regulamentului blocului european privind conţinutul online, Legea serviciilor digitale, care impune restricţii asupra materialelor dăunătoare şi ilegale de pe internet.
Condamnarea globală a Grok s-a intensificat în ultimele săptămâni, după ce utilizatori din mai multe ţări au semnalat că chatbotul AI generează imagini sexualizate care sunt postate pe X, provocând reacţii rapide din partea autorităţilor de reglementare şi a apărătorilor siguranţei copiilor. Autoritatea de reglementare în domeniul comunicaţiilor din Marea Britanie, Ofcom, investighează deja în mod oficial dacă X a încălcat Legea britanică privind siguranţa. Franţa şi India s-au implicat, de asemenea, acuzând Grok de crearea ilegală de imagini sexualizate ale persoanelor fără consimţământul acestora.
X, o filială a xAI, a declarat anterior că elimină conţinutul ilegal, inclusiv materialele cu abuzuri sexuale asupra copiilor, suspendă conturile şi colaborează cu autorităţile de aplicare a legii, acolo unde este necesar.
Ancheta asupra Grok vine după sancţiuni separate de 120 de milioane de euro (142 de milioane de dolari) impuse X de UE în temeiul DSA, pe care administraţia Trump o consideră un atac flagrant la adresa libertăţii de exprimare. În acest caz, autorităţile de supraveghere au concluzionat că simbolul cu bifă albastră, serviciu plătit al X, a indus în eroare utilizatorii, iar platforma a refuzat să acorde experţilor acces la date şi nu a reuşit să creeze în mod corespunzător un fond de publicitate.
În conformitate cu DSA, care a intrat în vigoare în 2023, UE poate aplica platformelor online amenzi de până la 6% din veniturile lor globale anuale pentru că nu au combătut conţinutul ilegal şi dezinformarea sau nu au respectat regulile de transparenţă. Înainte de aplicarea amenzii de către UE, în decembrie, vicepreşedintele SUA, JD Vance, a postat pe X că „UE ar trebui să susţină libertatea de exprimare, nu să atace companiile americane pentru nişte prostii”.
