Un grup de femei din Minneapolis a ajuns în centrul unei lupte naţionale împotriva pornografiei generate prin inteligenţă artificială, după ce au descoperit că fotografiile lor personale fuseseră folosite pentru a crea imagini şi videoclipuri sexuale false, cunoscute drept deepfake-uri, relatează CNBC.
Totul a început în iunie 2024, când Jessica Guistolise, consultantă în tehnologie, a aflat de la o cunoştinţă că soţul acesteia păstra pe computer zeci de imagini manipulate, cu peste 80 de femei.
Fotografiile originale proveneau de pe reţelele sociale şi au fost prelucrate prin site-ul DeepSwap, parte a unui val de aplicaţii ”nudify” care permit oricui să creeze conţinut sexual fals fără competenţe tehnice.
Guistolise şi prietenele sale au descoperit rapid cât de limitate sunt instrumentele legale. Pentru că victimele erau adulte şi materialele nu fuseseră distribuite public, autorităţile nu au putut demonstra că s-a comis o infracţiune.
”El nu a încălcat nicio lege pe care să o cunoaştem. Şi asta este problema”, a spus Molly Kelley, o altă victimă, studentă la drept.
Experţii spun că aplicaţiile ”nudify” au devenit tot mai accesibile, fiind promovate inclusiv pe platforme mari precum Facebook sau magazinele de aplicaţii Apple şi Google.
O investigaţie academică a arătat că peste 18 milioane de utilizatori accesează lunar aceste servicii, care funcţionează pe bază de abonament.
Impactul psihologic asupra victimelor este devastator. Unele femei au relatat anxietate puternică, probleme de sănătate cauzate de stres şi chiar teamă de a mai folosi reţelele sociale.
”Prima dată când am văzut imaginile, ceva din mine s-a schimbat fundamental”, a mărturisit Guistolise.
În faţa acestui vid legislativ, prietenele din Minneapolis au decis să acţioneze. Au colaborat cu senatoarea locală Erin Maye Quade, care a propus o lege care ar obliga companiile de AI să blocheze aplicaţiile ”nudify” şi ar impune amenzi de până la 500.000 de dolari pentru fiecare deepfake explicit non-consensual generat în Minnesota.
La nivel federal, preşedintele Donald Trump a promulgat în 2025 ”Take It Down Act”, care interzice publicarea online a imaginilor sexuale false, dar nu acoperă simpla creare a acestora.
Cazuri similare au apărut şi în alte ţări: un bărbat din Australia a primit nouă ani de închisoare pentru crearea de deepfake-uri, iar incidente în şcoli au atras atenţia autorităţilor. În Statele Unite, oraşul San Francisco a dat deja în judecată companii din spatele unor aplicaţii ”nudify”, obţinând închiderea mai multor site-uri.
Între timp, femeile afectate continuă să vorbească public pentru a atrage atenţia asupra unui fenomen în plină expansiune.
”Este atât de important ca oamenii să ştie că asta există, că este uşor de făcut şi că trebuie oprit”, a spus Guistolise.
Fenomenul arată partea întunecată a boom-ului inteligenţei artificiale: aceeaşi tehnologie care promite productivitate şi inovaţie poate fi folosită şi pentru abuzuri greu de controlat. Iar victimele speră ca, de data aceasta, legile să ţină pasul cu viteza inovaţiei.
