in ,

Numărul de raportări de imagini generate de AI cu abuzuri sexuale împotriva copiilor a crescut enorm în doi ani (studiu)

Numărul de raportări de imagini generate de AI cu abuzuri sexuale împotriva copiilor a crescut enorm în doi ani (studiu)

Un grup de cercetători din Scoția a constatat că numărul de raportări de imagini generate de inteligența artificială (AI) cu abuzuri sexuale împotriva copiilor a crescut cu peste 8.400% în ultimii doi ani, transmite duminică dpa.

Din 2023 până în 2025, numărul de cazuri raportate în întreaga lume a crescut cu peste 395.000, iar cercetătorii estimează că peste 300 de milioane de copii sunt supuși anual cel puțin unei forme de exploatare sexuală sau abuz facilitat de tehnologie; de asemenea, aproximativ unul din patru copii va fi probabil expus cel puțin unei forme de abuz online înainte de împlinirea vârstei de 18 ani.

Studiul a fost realizat de Institutul pentru Siguranța Globală a Copiilor Childlight al Universității din Edinburgh.

Childlight a constatat că materiale cu abuzuri sexuale împotriva copiilor generate de AI sunt raportate tot mai frecvent de companiile din domeniul înaltei tehnologii către Centrul Național pentru Copii Dispăruți sau Exploatați din SUA: de la 4700 de semnalări în 2023 la peste 400.000 în 2025.

Printre materiale se numără așa-numitele ”deepfake-uri”, create cu ajutorul aplicațiilor de generare de imagini nud (”nudify apps”), în care fața unui copil real este suprapusă în mod realist peste imagini cu conținut sexual explicit, în doar câteva secunde.

Deși imaginile sunt false, copiilor li se face un rău real; ei sunt de multe ori șantajați pentru a se obține de la ei bani sau mai multe imagini, avertizează cercetătorii. Sunt afectați și oameni obișnuiți, nu doar celebrități.

Creșterea enormă a numărului de raportări se poate datora însă și evoluțiilor în privința detectării și semnalării imaginilor.

Debi Fry, directoare pentru date globale la Childlight, a apreciat că ”viteza cu care inteligența artificială modifică amenințările împotriva copiilor este profund îngrijorătoare. Aceste cifre arată o creștere extraordinară a raportărilor de materiale generate de AI cu abuzuri sexuale împotriva copiilor în doar doi ani. Deși îmbunătățirea metodelor de detectare și raportare poate explica parțial această creștere, rezultatele subliniază motivul pentru care guvernele și companiile de tehnologie trebuie să acționeze urgent pentru a înțelege și a preveni aceste forme de abuz în curs de dezvoltare și pentru a elimina rapid materialele”.

Studiul Childlight avertizează că lacunele grave în datele oficiale îngreunează eforturile de prevenire pentru protecția copiilor. Din cele 103 țări și teritorii examinate, doar 22 dispuneau de date reprezentative obținute prin sondaje, care acopereau atât abuzurile offline, cât și pe cele facilitate de tehnologie. Sunt reprezentate deficitar cazurile în care sunt implicați copiii cu dizabilități, din populațiile indigene, din rândul migranților, din zone afectate de crize umanitare, foarte mici sau expuși abuzurilor în familie.

Childlight cere guvernelor să abordeze exploatarea și abuzurile sexuale ca pe o problemă de sănătate publică ce poate fi prevenită, să investească în măsurători fiabile și constante și să folosească dovezile pentru a întări protecția, pentru a-i sprijini pe supraviețuitori și pentru a preveni efectele dăunătoare înainte să se producă.

Institutul cere de asemenea o răspundere sporită a sectorului de înaltă tehnologie, legi care să țină pasul cu amenințările în curs de amplificare și eforturi de prevenire începute de la vârste cât mai mici.

Paul Stanfield, director general al Childlight, a declarat că ”milioane de copii sunt supuși exploatării și abuzurilor sexuale, dar guvernele folosesc de prea multe ori o imagine incompletă a locurilor unde se face rău și a celor mai expuși la riscuri. Riscurile care rămân invizibile riscă să nu fie abordate. Nu putem preveni eficient abuzurile sau proteja copiii fără a înțelege adevărata scară și natură” a pericolelor.

El consideră că în privința exploatării și abuzurilor sexuale împotriva copiilor ”nu este nimic inevitabil”. ”Cu o conducere și colaborare internațională susținute, putem preveni răul, interveni mai devreme și da altor milioane de copii copilăria în siguranță pe care o merită”, a adăugat reprezentantul Childlight.

În ciuda dificultăților, studiul a subliniat unele progrese încurajatoare – mai multe țări și-au înăsprit legislația privind siguranța online, au ameliorat detectarea și se concentrează mai mult asupra prevenirii. Cercetătorii consideră că informațiile mai bune, acțiunile coordonate și investițiile susținute oferă guvernelor mijloace de a proteja sute de milioane de copii și contribuie la crearea unui viitor mai sigur.

Datele Childlight sunt incluse în așa-numitul Into the Light Index (Indicele Luminii) pe 2026, publicat la un summit internațional privind violența împotriva copiilor. La eveniment participă luni reprezentanți a peste 100 de guverne.  

What do you think?

50 Points
Upvote Downvote

Written by

Gorj: Amenzi de aproximativ un milion de lei, aplicate în octombrie pentru ‘munca la negru’

Gorj: Amenzi de aproximativ un milion de lei, aplicate în octombrie pentru ‘munca la negru’

Hollywoodul îi omagiază pe Glenn Close și Ridley Scott cu premii Oscar onorifice

Hollywoodul îi omagiază pe Glenn Close și Ridley Scott cu premii Oscar onorifice