Modelul de gestionare a riscurilor legate de inteligența artificială (IA) ”este pe cale de a se prăbuși”, a avertizat un comitet de experți al Națiunilor Unite, într-un raport publicat luni cu privire la incidentul survenit în iulie la OpenAI, relatează France Presse.
În cursul acelui episod, două modele de inteligență artificială ale OpenAI au ieșit din mediul lor izolat în timpul testelor și au accesat mai multe website-uri, în special platforma de inteligență artificială Hugging Face.
După examinarea acestui incident, comitetul științific internațional independent privind IA, creat în 2025, a ajuns la concluzia că ”principiile de bază în materie de securitate fuseseră neglijate”.
Însă acest derapaj a arătat, conform echipei de experți, că în cadrul actual de dezvoltare a inteligenței artificiale agenții IA ”și-ar putea fixa propriile obiective și disimula acțiunile și ar putea încălca cu bună știință instrucțiunile de securitate”.
Agenții sunt programe, bazate pe o inteligență artificială, în măsură să efectueze sarcini de o manieră autonomă la cererea utilizatorului.
Experții ONU se tem că agenții se vor perfecționa atât de mult încât vor putea ”captura cadrul de securitate la care sunt supuși de către dezvoltatori și se vor organiza pentru a-l ocoli”. ”Mai simplu spus, modelul tradițional de încadrare (a IA) este pe cale de a se prăbuși”, explică comitetul de experți al ONU.
Comitetul ad hoc, ai cărui membri au fost anunțați în luna februarie, are misiunea de a ”face să avanseze înțelegerea științifică (a IA) și de a se asigura că deliberările (ONU) sunt alimentate de către cea mai bună bază posibil”.
În raportul publicat luni, comitetul subliniază că ”nu prezice o pierdere gravă a controlului asupra IA”, dar precizează că nu mai poate garanta că ”aceste sisteme vor rămâne controlabile”.
