Circa 225 de oameni de știință specializați în inteligența artificială (AI) și securitate cibernetică, printre care și canadianul Yoshua Bengio, considerat unul dintre părinții inteligenței artificiale, au lansat marți un apel la ”schimbări imediate” în practicile de utilizare a AI în scopul prevenirii unor viitoare incidente de securitate, informează AFP.
Într-o scrisoare deschisă semnată de cercetători din 21 de țări, experții afirmă că ”mai multe companii” au dezvăluit recent breșe de securitate în decursul cărora modele AI au reușit să iasă din mediul lor izolat insuficient securizat pentru a compromite sistemele unor organizații externe.
Potrivit semnatarilor, aceste incidente ilustrează importanța ”alinierii” AI, destinată garantării unui comportament previzibil al modelelor și poate, și poate ”fi considerat ca o încălcare iresponsabilă a practicilor standard de securitate cibernetică”. În opinia lor, acestea ar putea fi evitate grație unor ”proceduri mai robuste”.
”Credem că sunt necesare îmbunătățiri atât în ceea ce privește alinierea AI (…) cât și a tehnologiilor de izolare”, au scris oamenii de știință, avertizând că, fără schimbarea practicilor actuale, ”viitoarele incidente vor fi mai nocive pentru infrastructurile critice”, se mai spune în această scrisoare semnată de asemenea de pionierul AI Geoffrey Hinton și expertul Stuart Russel.
Cercetătorii solicită intensificarea eforturilor în domeniul siguranței AI precum și o utilizare mai extinsă a tehnologiilor de monitorizare.
”Pe termen scurt”, aceștia recomandă mai ales utilizarea ”mecanismelor solide de izolare, inclusiv ‘air gap”’, adică deconectarea de la internet pentru ”modele dotate cu capacități cyber”.
Preconizează de asemenea crearea unui organism internațional însărcinat cu definirea normelor în materie de aliniere și de monitorizare a sistemelor AI, identificarea breșelor de securitate și comunicarea publică a celor mai semnificative incidente pentru a promova astfel ”învățarea și responsabilitatea”.
Această scrisoare vine în urma unei serii de incident în decursul cărora modele AI de la OpenAI, Anthropic și Meta au ieșit din mediul lor pentru a pirata alte organizații.
