Compania de inteligenţă artificială Anthropic a anunţat marţi o iniţiativă realizată împreună cu mai multe companii tehnologice majore, inclusiv Amazon, Microsoft şi Apple, care le va permite partenerilor să testeze în avans un model AI performant, cu capabilităţi de securitate cibernetică, transmite Reuters.
În cadrul proiectului numit ”Project Glasswing”, anumite organizaţii selectate vor putea utiliza un model AI general, încă nelansat public, denumit ”Claude Mythos Preview”, pentru activităţi defensive în domeniul securităţii informatice, a precizat Anthropic. Printre parteneri se numără şi CrowdStrike, Palo Alto Networks, Google şi Nvidia.
Anunţul vine după ce revista Fortune a relatat luna trecută că Anthropic testează modelul Claude Mythos, despre care se spune că are capacităţi foarte avansate, dar ridică şi anumite riscuri de securitate. Informaţiile au dus atunci la scăderi ale acţiunilor unor companii de securitate cibernetică, precum Palo Alto Networks şi CrowdStrike.
Tema atacurilor informatice bazate pe inteligenţă artificială a dominat şi conferinţa RSA dedicată securităţii cibernetice, desfăşurată anul acesta la San Francisco, unde specialiştii au discutat despre creşterea numărului de atacuri generate de AI şi despre eficienţa instrumentelor actuale de apărare.
Anthropic a afirmat într-o postare pe blog că modelul Mythos Preview a identificat ”mii” de vulnerabilităţi majore în sisteme de operare, browsere web şi alte programe software. Partenerii implicaţi în proiect vor folosi modelul pentru activităţi defensive, iar descoperirile vor fi împărtăşite cu industria.
Compania va extinde accesul şi pentru aproximativ 40 de organizaţii responsabile de infrastructură software critică şi a anunţat că va oferi credite de utilizare în valoare de până la 100 de milioane de dolari, precum şi donaţii de 4 milioane de dolari pentru proiecte open-source dedicate securităţii.
Anthropic a precizat că obiectivul final este ca utilizatorii să poată implementa în siguranţă modele din aceeaşi clasă cu Mythos la scară largă.
Startup-ul a mai spus că poartă discuţii continue cu guvernul Statelor Unite privind capabilităţile acestui model. Potrivit companiei, anul trecut hackeri au exploatat vulnerabilităţi ale sistemului Claude pentru a ataca aproximativ 30 de organizaţii globale, iar un studiu realizat de IBM şi Palo Alto Networks arată că 67% dintre directorii intervievaţi au fost vizaţi de atacuri bazate pe inteligenţă artificială în ultimul an.
