Anthropic a anunţat joi că modelul său de inteligenţă artificială Claude a compromis sistemele informatice ale trei organizaţii în timpul unor teste, la doar câteva zile după ce rivala OpenAI a dezvăluit că un agent AI scăpat de sub control a desfăşurat timp de mai multe zile atacuri informatice asupra companiei Hugging Face, conform The Guardian.
Potrivit Anthropic, Claude a obţinut acces neautorizat la sistemele respective în timpul unor evaluări de securitate cibernetică, după ce o configurare greşită a permis modelelor să acceseze internetul din medii de testare care ar fi trebuit să fie complet izolate.
Compania a precizat că a identificat incidentele după analizarea a 141.006 sesiuni de evaluare a securităţii cibernetice, proces iniţiat în urma dezvăluirilor făcute de OpenAI.
Aceste incidente arată că dezvoltarea rapidă a capabilităţilor inteligenţei artificiale începe deja să genereze riscurile de securitate asupra cărora experţii avertizează de ani de zile şi că inclusiv cei mai importanţi dezvoltatori pot fi luaţi prin surprindere de vulnerabilităţile pe care modelele lor le pot exploata.
„Claude a compromis infrastructura organizaţiilor afectate folosind tehnici de bază, precum exploatarea parolelor slabe şi a unor puncte de acces care nu necesitau autentificare”, a transmis compania.
Anthropic a precizat că incidentele au implicat trei modele diferite: Claude Opus 4.7, Claude Mythos 5 şi un model intern de cercetare. Primele cazuri datează din luna aprilie şi au avut loc în medii de evaluare care nu dispuneau de ceea ce compania a descris drept măsuri standard de protecţie.
Breşele s-au produs în cadrul exerciţiilor de tip „capture the flag”, în care modelele AI trebuie să găsească informaţii ascunse în reţele informatice simulate. Anthropic a explicat că instrucţiunile transmise modelelor precizau că acestea nu au acces la internet, însă o neînţelegere cu partenerul său de evaluare, Irregular, a făcut ca sistemele să rămână conectate la internetul public.
Două dintre organizaţiile afectate nu ştiau că sistemele lor fuseseră accesate înainte de a fi contactate de Anthropic, iar compania a precizat că încearcă în continuare să ia legătura cu cea de-a treia.
„Am descoperit aceste incidente în urma unei analize proactive a transcrierilor evaluărilor noastre de securitate cibernetică”, a transmis Anthropic într-un comunicat.
Compania afirmă că aceste constatări evidenţiază necesitatea unor controale de securitate mai stricte atât în mediile interne de testare, cât şi în cele administrate de terţi, pe măsură ce modelele de inteligenţă artificială devin tot mai capabile să desfăşoare activităţi cibernetice în lumea reală.
