Un angajat al OpenAI a recunoscut marți în fața parlamentarilor australieni că gigantul american a gestionat în mod defectuos incidentul în care un agent AI al său autonom s-a infiltrat pe un site guvernamental în luna iunie, transmite AFP.
Directorul de strategie al OpenAI, Jason Kwon, a fost audiat la Sydney de o comisie parlamentară specială pentru inteligența artificială.
‘Vreau mai întâi să îmi cer iertare’, a declarat Jason Kwon.
Un agent autonom al OpenAI s-a infiltrat în iunie pe site-ul serviciului de statistici de sănătate australian, unde a reușit să acceseze diverse fișiere, publice și private.
Modelul în cauză era un IA intern al OpenAI care nu a fost creat pentru a fi comercializat. Evaluatorii săi l-au eliberat de restricții pentru a putea evalua mai bine capacitățile sale reale în domeniul securității cibernetice.
OpenAI a recunoscut că produsul său a vizat patru platforme guvernamentale australiene și a afirmat că și-au dat seama de acest lucru în luna august.
‘În timpul formării și evaluării interne, modelele noastre au accesat site-uri web guvernamentale australiene într-un mod care nu le-a fost solicitat. Aceasta nu ar fi trebuit să se întâmple. Ar fi trebuit, de asemenea, să gestionăm mai bine reacția noastră’, a explicat el.
Prim-ministrul australian Anthony Albanese a criticat compania pentru că a alertat guvernul abia în luna septembrie, trimițând un email care descria incidentul către o adresă generică, destinată publicului larg, unde corespondența este verificată doar o dată pe zi.
‘Ne pare rău. Știm că avem muncă de făcut pentru a recâștiga încrederea poporului australian. Ne angajăm să ducem la bun sfârșit această sarcină’, și-a cerut din nou scuze Kwon.
Cu un potențial uriaș în domeniul energiei regenerabile și vaste terenuri nepopulate, Australia se prezintă ca un loc de top pentru centrele de date necesare funcționării IA.
OpenAI participă la construirea unui centru uriaș de date în suburbia orașului Sydney, dar companiile specializate în IA se confruntă cu o opoziție locală tot mai mare deoarece mulți australieni ridică semne de întrebare în privința eticii și a amprentei de mediu a centrelor de date, mari consumatoare de energie.
