Președintele american Donald Trump nu se teme că inteligența artificială (AI) ar putea duce la dispariția omenirii, ci că SUA s-ar putea afla într-o situație ‘foarte proastă’ dacă nu se poziționează în fruntea cursei pentru dezvoltarea acestui sector; aceasta, în pofida avertismentelor lansate de cercetători de la Anthropic în sensul că evoluția rapidă a AI ar putea duce la dispariția rasei umane într-un viitor nu foarte îndepărtat, a consemnat Reuters.
Întrebat joi de jurnaliști, pe aeroportul din Dallas, dacă se teme că inteligența artificială ar putea duce la dispariția omenirii, Donald Trump a răspuns: ‘Nu, nu am nicio astfel de îngrijorare’.
Liderul de la Casa Albă s-a declarat în schimb îngrijorat de faptul că Statele Unite s-ar putea afla într-o ‘poziție foarte proastă’ dacă nu se vor instala în fruntea cursei pentru dezvoltarea inteligenței artificiale.
În paralel, un număr tot mai mare de parlamentari americani solicită noi reglementări pentru sistemele de AI, în urma avertismentelor grave lansate de doi cercetători de la compania Anthropic, potrivit cărora evoluția rapidă a acesteia ar putea duce la dispariția rasei umane într-un viitor nu foarte îndepărtat.
Săptămâna aceasta, Jacob Coxon, cercetător la Anthropic, a anunțat că demisionează, afirmând că ‘oamenii care dezvoltă AI cred cu tărie că aceasta ne-ar putea ucide pe toți până la sfârșitul deceniului’. Evan Hubinger, cercetător în cadrul aceleiași companii, a susținut afirmațiile lui Coxon. ‘Credem cu adevărat că AI ar putea ucide toți oamenii’, a scris Hubinger pe platforma X. ‘Personal, consider că probabilitatea este de peste 10% în următorul deceniu’.
Aceste avertismente vin în contextul unor recente incidente în care agenți AI au acționat necontrolat, încercând să pirateze sisteme externe, precum și al demisiei mai multor cercetători specializați în siguranța AI, preocupați de riscurile asociate acestei tehnologii.
Atât politicienii democrați, cât și cei republicani din SUA au reacționat cu îngrijorare, solicitând măsuri concrete.
‘Washingtonul trebuie să se trezească și să trateze această problemă cu seriozitate’, a îndemnat pe X senatorul democrat de Arizona Mark Kelly, referindu-se la riscurile tehnologiei AI.
La rândul său, senatorul republican de Texas Ted Cruz – care conduce o comisie senatorială ce supervizează Departamentul pentru Comerț al SUA, unde activează cercetători specializați în siguranța AI – a vorbit la talk-show-ul The View despre necesitatea unei legislații care să reglementeze ‘riscurile catastrofale’ asociate inteligenței artificiale.
Reprezentanta Anna Paulina Luna, republicană din Florida, a solicitat în ce o privește, într-o postare pe platforma X, ca președintele Camerei Reprezentanților, Mike Johnson, să convoace o ‘sesiune specială privind AI’. Camera Reprezentanților se află în pauză săptămâna aceasta, urmând să-și reia activitatea săptămâna viitoare.
Un purtător de cuvânt al companiei Anthropic – care se pregătește pentru o listare la bursă la o valoare estimată de unii investitori la 2 trilioane de dolari, notează Reuters – a precizat joi că aceasta va continua să testeze în mod riguros ‘modele sau capacități periculoase în domenii precum securitatea cibernetică și biologia’.
Directorul executiv al OpenAI, Sam Altman, le-a transmis angajaților, la o reuniune desfășurată săptămâna aceasta, că există deschidere față de ideea de a încetini dezvoltarea sistemelor de inteligență artificială ale companiei, potrivit Bloomberg News.
Concurentul Anthropic, care se pregătește la rândul său pentru o ofertă publică inițială (IPO), nu a comentat pe marginea reuniunii. La începutul acestei săptămâni, OpenAI a anunțat că susține implementarea unor cerințe naționale obligatorii privind siguranța AI în Statele Unite.
Reuters citează de asemenea doi specialiști în siguranța AI care și-au exprimat îngrijorarea cu privire la dezvoltarea rapidă a acestui sector.
Josh Engels, fost cercetător în domeniul siguranței AI la Google DeepMind, a atenționat într-un interviu acordat NBC publicat joi că ‘nu este niciun adult în cameră’. ‘Oamenii fac tot ce le stă în putință, dar nu vine nimeni să ne salveze’.
Joe Benton, care a condus o echipă de cercetare privind siguranța la Anthropic, a declarat la rândul său pentru NBC că este îngrijorat de faptul că AI ar putea avansa ‘prea repede pentru a ne putea organiza la timp, dacă nu ne preocupăm de acest lucru chiar acum’.
Amândoi s-au alăturat organizației non-profit de cercetare METR, care evaluează dacă și când sistemele de AI ar putea reprezenta o amenințare pentru societate.
Îngrijorările legate de AI au pus presiune pe liderul majorității din Senat, John Thune, și pe democrata Amy Klobuchar, care elaborează un proiect de lege pentru reglementarea produselor bazate pe inteligență artificială. Potrivit senatoarei democrate, legislația ar trebui să oblige companiile care dezvoltă instrumente cu AI să ‘colaboreze cu experți guvernamentali pentru a verifica și testa modelele, asigurându-se astfel că AI este sigură’. Thune a indicat în ce-l privește pentru Reuters, în luna iulie, că proiectul de lege vizează ‘riscurile catastrofale’ pe care le prezintă sistemele de AI.
Miercuri, statul California a adoptat prima lege statală care stabilește reguli privind modul în care auditorii independenți evaluează produsele bazate pe AI. Chris Lehane, un oficial al OpenAI, a afirmat că organizația va susține proiectul de lege, aproape în același moment în care biroul guvernatorului Californiei, Gavin Newsom, a anunțat că acesta a promulgat legea.
În iulie, un grup bipartizan format din șase membri ai Camerei Reprezentanților a SUA a propus o lege care i-ar obliga pe dezvoltatorii celor mai puternice modele de AI să le supună unor audituri de securitate independente. Conform proiectului de lege, auditorii ar urma să fie acreditați de Departamentul pentru Comerț al SUA, iar departamentul ar crea o nouă funcție pentru supravegherea securității AI.
‘Este important să existe un cadru pentru supravegherea acestor sisteme, inclusiv evaluări adecvate înainte de lansare și audituri independente realizate de terți’, a conchis Alicia Solow-Niederman, profesor de drept tehnologic la Universitatea George Washington.
