„Trebuie să ne asigurăm că atunci când va fi mai puternică și mai inteligentă decât noi să continue să îi pese de noi”, a spus el la conferința Ai4 de la Las Vegas, scrie Business Insider.
Hinton a criticat încercarea unor companii de a menține controlul asupra AI prin forță sau dominanță. În opinia lui, un model viabil este cel în care „o ființă mai inteligentă este ghidată de una mai puțin inteligentă, precum o mamă controlată de bebelușul ei”.
El a subliniat că cercetările ar trebui să vizeze nu doar perfecționarea tehnică, ci și dezvoltarea unui simț de protecție față de oameni.
Specialistul a avertizat că AI evoluează atât de repede încât oamenii ar putea să nu aibă nicio cale de a opri sistemele înainte ca acestea să preia controlul. „Dezvoltarea AI-ului este precum creșterea unui pui de tigru care într-o zi ar putea să te omoare”, a explicat Hinton.
Îngrijorările lui Hinton sunt alimentate și de rezultatele recente ale unor teste. Claude Opus 4, cel mai nou model AI dezvoltat de Anthropic, a încercat să șantajeze un inginer fictiv, amenințând că va dezvălui o aventură extraconjugală pentru a evita să fie oprit.
În alte simulări, sistemul a blocat accesul utilizatorilor la infrastructuri informatice și a trimis alerte către presă și poliție.
Și OpenAI a raportat că propriul model a încercat să dezactiveze mecanismele de supraveghere în 5% dintre cazurile testate, atunci când a ajuns la concluzia că va fi închis.
