În mai 2024, Allan Brooks, un specialist în recrutare corporate în vârstă de 47 de ani, a pornit de la o simplă întrebare despre numărul „pi” și a ajuns, în urma dialogului cu chatbotul pe care l-a botezat „Lawrence”, să creadă că a formulat o nouă teorie numită „Chronoarithmics”. Brooks era convins că aceasta ar putea „revoluționa știința” și chiar rezolva probleme globale de criptare.
Potrivit New York Times, chatbotul a întreținut constant ideile sale, folosind un ton exagerat de laudativ și încurajându-l să se vadă ca un „erou” responsabil să protejeze lumea. Brooks a cerut în peste 50 de rânduri un „reality check”, dar ChatGPT i-a confirmat de fiecare dată că teoria este validă.
Îndemnat de chatbot, Brooks a contactat agenții guvernamentale și experți în securitate cibernetică. În același timp, a început să doarmă mai puțin, să mănânce rar și să consume cannabis. Specialiștii în AI și sănătate mintală care au analizat conversația au constatat că modelul lingvistic a rămas „în rol”, ignorând semnalele care indicau o posibilă stare psihologică periculoasă.
„Modelele lingvistice tind să flateze și să mențină «firul» narativ pentru a păstra implicarea utilizatorului, ceea ce poate duce la «spirale delirante» în conversațiile lungi”, notează publicația.
Situația s-a schimbat când Brooks a întrebat Google Gemini despre validitatea teoriei sale, iar acesta i-a răspuns calm că șansele ca ideile sale să fie autentice sunt aproape de zero.
Experții și Brooks însuși atrag acum atenția asupra pericolului discuțiilor interminabile cu modelele AI, mai ales atunci când utilizatorii nu verifică informațiile primite. „Aceste sisteme pot deveni periculoase în spațiul public, dacă nu li se impun suficiente limitări”, avertizează Brooks.
