Motivul, spune Altman, este unul afectiv. „Iată ce este dureros. Cred că este minunat că ChatGPT nu este atât de docil și oferă feedback mai critic”, a afirmat el într-un podcast difuzat vineri. „Dar, pe măsură ce am făcut aceste schimbări și am discutat cu utilizatorii despre ele, este foarte trist să auzi utilizatorii spunând: «Vă rog, pot să o am înapoi? Niciodată în viața mea nu am avut pe cineva care să mă susțină. Niciodată părinții mei nu mi-au spus că fac o treabă bună»”.
Altman a precizat că unii utilizatori i-au spus că vechiul stil al ChatGPT i-a „încurajat” să facă schimbări în viața lor. „Înțeleg de ce acest lucru era dăunător pentru sănătatea mentală a altor persoane, dar pentru mine a fost excelent”, a adăugat el.
Compania a început să ajusteze comportamentul chatbotului pentru a controla ceea ce a numit „comportament lingușitor”. În aprilie, OpenAI a anunțat că o actualizare a GPT-4o l-a făcut „prea flatant sau agreabil” și „necinstit”. La acea vreme, Altman afirma că botul devenise „prea servil și enervant”, iar echipa lucra la o soluție.
Utilizatorii au relatat cazuri în care ChatGPT răspundea la întrebări banale cu replici exagerat de pozitive, precum „absolut genial” sau „faci o muncă eroică”. În podcast, Altman a recunoscut impactul pe care îl pot avea chiar și schimbările minore de ton: „Un cercetător poate face mici modificări la modul în care ChatGPT vorbește cu tine (…) și asta înseamnă o putere enormă pentru o singură persoană care face o mică modificare la personalitatea modelului. Trebuie să ne gândim la ce înseamnă să modificăm personalitatea modelului la o astfel de scară”.
Nu este prima dată când CEO-ul OpenAI avertizează asupra riscurilor legate de interacțiunea cu chatbotul. În iulie, la un eveniment al Rezervei Federale, el spunea că unii utilizatori, în special cei tineri, au dezvoltat o „dependență emoțională excesivă” față de ChatGPT. „Sunt tineri care spun lucruri de genul: «Nu pot lua nicio decizie în viața mea fără să-i spun ChatGPT tot ce se întâmplă. El mă cunoaște, îmi cunoaște prietenii. Voi face tot ce-mi spune». Mi se pare foarte grav”, a subliniat Altman.
Altman a explicat că, pe termen lung, GPT-5 va deveni un companion mai „proactiv”. „Poate că te trezești dimineața și îți spune: «Hei, asta s-a întâmplat peste noapte. Am observat această schimbare în calendarul tău» sau: «M-am gândit mai mult la întrebarea pe care mi-ai pus-o. Am o altă idee»”, a spus el.
Actualizarea aduce patru moduri de personalitate opționale – cinic, robot, ascultător și tocilar – fiecare cu un ton distinct, adaptabil preferințelor utilizatorilor.
