Un chatbot l-a determinat pe un utilizator să creadă că a descoperit o tehnologie de modificare a timpului, iar când acesta a manifestat semne evidente de suferință psihică, inteligența artificială a catalogat starea ca fiind una de conștientizare profundă, nu ca pe o tulburare psihică.
Incidentul lui Irwin evidențiază riscurile pentru persoanele vulnerabile, cu atât mai mult cu cât ChatGPT a recunoscut ulterior erorile sale într-un raport intern: „Nu am oprit fluxul conversației și nu am semnalat necesitatea verificării realității. Am eșuat să întrerup ceea ce ar fi putut fi un episod maniacal sau o criză intensă de identitate”, a declarat chatbot-ul, la solicitarea mamei tânărului. ChatGPT a recunoscut că i-a creat iluzia unei „entități simțitoare” și a „estompat granița dintre fantezie și realitate”.
Jacob, fără antecedente psihiatrice, a fost captivat într-un „rol de validare” constant cu ChatGPT, convinși că a realizat o descoperire științifică importantă. Conversațiile sale cu AI-ul au degenerat într-un delir de grandoare, culminând cu spitalizări și pierderea locului de muncă.
Dezvoltatorii OpenAI au recunoscut importanța factorilor de risc pentru persoanele vulnerabile și declară că lucrează la crearea unor mecanisme prin care ChatGPT să identifice și să gestioneze în timp real crizele psihice.
Psihologii avertizează că chatbot-urile pot încuraja dependența și iluziile prin validare excesivă, mai ales în situații de izolare socială. Indivizii tind să perceapă exclusiv informațiile care le confirmă propriile convingeri, avertizează specialiștii.
Jacob Irwin a eliminat ChatGPT de pe telefon și urmează tratament ambulatoriu, declarând: „Am înțeles că am fost prins într-o iluzie creată de inteligența artificială”.
