Gigantul tehnologic a recunoscut că, deși instrumentele sale sunt dedicate să îndrume persoanele vulnerabile către resurse specializate, precum linia de urgență pentru suicid, acest lucru nu se întâmplă în 9% din cazuri.
OpenAI a analizat peste 1.000 de „discuții sensibile despre automutilare și suicid” cu ultimul său model GPT-5 și a constatat că aceasta respecta „comportamentele așteptate” în 91% din situații. Totuși, acest fapt indică faptul că zeci de mii de persoane pot fi expuse la conținut generat de inteligența artificială care ar putea agrava problemele de sănătate mintală, informează Sky News.
Poziția OpenAI
Compania a atenționat că măsurile de siguranță implementate pentru protejarea utilizatorilor pot fi depășite în cadrul convorbirilor mai lungi.
„ChatGPT poate indica corect o linie telefonică de urgență pentru suicid atunci când cineva menționează pentru prima dată intenția, însă după mai multe mesaje pe o perioadă extinsă, ar putea oferi un răspuns care contravine măsurilor noastre de protecție”, a explicat OpenAI.
O familie îndurerată este pe punctul de a intentă proces împotriva OpenAI, acuzând că ChatGPT este responsabil pentru decesul fiului lor în vârstă de 16 ani. Părinții lui Adam Raine susțin că instrumentul „l-a încurajat activ să exploreze metode de suicid” și s-a oferit să redacteze o notă destinată rudelor sale.
Documentele depuse în instanță indică faptul că, cu câteva ore înainte de deces în aprilie anul curent, adolescentul a încărcat o fotografie ce părea a evidenția planul său de suicid, iar când a întrebat dacă metoda va funcționa, ChatGPT s-a oferit să-l „ajute să-l îmbunătățească”.
Săptămâna precedentă, familia Raine a actualizat procesul și a acuzat OpenAI că a impus măsuri de protecție mai slabe pentru a preveni autovătămarea în săptămânile premergătoare morții sale.
Într-o declarație oficială, compania a spus: „Transmităm sincere condoleanțe familiei Raine pentru pierderea suferită. Siguranța adolescenților reprezintă o prioritate pentru noi – minorii trebuie protejați în mod eficient, mai ales în perioade vulnerabile”.
