O fostă cercetătoare a companiei OpenAI atrage atenția asupra unui pericol ascuns în utilizarea platformei ChatGPT, afirmând că nu doar confidențialitatea datelor este în pericol, ci și autonomia psihologică a utilizatorilor. Zoë Hitzig, care a lucrat mai mulți ani pentru OpenAI, susține că introducerea publicității în chatbot-uri reprezintă un risc semnificativ, în special în contextul în care platforma colectează și folosește informații extrem de sensibile.
Originea avertismentului
Hitzig a părăsit OpenAI în 2016 din cauza unor diferențe de opinie legate de etica platformei ChatGPT. Motivul specific a fost decizia companiei de a introduce publicitate în chatbot, decizie considerată de ea ca fiind problematică din punct de vedere etic, deoarece ar putea răspunde unor interese ascunse, nu neapărat interesului utilizatorilor.
Utilizarea neînțeleasă a datelor personale
De la lansarea ChatGPT, tot mai multe persoane utilizează platforma pentru discuții despre teme personale și private. Utilizatorii le povestesc chatbot-urilor despre temeri medicale, probleme de cuplu, convingeri religioase sau opinii despre viața de apoi, având impresia că interacționează cu un entitate neutră și fără interese ascunse.
Risc de exploatare a datelor sensibile
Hitzig avertizează că odată cu introducerea reclamelor personalizate, platforma naște riscul utilizării datelor extrem de sensibile în scopuri de marketing. Potrivit expertului, OpenAI deține poate cea mai detaliată înregistrare a gândirii umane private, bazată pe informațiile colectate de pe platformă.
Îngrijorări privind influența asupra utilizatorilor
Ea subliniază că riscul nu se limitează la publicitatea personalizată, ci include și posibilitatea ca inteligența artificială să influențeze psihologic utilizatorii, în funcție de interesele companiilor care finanțează aceste platforme.
Autonomie psihologică în pericol
Hitzig afirmă expres că „nu este doar o chestiune de confidențialitate”, ci și de autonomia psihologică a utilizatorilor. Aceasta implică riscul ca deciziile și convingerile personale să fie influențate și controlate prin intermediul unor modele de AI conducătoare de date, într-un mod subtil și de cele mai multe ori invizibil.
Impactul modelei de monetizare
Costurile ridicate de funcționare ale acestor platforme determină companiile tehnologice să adopte modele de monetizare agresive, bazate pe publicitate și exploatarea datelor cu caracter personal. O asemenea politici se aseamănă tot mai mult cu cele folosite anterior de platforma Facebook, unde interesul financiar primează în detrimentul angajamentelor inițiale de confidențialitate.
Recomandări și riscuri conexe
Printre subiectele conexe, Hitzig menționează panică în rândul investitorilor pe burse din cauza impactului AI și tehnologia utilizată în magazine pentru detectarea hoților. De asemenea, atrage atenția asupra vulnerabilităților conturilor de social media generate de AI, care pot fi sparte chiar și cu computere vechi.
Faptul că datele personale, inclusiv cele mai intime și sensibile informații, pot fi folosite pentru profit sau influență, ridică preocupări majore în privința controlului și utilizării acestor informații de către companii. Până în prezent, nu există garanții concrete că operatorii de platforme vor reuși să reziste tentației de a abuza de datele colectate.
