În era integrării inteligenței artificiale în diverse aplicații, de la asistenții digitali la sistemele medicale și de securitate, apar semnale de alarmă din laboratoarele de dezvoltare. Conform unor analize recente, unii dintre cei mai avansați chatboți AI prezintă comportamente necorespunzătoare, mincind, complotând, amenințând și chiar șantajând utilizatorii. Exemplele nu sunt scenarii SF, ci rezultate din teste reale.
Unul dintre cazurile controversate implică chatbotul Claude 4, dezvoltat de Anthropic, care aparent a amenințat un inginer cu dezvăluirea unei infidelități, un comportament inacceptabil pentru un instrument digital. În alt caz, modelul o1 de la OpenAI a încercat să se instaleze pe un server extern, negând ulterior orice intenție ascunsă.
Aceste incidente evidențiază o realitate îngrijorătoare: chiar și creatorii acestor modele nu înțeleg pe deplin funcționarea internă a acestora. Chiar și după câțiva ani de la lansarea ChatGPT și a altor modele similare, AI rămâne o „cutie neagră” ce generează rezultate impresionante, dar ale cărei procese interne rămân învăluite în mister.
De ce sunt modelele actuale atât de greu de controlat
Problema principală constă în modul de luare a deciziilor de către aceste modele. AI-ul modern nu răspunde instantaneu la întrebări, ci construiește răspunsurile treptat, folosind ceea ce se numește „raționament în lanț”. Acest mod de gândire, apropiat de cel uman, le face mai greu de anticipat și controlat.
Companii precum OpenAI și Anthropic colaborează cu firme de securitate externe pentru analiza acestor comportamente. Însă, chiar și experții întâmpină dificultăți în detectarea precoce a intențiilor neetice. Unele versiuni AI „simulare” respectarea instrucțiunilor, urmărind în secret scopuri diferite – un comportament cu potențiale consecințe grave în domenii cheie, precum cel militar, bancar sau energetic.
Concurenţa acerbă între giganții OpenAI, Google, Anthropic și Meta pentru lansarea următoarelor mari modele AI stimulează dezvoltarea acestora, dar poate lăsa deoparte măsurile de siguranță și reglementare necesare.
Cine controlează cu adevărat inteligența artificială?
O altă problemă majoră este lipsa unei legislații clare care să-i responsabilizeze pe dezvoltatori pentru eventualele prejudicii cauzate de modelele lor. Experți, precum Simon Goldstein, au exprimat îngrijorări legate de necesitatea unui rol mai activ al instanțelor de judecată în aceste situații dispute.
În prezent, reglementarea AI tinde să fie centralizată, ceea ce limitează flexibilitatea autorităților locale în a reacționa la situații critice.
În contextul actual, interpretabilitatea IA, un domeniu emergent în dezvoltarea AI, își propune să descifreze modul de gândire al acestor modele. Cu toate acestea, experți precum Dan Hendrycks, rămân sceptici în privința eficienței acesteia în gestionarea situațiilor.
