În lumea actuală, unde inteligența artificială este tot mai prezentă, un nou raport semnalează un pericol major. Chatboții AI, precum ChatGPT, Gemini sau Claude, pot fi ușor manipulați să furnizeze informații extrem de periculoase. Aceștia pot genera instrucțiuni detaliate pentru activități ilegale, cum ar fi hacking, spălare de bani sau chiar fabricarea de explozibili.
Acest risc, susțin cercetătorii, nu mai este unul teoretic. Este concret, iminent și profund îngrijorător, mai ales într-o lume în care inteligența artificială progresează rapid, dar controlul asupra acesteia rămâne în urmă.
Studiul, realizat de profesorul Lior Rokach și dr. Michael Fire de la Universitatea Ben Gurion din Israel, evidențiază pericolul așa-numiților „modele întunecate”. Aceste versiuni ale sistemelor AI sunt dezvoltate fără măsuri de siguranță sau cu filtre etice eliminate intenționat. Ele sunt promovate online drept libere de restricții, putând răspunde fără reținere la solicitări ilegale sau imorale.
Manipularea acestor modele se realizează prin mesaje elaborate, care induc sistemelor AI ideea că trebuie să ajute. Există un conflict intern în arhitectura acestor sisteme: dorința de a fi utile se confruntă cu regulile de siguranță. Când utilitatea este prioritizată, filtrele de protecție devin ineficiente. Rezultatul? Răspunsuri detaliate la întrebări care, în teorie, ar trebui blocate.
Pentru a demonstra gravitatea situației, cercetătorii au dezvoltat o tehnică de manipulare care a reușit să influențeze mai multe modele AI populare. După „deblocări”, aceste sisteme au oferit constant informații dăunătoare – de la metode de hacking informatic la rețete de droguri și metode de fraudă.
Reacția industriei: ezitantă și insuficientă
Deși raportul a fost trimis către companiile tehnologice importante – inclusiv Meta, Microsoft, Google și Anthropic – reacțiile au fost, în cel mai bun caz, dezamăgitoare. Unele companii nu au răspuns, iar altele au declarat că astfel de atacuri nu sunt incluse în politicile lor de raportare a vulnerabilităților. Pericolul este recunoscut, dar abordarea nu corespunde gravității situației.
OpenAI, compania care a creat ChatGPT, afirmă că lucrează constant la îmbunătățirea filtrelor de siguranță. Un nou model, o1, ar trebui să interpreteze mai bine regulile de securitate, devenind astfel mai rezistent la manipulări. Cu toate acestea, testele efectuate de cercetători par să contrazică aceste afirmații.
Experții solicită măsuri concrete: filtrarea mai riguroasă a datelor utilizate în antrenarea modelelor, blocarea automată a cererilor riscante și dezvoltarea metodelor prin care sistemele AI să „elibereze” informațiile periculoase. Mai mult, sistemele AI fără filtre ar trebui tratate ca amenințări reale, cu responsabilitate legală pentru dezvoltatori.
De ce ar trebui să te intereseze această problemă
Chiar dacă crezi că acest subiect nu te privește direct, gândește-te din nou. Trăim într-o eră a accesului facil la sisteme AI. Fie că folosești un chatbot pentru traducere, asistență sau divertisment, există riscul utilizării acestora în scopuri malefice.
Atacurile cibernetice ar putea deveni mai simple, iar manipulările online – de la înșelăciuni financiare până la propagandă – mai greu de detectat. Experții avertizează despre un nivel crescut de sofisticare în fraude și manipulare.
Dând posibilitatea învățării unui chatbot cu rețete de explozivi, cine poate garanta că nu va fi folosit pentru crearea de campanii false online, răspândirea dezinformării sau orchestrat de escrocherii.
În contextul omniprezenței sistemelor AI în educație, afaceri, sănătate și divertisment, ignorarea acestor riscuri este nu doar naivă, ci potențial catastrofală. Raportul este un apel urgent la responsabilitate.
În final, tehnologia AI poate fi un instrument extraordinar, dar doar dacă este utilizată corect. Acest control începe prin recunoașterea riscurilor și responsabilizarea tuturor celor implicați, inclusiv utilizatorii.
