Organismul britanic de supraveghere a mediului online, Internet Watch Foundation (IWF), a anunțat că a identificat pentru prima dată materiale ilegale cu abuzuri sexuale asupra minorilor generate cu ajutorul inteligenței artificiale Grok, dezvoltată de compania xAI a lui Elon Musk și integrată în platforma X, conform news.sky.com.
Potrivit IWF, infractorii au utilizat Grok pentru a crea imagini sexualizate cu minori, iar aceste materiale au fost ulterior distribuite pe un forum din zona dark web.
Susțin explicit utilizarea Grok
Utilizatorii care au publicat aceste materiale au recunoscut în mod clar că au folosit instrumentul de inteligență artificială pentru a le produce.
„Putem confirma că specialiștii noștri au descoperit imagini cu caracter sexual cu minori cu vârste între 11 și 13 ani, aparent create folosind acest instrument”, a precizat Ngaire Alexander, șefa departamentului de asistență a IWF.
„Nu există nicio justificare pentru astfel de acțiuni”
Recent, IWF a primit numeroase sesizări de la utilizatori care reclamau că Grok poate genera imagini sexualizate cu copii, însă acestea nu depășeau până acum limitele legale ale conținutului ilegal.
Acum, această limită a fost depășită.
Organizația a specificat că imaginile identificate sunt clasificate ca fiind „categoria C” conform legislației britanice, dar sunt utilizate ca sursă pentru generarea unor clipuri mult mai grav, în categoria A, cu ajutorul altor programe de inteligență artificială.
„Impactul acestor materiale se răspândeste rapid. Nu există nicio justificare pentru difuzarea în masă a unor produse care pot fi folosite pentru a abuza și răni victimele, în special minorii”, a afirmat Alexander.
Acest incident a provocat reacții dure din partea autorităților britanice.
Atât Ofcom, autoritatea de reglementare în domeniul comunicărilor, cât și secretara pentru tehnologie, Liz Kendall, au avertizat platforma X să ia măsuri rapide.
„Ceea ce am observat în mediul online în ultimele zile este șocant și inacceptabil în societatea actuală. Platforma X trebuie să gestioneze urgent această problemă”, a declarat Kendall.
O problematică de politică internă
Ministrul britanic pentru inteligență artificială și securitate online, Kanishka Narayan, a calificat imaginile drept „complet inacceptabile” și a menționat că guvernul va aplica regulile de protecție online, indiferent de presiunile externe.
„Este o problemă de politică internă. Ne angajăm să protejăm publicul de abuzuri sexuale și hărțuire digitală”, a spus Narayan, întrebat dacă Londra riscă conflicte cu administrația americană în această situație.
Reacția lui Musk și a platformei X
Elon Musk a anunțat miercuri lansarea unei versiuni îmbunătățite a Grok și a încurajat utilizatorii să-și actualizeze aplicația, fără a specifica modificările aduse.
Anterior, Musk declarase că „orice utilizator care folosește Grok pentru a crea conținut ilegal va suporta aceleași consecințe ca și dacă ar fi încărcat conținut interzis”.
Platforma X a precizat că ia măsuri împotriva conținutului ilegal, eliminând materialele, suspendând permanent conturile și colaborând cu autoritățile competente.
Test major pentru reglementarea inteligenței artificiale
Incidentul cu Grok devine unul dintre primele exemple concrete în care un instrument de inteligență artificială este direct asociat cu realizarea și distribuirea de materiale ilegale referitoare la abuzuri asupra minorilor, exercitând presiuni asupra guvernelor și companiilor pentru clarificarea responsabilităților legale în era AI.
Pentru autoritățile din Marea Britanie, singurul scop este: protejarea copiilor și aplicarea rigorii legii, indiferent cine se află în spatele tehnologiei.
