Investigația se axează pe modul de utilizare a funcțiilor de editare a imaginilor din Grok. Conform surselor, aceste funcții ar fi permis „dezvelirea” virtuală a fotografiilor unor femei și minori fără consimțământul lor. Euronews evidențiază că situația s-a complicat odată cu introducerea unei opțiuni plătite, denumite „Spicy Mode”, capabilă să genereze conținut explicit.
Reacția Uniunii Europene, Grok, în fața acuzațiilor
Un purtător de cuvânt al instituției a criticat sever aceste funcționalități, calificându-le drept „ilegale, revoluționare și inacceptabile” în cadrul Uniunii Europene. În urma presiunii externe, platforma X a implementat restricții tehnice pentru a preveni modificarea imaginilor cu persoane reale în scopuri sexualizate, indiferent de tipul abonamentului.
Reprezentanții companiei au comunicat că au șters toate imaginile cu conținut sexual generate prin Grok, inclusiv cele cu minori, și au suspendat definitiv conturile utilizatorilor implicați. Platforma X a subliniat că acționează ferm împotriva conținutului ilegal și colaborează cu autoritățile competente în cazuri necesare.
Investigații internaționale și posibile sancțiuni
Cazul Grok este investigat și în alte țări, precum Franța, Regatul Unit, Germania și Australia. În anumite națiuni asiatice, utilizarea aplicației a fost complet interzisă. Comisia Europeană a solicitat informații suplimentare în conformitate cu Digital Services Act (DSA). În cazul confirmării încălcărilor legii, platforma X ar putea fi sancționată cu până la 6% din veniturile globale anuale.
Aceasta mai fost penalizată anterior de autoritățile europene. În decembrie anul precedent, Comisia a aplicat o amendă de 120 de milioane de euro pentru practici considerate înșelătoare, legate de sistemul de verificare a conturilor și de publicitate.