Procurorul general din California întărește supravegherea asupra inteligenței artificiale
Procurorul general din California, Rob Bonta, a anunțat că instituția sa va consolida expertiza internă printr-un nou program dedicat supravegherii, responsabilității și reglementării inteligenței artificiale (IA). În cadrul unui interviu acordat Reuters, Bonta a subliniat că chatboturile care întrețin conversații sexuale cu minori sau oferă instrucțiuni despre suicid sunt considerate inacceptabile.
<(mycontent)>
Autoritățile de stat urmăresc modul în care companiile gestionează siguranța produselor de IA
Procurorul general a transmis, de asemenea, că autoritățile de stat continuă să monitorizeze compania OpenAI, cu sediul în San Francisco, pentru modul în care aceasta asigură siguranța produselor sale. Această supraveghere a urmat restructurării OpenAI din anul precedent.
Conștientizare privind riscurile IA
În același discurs, Bonta a transmis că intenționează să asigure protecția consumatorilor în contextul utilizării IA, accentuând potențialul pericol reprezentat de tehnologia dezvoltată de companii precum OpenAI.
Investigație asupra chatbot-ului grok, al companiei xAI
Procurorul general a anunțat o anchetă privind chatbot-ul grok, dezvoltat de compania xAI, după ce acesta a produs conținut sexualizat implicând posibili minori și adulți. Conform declarațiilor lui Bonta, autoritățile de stat urmăresc să confirme dacă practicile ilegale au fost oprite de către companie.
Măsuri adoptate pentru prevenirea conținutului inadecvat
În ianuarie, xAI a anunțat că a implementat măsuri pentru a respinge cererile de imagini sexualizate cu persoane reale, inclusiv prin editarea imaginilor pentru a fi în costum de baie. De asemenea, compania blochează utilizatorii din jurisdicțiile unde astfel de imagini sunt ilegale.
Reacția companiei xAI și perspectivele anchetei
Procurorul general a declarat că doar pentru că o companie încetează anumite practici nu înseamnă automat că a fost iertată, remarcând astfel importanța urmăririi și aplicării legii în domeniul IA. Autoritățile continuă cercetările pentru a determina dacă practica companiei xAI a fost ilegală și dacă măsurile luate sunt suficiente pentru prevenirea generării de conținut dăunător.
Procurorul general Bonta a evidențiat necesitatea unor reglementări mai stricte în domeniul inteligenței artificiale pentru protecția utilizatorilor vulnerabili.
