Inteligența artificială a cunoscut progrese rapide în ultimii ani, iar tehnologiile de clonare a vocii au devenit din ce în ce mai accesibile. Un studiu recent realizat de Consumer Reports (CR) relevă că multe aplicații în acest domeniu nu dispun de măsuri eficiente pentru a preveni fraudarea utilizatorilor, expunându-i riscului de a deveni victime ale escrocherilor.
Cum funcționează clonarea vocală și riscurile asociate?
Majoritatea aplicațiilor de clonare vocală permit crearea unei copii virtuale a vocii unei persoane utilizând doar un scurt fragment audio. Tehnologia poate fi folosită în mod legitim pentru dublajul filmelor, automatizarea narării sau editarea audio, dar fără măsuri de siguranță adecvate, poate fi exploatată de infractori.
Potrivit raportului CR, se înregistrează o creștere a cazurilor în care escrocii utilizează aceste tehnologii pentru a imita voci de rude, solicitând bani în numele acestora, sau pentru a crea declarații false ale unor personalități publice în scopuri dezinformative.
Aplicații vulnerabile la abuzuri
Studiul Consumer Reports a inclus șase companii care oferă servicii de clonare a vocii:
• Platformele ElevenLabs, Speechify, PlayHT și Lovo permit generarea de voci artificiale fără verificare explicită a consimțământului persoanei imitate. Utilizatorii trebuiau doar să bifeze o casetă pentru a indica acordul, fără alte proceduri.
• Descript și Resemble AI au implementat măsuri mai stricte pentru a preveni clonarea fără acord.
Mai mult, patru dintre serviciile analizate nu necesită decât un cont de email, dificultând identificarea abuzurilor.
Măsuri necesare pentru prevenirea fraudelor
Consumer Reports recomandă implementarea unor măsuri ferme pentru protecția utilizatorilor:
• Verificarea identității utilizatorilor înainte de a permite generarea de clone vocale.
• Solicitarea unor autentificări suplimentare pentru a confirma consimțământul persoanei al cărei discurs este copiat.
• Marcarea audio-urilor generate de AI pentru o identificare ulterioară.
• Restricționarea accesului la vocile unor personalități publice pentru a preveni răspândirea informațiilor false.
• Implementarea de filtre pentru a detecta automat tentativele de fraudă.
Rolul autorităților în protecția consumatorilor
În prezent, Comisia Federală pentru Comerț (FTC) din SUA are responsabilitatea de a se asigura că aceste produse nu sunt folosite în scopuri dăunătoare, dar experții solicită măsuri mai ferme.
Consumer Reports recomandă crearea unor noi reglementări pentru tehnologiile de clonare a vocii și alocarea de resurse suplimentare pentru investigarea abuzurilor.
În plus, procurorii generali ai statelor ar trebui să examineze dacă aceste instrumente AI încalcă legile privind protejarea consumatorilor.
O tehnologie cu potential benefic, dar periculoasă fără control
Deși clonarea vocală are aplicații utile, lipsa unor măsuri de securitate solide o face extrem de periculoasă. Fără reglementări adecvate, escrocii pot profita de aceste tehnologii pentru a obține beneficii ilegale și pentru a răspândi informații false. Pe măsură ce tehnologia AI progresează, este crucială colaborarea între companiile din domeniu și autorități pentru a preveni abuzurile.
