Platforma YouTube se confruntă cu o nouă problemă, provocată de inundația de clipuri video generate de inteligență artificială care exploatează procesul intentat rapperului Sean „Diddy” Combs. Zeci de canale anonime au publicat sute de materiale cu miniaturi false, voci sintetizate, afirmații fabricate și asocieri scandaloase cu vedete precum Brad Pitt, Justin Bieber, Will Smith sau Joe Rogan, toate cu scopul de a obține rapid venituri.
În ultimul an, peste 900 de videoclipuri, provenite din 26 de canale, au acumulat aproape 70 de milioane de vizualizări, potrivit unui studiu realizat de The Indicator și publicat de The Guardian. Sub pretextul informării, aceste canale promovează „conținut AI de calitate scăzută” – un termen tot mai des întâlnit pentru materiale create automat și menite exclusiv să genereze trafic.
Mai grav, aceste materiale nu doar înșală publicul, dar exploatează trauma colectivă legată de acuzațiile grave din procesul lui Diddy, inclusiv abuz sexual. Adeseori, clipurile par să se bazeze pe știri reale sau imagini din instanță, însă sunt însoțite de titluri false, montaje video manipulate și voci robotizate care imită declarații ale vedetelor. În unele cazuri, creatorii au folosit chiar deepfake-uri video, ducând manipularea la un alt nivel.
YouTube promite filtre, dar inteligența artificială se strecoară prin ele
Deși YouTube declară că are politici stricte împotriva conținutului generat de inteligență artificială, menit să inducă în eroare sau să răspândească dezinformare, realitatea este alta. Platforma a eliminat recent 16 canale implicate în distribuirea acestor clipuri și a demonetizat altele, însă multe continuă să apară, fie că schimbând denumirea, fie că exploatând lacunele din sistemul automat de moderare.
În 2024, YouTube a fost obligat să elimine peste 1.000 de videoclipuri frauduloase generate de inteligență artificială care foloseau chipul și vocea unor personalități celebre pentru a promova produse false. De asemenea, gigantul YouTube a fost criticat pentru promovarea unui instrument AI de creare automată a miniiturilor – atât de eficient în a capta atenția, încât a stârnit reacții negative și din partea unor creatorilor de top, precum MrBeast, care s-a retras rapid de la utilizarea acestuia.
Deși Alphabet, compania-mamă, continuă investițiile semnificative în instrumente generative AI – inclusiv în motorul de căutare YouTube AI pentru abonații Premium și aplicația Shorts Video Generator dezvoltată cu Google DeepMind – este evident că utilizarea necontrolată a acestor tehnologii duce la o creștere a conținutului problematic, care trece peste filtre și influențează algoritmul de recomandare.
Profit rapid din confuzie și dezinformare
Cei care stau în spatele acestor canale înțeleg perfect strategiile lor. Wanner Aarts, un creator care recunoaște utilizarea inteligenței artificiale pentru producerea conținutului în masă, a declarat pentru The Guardian: „Dacă vrei să câștigi 50.000 de dolari rapid, primul lucru ar fi să vinzi droguri, dar probabil ar fi pe locul doi să pornești un canal despre Diddy.” Această afirmație, deși poate părea exagerată, reflectă clar profitabilitatea unei industrii obscure și în creștere rapidă.
Strategia este banală: creezi un videoclip AI cu o voce robotică care „citează” personalități în contexte fictive, pui un thumbnail atrăgător (poate chiar cu Diddy în lanțuri sau în compania unor vedete) și îl promovezi prin titluri incitante. Având în vedere algoritmul YouTube, dornic să mențină utilizatorii pe platformă cât mai mult, aceste materiale ajung inevitabil în fluxurile de recomandări, generând mii sau milioane de vizualizări.
Acest fenomen nu este singular pe YouTube – TikTok este deja invadat de canale similare care distribuie același conținut sub alte forme, încercând să ocolească filtrele și să profite de viralitate.
Ce poți face ca utilizator?
În fața acestei avalanșe de „conținut AI problematic”, trebuie să fii mai atent ca niciodată. Nu tot ce pare veridic, susținut de o voce sau imagine ale unei vedete, este real. Dacă observi un videoclip sensationalist legat de procesul lui Diddy sau de alte scandaluri importante:
- Verifică sursa canalului și istoricul acestuia.
- Caută știri oficiale despre subiectul respectiv.
- Raportă pe YouTube conținutul înșelător.
- Nu redistribui fără să certifi că este autentic.
Într-o eră în care granița dintre realitate și ficțiune digitală e din ce în ce mai estompată, responsabilitatea nu mai aparține doar platformelor, ci și ție, ca utilizator informat. YouTube poate filtra, însă raționamentul critic personal este cel mai bun antidot împotriva manipulării.
