Prof. Dr. Yuval Noah Harari avertizează că avansul inteligenței artificiale poate duce la situații în care oamenii nu vor mai putea înțelege regulile și deciziile generate de aceste sisteme. El compară acest fenomen cu relația unei vaci cu persoana care o hrănește, în contextul în care vaca poate vedea cine o alimentează, dar nu poate percepe sistemul invizibil care determină proprietarul.
Riscul pierderii controlului asupra sistemelor automate
Harari subliniază că tehnologiile anterioare luau decizii umane, în timp ce inteligența artificială poate lua decizii și genera idei noi fără intervenție umană directă. De exemplu, poate crea conținut și poate decide ce idei să disemineze, ceea ce o transformă într-un agent al acțiunii.
Impactul asupra sistemelor economice și administrative
Istoricul îndeamnă la precauție privind dependența de sisteme atât de complexe încât oamenii nu vor mai putea înțelege cum funcționează. Potrivit acestuia, următorii 10-20 de ani pot aduce scenarii în care deciziile și regulile generatoare de AI devin invizibile și imposibil de controlat.
Responsabilitatea deciziilor automatizate
Harari citează un exemplu cotidian: aplici pentru un credit bancar, ești respins, dar nimeni nu poate explica motivul, deoarece decizia aparține unui algoritm. Astfel, responsabilitatea devine dificil de atribuit, ceea ce ridică probleme pentru democrație.
Conștientizarea și controlul tehnologiei
Deși nu consideră această situație inevitabilă, Harari afirmă că proiectarea și controlul sistemelor sunt în continuare responsabilitatea umană. Totuși, avertizează că pierderea controlului asupra regulilor poate avea loc înainte ca oamenii să realizeze această problemă.
