Cât de bine înțelegem inteligența artificială pe care o dezvoltăm rapid în fiecare zi? Dacă ai crezut că experții au sub control totul, pregătește-te pentru o revelație: chiar și creatorii unor modele de IA avansate recunosc că nu înțeleg exact cum funcționează acestea. Dario Amodei, CEO-ul companiei Anthropic și fost membru important al echipei OpenAI, a publicat un eseu în care afirmă clar că înțelegerea noastră actuală despre IA este superficială și incompletă.
Această declarație implică nu doar lumea tehnologică, ci și pe oricine este interesat de viitorul umanității. Când nici inginerii nu pot explica precis de ce un sistem AI alege anumite cuvinte sau greșește, ne putem întreba dacă ne jucăm cu focul.
Amodei subliniază că atunci când un sistem AI generează text sau rezumă documente financiare, nu există o explicație clară a deciziilor sale. De ce optează pentru un anumit cuvânt și nu pentru altul? De ce dă răspunsuri greșite, deși este de obicei corect? Aceste întrebări rămân fără răspuns pentru că, conform lui Amodei, „nu înțelegem la un nivel profund ce se petrece în interiorul acestor modele”.
Această lipsă de transparență nu este doar o problemă academică – este fără precedent în istoria tehnologiei. Majoritatea invențiilor tehnologice, de la mașinile cu aburi la circuitele electronice, s-au bazat pe o înțelegere profundă a principiilor lor. În schimb, IA se bazează pe statistici și modele antrenate pe cantități enorme de date. Nu pornește de la principii logice, ci mimează, fără a înțelege, creativitatea umană.
Cum își propune Anthropic să rezolve problema
Pentru a înțelege mai bine IA, Anthropic își propune să creeze un sistem de „RMN al inteligenței artificiale” în următorul deceniu. Scopul este de a înțelege cum funcționează aceste modele înainte ca acestea să devină incontrolabile.
Amodei explică că firma sa a început deja experimente în acest domeniu. În cadrul unui test, au introdus un defect într-un model și au cerut mai multor echipe să-l identifice. Unele echipe au reușit, demonstrând că există posibilitatea de a înțelege aceste sisteme.
Acest proces de analiză detaliată a IA nu este simplu, iar instrumentele actuale sunt limitate. Faptul că Anthropic se concentrează pe înțelegerea procesului intern, nu doar pe performanță, dă o direcție diferită față de alte companii.
De ce importanța interpretabilității înainte de a fi prea târziu
Inteligența artificială nu este doar o problemă tehnologică, ci una de viitor al civilizației. Amodei avertizează că IA va influența destinul omenirii, iar înțelegerea acesteia înainte de a transforma radical economia, viața cotidiană și viitorul umanității este esențială.
Motivul plecării lui Amodei de la OpenAI în 2020, alături de alți membri ai echipei, a fost îngrijorarea că siguranța era neglijată în favoarea profitului. Anthropic încearcă să găsească un echilibru: dezvoltarea IA, dar și controlul acesteia.
„Oamenii sunt îngrijorați”, spune Amodei, deoarece avem de-a face cu o tehnologie capabilă de decizii care scapă înțelegerii umane. Dacă nu înțelegem cum funcționează IA, aceasta ar putea lua decizii în locul nostru fără să știm de ce.
Această declarație a unui lider de top în domeniul IA trebuie să ne pună pe gânduri. Trăim o epocă în care tehnologia progresează mai rapid decât capacitatea noastră de înțelegere. Urmașii bătălii majore vor fi transparența și înțelegerea, nu viteza sau eficiența. Viitorul trebuie nu doar construit, ci și înțeles.
