**Anthropic avertizează asupra riscurilor dezvoltării rapide a inteligenței artificiale**
Compania de inteligență artificială Anthropic a solicitat marilor laboratoare din domeniu să ia în considerare o pauză coordonată în dezvoltarea tehnologică, argumentând că progresele accelerate pot duce la sisteme AI capabile să se îmbunătățească singure mai repede decât poate fi gestionat corespunzător.
Declarații și avertismente despre autoîmbunătățirea AI
Anthropic, creatoarea modelului Claude, a comunicat că abilitatea AI de a finaliza sarcini în mod autonom s-a dublat aproximativ la fiecare patru luni. Compania estimează că sistemele se află în direcția „autoîmbunătățirii recursivă”, adică a perfecționării continue fără intervenție umană.
Importanța gestionării riscurilor
Într-un mesaj publicat pe blogul companiei, Anthropic a afirmat că dacă sistemele AI vor putea să-și construiască succesori proprii, modalitățile de securizare, monitorizare și modelare a comportamentului vor deveni și mai critice. Compania consideră că o pauză în dezvoltare ar permite societăților să gestioneze mai bine implicațiile acestei tehnologii.
Posibilitatea apariției autoîmbunătățirii recursivă
Cofondatorii Jack Clark și Marina Favaro au scris că, deși încă nu s-a atins punctul de autoîmbunătățire recursivă, aceasta s-ar putea manifesta mai repede decât sunt pregătite majoritatea instituțiilor. Ei subliniază că această etapă nu este inevitabilă, dar riscurile specifice trebuie gestionate din timp.
Fondatori și evoluția companiei
Anthropic a fost înființată în 2021 de către Jack Clark, Jared Kaplan, Daniela Amodei și Dario Amodei. Toți patru au avut anterior funcții la OpenAI, fiind angrenați în zona de dezvoltare a modelelor avansate de inteligență artificială, dar au plecat din companie din motive legate de preocupările legate de siguranța în dezvoltarea AI.
Ascensiunea rapidă a valorii companiei
În ultimul an, Anthropic a înregistrat o creștere notabilă, valoarea sa estimată apropiindu-se de cea a OpenAI. Unele estimări indică faptul că ar fi depășit-o chiar în unele clasamente recente.
**Știrea este în curs de actualizare.**
