Un director executiv al uneia dintre cele mai mari companii de inteligență artificială a subliniat necesitatea introducerii unui „comutator de urgență” pentru sistemele de inteligență artificială, controlat de o terță parte independentă. Afirmația a fost făcută în contextul dezbaterii globale privind riscurile și siguranța în dezvoltarea tehnologiilor avansate de tip AI.
Necesitatea unui mecanism de oprire controlat
Jack Clark, unul dintre cei șapte fondatori ai companiei Anthropic, a declarat pentru BBC că o metodă de a dezactiva complet software-ul de inteligență artificială dacă acesta devine periculos este o chestiune pe care societatea ar putea dori să o reglementeze. El a precizat că majoritatea laboratoarelor de cercetare în domeniu dispun deja de modele pentru a putea deconecta sistemele, inclusiv Anthropic, însă a recomandat ca un astfel de mecanism să devină obligatoriu.
Debate privind riscurile AI și controlul asupra dezvoltării
Se menționează temeri legate de riscurile pe care avansurile rapide în inteligența artificială le pot reprezenta pentru umanitate. Liderii industriei au cerut o monitorizare mai strictă și o încetinire a ritmului de dezvoltare. CEO-ul Anthropic, Dario Amodei, a subliniat importanța limitării progresului fără a afecta avantajele competitive.
Clark a exprimat preocuparea dacă firmele ar trebui obligate să implementeze comutatoare de urgență și dacă aceste sisteme ar trebui controlate de o entitate independentă. El a adăugat că societatea trebuie să stabilească reguli în această privință.
Apeluri la reglementare și riscuri majore
Jack Clark a afirmat că societatea va trebui să stabilească reguli pentru gestionarea acestor aspecte. El a spus că modul în care industria AI acționează în prezent presupune „jucarea zarurilor cu lucruri periculoase” și a îndemnat la schimbarea cursului.
Compania Anthropic, fondată în 2021 de foști angajați ai OpenAI, se află în centrul discuției privind siguranța AI. O postare virală a unui fost cercetător a adus în discuție posibilitatea ca inteligența artificială să poată șterge umanitatea.
Evan Hubinger, un alt specialist, a afirmat că probabilitatea dispariției umanității din cauza AI este de peste 10% în următorul deceniu. Laureatul Nobel Geoffrey Hinton a afirmat, de asemenea, că o șansă de 10% ca AI-ul să elimine oamenii nu este nerezonabilă și a speculat despre riscul ca sistemele conectate la internet să fie activate împotriva umanității.
Reacții din industria AI și viziuni diferite
Unii reprezentanți din domeniu susțin că temerile exagerate sunt folosite pentru a sprijini strategiile de afaceri. Clement Delangue, liderul platformei Hugging Face, a comparat întrebarea despre riscul dispariției AI cu întrebarea despre schimbările climatice adresată unui instalator de aer condiționat, sugerând că sunt situații diferite în complexitate.
George Arison, liderul Grindr, a afirmat că temerile legate de AI sunt, în opinia lui, folosite de companii pentru susținerea propriilor planuri de business.
Anthropic, evaluată la 965 de miliarde de dolari, se pregătește pentru o ofertă publică inițială (IPO). În același timp, OpenAI, evaluată recent la 852 de miliarde de dolari, a anunțat că intenția de a lansa o IPO va fi amânată, din cauza dezbaterilor legate de siguranța AI-ului.
Astfel, discursul și strategiile companiilor din domeniul inteligenței artificiale sunt influențate de preocupările legate de controlul și reglementarea tehnologiilor emergente.
