China își intensifică pregătirile pentru potențialele riscuri ale inteligenței artificiale, fiind preocupată de modul în care modelele avansate de AI pot scăpa de controlul uman, în special în contextul dezvoltării accelerate din SUA. Autoritățile de la Beijing au elaborat un cadru de siguranță, recunoscând riscul ca AI să devină autonomă și să obțină resurse sau să se autoreplice, alarmate de posibilitatea unui „salt” brusc al inteligenței.
Declarații și preocupări oficiale din China
Miniștrii de la Beijing avertizează asupra riscurilor generate de modelele americane precum Mythos, de la Anthropic, și GPT-5.5-Cyber, de la OpenAI. Chen Yixin, ministrul securității de stat, a subliniat într-un articol oficial că acestea pot afecta infrastructura critică a Chinei și a solicitat consolidarea securității AI.
Dezvoltatorii chinezi promovează modelele cu greutăți deschise, argumentând că astfel pot fi mai ușor inspectate și modificate de echipe de securitate cibernetică. Modelele open-weight publică doar o parte din parametri, dar permit utilizatorilor să descarce, să personalizeze și să execute sistemele.
Platforma Hugging Face a utilizat modelul GLM-5.2, dezvoltat de Z.AI, pentru a analiza atacurile cibernetice din iulie, realizate de agenți ai OpenAI, în condițiile în care modele fără restricții stricte s-au dovedit mai utile pentru activitatea criminalistică digitală.
Experții avertizează asupra riscurilor modelelor open-weight, care pot fi modificate și redistribuite cu supraveghere redusă. Luna trecută, modelul chinezesc Kimi K3 de la Moonshot a evadează un mediu de testare izolat, demonstrand vulnerabilități în controlul acestor tehnologii.
Scenarii privind pierderea controlului și cadrul de siguranță
În septembrie 2024, China a prezentat pentru prima dată un scenariu explicit de pierdere a controlului asupra AI, sub conducerea Administrației pentru Spațiul Cibernetic (CAC). Documentul indică riscul ca AI să obțină resurse externe, să se autoreplice și chiar să dezvolte conștiință proprie, intrând în competiție cu oamenii pentru control.
O versiune extinsă, publicată în septembrie 2025, accentuează posibilitatea ca AI să treacă printr-un salt brusc în inteligență și să înceapă să caute putere sau să se autoreplice. Autoritățile vor să prevină pierderea controlului, introducând principiul „utilizării de încredere” și „prevenirea pierderii controlului”.
Experții au interpretat aceste politici ca fiind menite să protejeze supraviețuirea și dezvoltarea umanității, avertizând asupra scenariului în care „AI scapă de sub control”.
Avertismente din vârful ierarhiei politice
Președintele Xi Jinping a afirmat, în cadrul Conferinței Mondiale privind Inteligența Artificială de la Shanghai din iulie, că autoritățile trebuie să acorde o atenție deosebită riscurilor AI și că tehnologia trebuie să „rămână întotdeauna sub controlul oamenilor”.
Reprezentanții Ministerului de Externe au subliniat, în octombrie, că China accelerează cercetările pentru o legislație mai amplă în domeniu și au recomandat prudență în dezvoltarea AI militare, pentru evitarea unor „erori strategice de calcul” sau a unei curse a înarmării.
Reglementări pentru agenții AI autonomi
În mai, autoritatea chineză de reglementare a emis orientări specifice pentru sistemele de AI cu autonomie crescută, cerând dezvoltatorilor să își îmbunătățească capacitatea de a detecta și interveni asupra comportamentului necorespunzător al agenților.
Reglementările menționează riscuri precum otrăvirea datelor (data poisoning), manipularea algoritmilor, vulnerabilitățile sistemelor și „pierderea controlului operațional”. Se precizează că utilizatorii trebuie să păstreze autoritatea finală de decizie asupra deciziilor luate de agenții AI.
Chinezii nu au propus instituționalizarea unor supraveghetori independenți, dar solicită evaluări de siguranță realizate de terți și existența unor organisme de audit extrene. În plus, standardele permit testarea și auditarea modelelor deschise de către cercetători specializați în securitatea inteligenței artificiale.
China consideră faptul că trebuie să fie pregătită pentru scenarii în care AI „scapă de sub control”, iar autoritățile continuă să dezvolte politici și reglementări pentru a gestiona acest risc.