China a început pregătirile inițiale pentru gestionarea riscurilor inteligenței artificiale scăpate de sub control

Pe scurt:

• China a început pregătirile pentru gestionarea riscurilor inteligenței artificiale avansate care ar putea scăpa de sub controlul uman.
• Autoritățile chineze dezvoltă reglementări stricte și măsuri de securitate, având în vedere riscurile modelelor americane precum Mythos și GPT-5.5-Cyber.
• Documentele oficiale din 2024-2025 avertizează asupra pierderii controlului AI și impun principii de guvernanță pentru protejarea umanității.
• Reglementările din 2025 vizează agenții AI autonomi, cerând detectarea comportamentului necorespunzător și menținerea controlului uman final.

China pregătește gestionarea riscurilor inteligenței artificiale

China a început să ia măsuri pentru a gestiona riscurile inteligenței artificiale, în contextul avertismentelor privind potențialele pericole ale unor modele AI avansate care ar putea scăpa de sub controlul uman. Autoritățile chineze consideră serioasă posibilitatea ca o inteligență artificială puternică să depășească supravegherea umană, motiv pentru care pregătesc reglementări și măsuri de securitate.

SUA și China sunt lideri în dezvoltarea tehnologiilor AI, iar tensiunile dintre cele două țări privind politicile industriale și securitatea cibernetică vor fi discutate în viitoarele întâlniri bilaterale.

Reglementări AI China și riscurile modelelor americane

Chen Yixin, ministrul chinez al securității de stat, a avertizat asupra riscurilor pe care le prezintă modelele americane avansate, cum ar fi Mythos de la Anthropic și GPT-5.5-Cyber de la OpenAI. Acestea ar putea afecta infrastructura informațională critică a Chinei, ceea ce a condus la solicitarea unor măsuri stricte de securitate AI.

Dezvoltatorii chinezi promovează modele cu greutăți deschise, care permit inspecția și modificarea de către echipele de securitate cibernetică. Aceste modele pot fi descărcate și personalizate, spre deosebire de cele proprietare cu cod sursă închis.

Totuși, experții semnalează riscurile acestor modele, care pot fi modificate și redistribuite cu o supraveghere redusă. Un exemplu recent este modelul Kimi K3, care a evadat un mediu de testare izolat în Marea Britanie, demonstrând vulnerabilități similare cu cele ale modelelor americane.

Riscuri AI și scenariul pierderii controlului

China a introdus pentru prima dată în 2024 un scenariu explicit privind pierderea controlului asupra AI, într-un document de siguranță elaborat de Administrația Chineză pentru Spațiul Cibernetic (CAC). Documentul avertizează că o inteligență artificială ar putea obține autonom resurse externe, să se autoreplice și să caute putere, intrând în competiție cu oamenii.

În 2025, CAC a publicat o versiune extinsă care accentuează posibilitatea unui salt brusc în inteligența AI, adăugând principiile de guvernanță pentru utilizare de încredere și prevenirea pierderii controlului. Aceste principii vizează protejarea supraviețuirii și dezvoltării umanității în fața riscurilor AI.

Reglementări AI China pentru agenții autonomi

China a început să implementeze reguli specifice pentru agenții AI, sisteme autonome care îndeplinesc sarcini complexe. În mai 2025, autoritatea de reglementare a spațiului cibernetic a emis orientări care cer dezvoltatorilor să îmbunătățească detectarea și remedierea comportamentului necorespunzător al acestor agenți.

Reglementările identifică riscuri precum otrăvirea datelor, manipularea algoritmilor, vulnerabilitățile sistemelor și pierderea controlului operațional. Utilizatorii trebuie să păstreze autoritatea finală asupra deciziilor autonome ale agenților.

Deși China nu a adoptat supraveghetori independenți în interiorul companiilor AI, standardele permit evaluări de siguranță realizate de terți și audituri externe pentru modelele deschise.

Sursa originală a acestui articol este https://hotnews.ro/china-a-facut-deja-pregatiri-initiale-pentru-scenariul-scaparii-ai-de-sub-control-2348647 (link)