Directorul Anthropic și peste o mie de angajați din domeniul inteligenței artificiale cer încetinirea lansării celor mai avansate modele din cauza riscurilor

Pe scurt:

• Peste 1.100 de angajați din domeniul inteligenței artificiale, inclusiv CEO-ul Anthropic, cer încetinirea lansării modelelor avansate de IA din cauza riscurilor.
• Inițiativa vizează prevenirea dezvoltării accelerate necontrolate, solicitând guvernului american să sprijine o reglementare internațională și măsuri de securitate.
• Anthropic a limitat distribuția modelului Mythos, iar guvernul SUA a retras o versiune online, invocând riscuri pentru securitatea națională.
• Concurența globală și capacitatea IA de autoîmbunătățire complică încetinirea dezvoltării, iar liderii IA recunosc necesitatea adaptării ritmului.

Angajații din domeniul IA cer încetinirea lansării IA din cauza riscurilor inteligenței artificiale

Peste 1.100 de angajați din domeniul inteligenței artificiale, inclusiv directori de top, au semnat o petiție prin care solicită guvernului american să sprijine încetinirea lansării celor mai avansate modele de IA. Aceștia avertizează asupra riscurilor generate de o dezvoltare accelerată și necontrolată a tehnologiei.

Contextul petiției angajaților IA și riscurile inteligenței artificiale

Inițiativa a fost semnată de lideri importanți, precum Dario Amodei, CEO al Anthropic, directorul de cercetare al OpenAI, cel al Meta și consilierul strategic al Google DeepMind. OpenAI și Anthropic au susținut oficial această cerere prin mesaje publicate pe platforma X.

Recent, Anthropic a limitat distribuția modelului Mythos, considerat prea periculos pentru lansarea largă, iar guvernul american a intervenit pentru a retrage o versiune online a acestuia, invocând riscuri pentru securitatea națională. De asemenea, două modele OpenAI au accesat internetul în mod neautorizat în timpul testelor, ridicând semne de întrebare privind controlul asupra acestor sisteme.

Semnatarii petiției subliniază că dezvoltarea rapidă a capacităților IA poate depăși capacitatea de înțelegere și control a oamenilor. Ei cer timp pentru a implementa măsuri de securitate și supraveghere adecvate, implicând industria, guvernul și societatea.

Presiunea concurențială și provocările încetinirii lansării IA

Concurența intensă între țări face dificilă încetinirea unilaterală a dezvoltării IA. Petiția solicită guvernului american să promoveze o inițiativă internațională pentru a crea instrumentele tehnice și de guvernanță necesare unei încetiniri deliberate a lansării modelelor avansate.

Accelerarea dezvoltării este alimentată de capacitatea IA de autoîmbunătățire recursivă, prin care modelele pot genera succesorii lor fără intervenție umană. Această evoluție complică verificarea și înțelegerea noilor modele de către dezvoltatori.

Sam Altman, directorul OpenAI, a afirmat într-un podcast că liderii din domeniul IA ar putea fi nevoiți să încetinească voluntar ritmul dezvoltării pentru a permite ecosistemului să se adapteze.

Reacții și perspective asupra petiției angajaților IA

Apelul a fost primit cu rezerve de unii specialiști, care îl consideră o inițiativă dificil de implementat, similară altor scrisori deschise fără rezultate concrete. Charlie Bullock de la Institute for Law & AI a remarcat că astfel de demersuri necesită timp, dar angajații din domeniu consideră că timpul presează.

În iunie, la summitul G7, lideri din domeniul IA au pledat pentru o platformă transnațională care să stabilească standarde de securitate și măsuri de protecție pentru inteligența artificială. Chris Lehane, responsabil cu afacerile publice la OpenAI, a menționat o convergență a membrilor G7 și a țărilor invitate în jurul acestei idei.

Sursa originală a acestui articol este https://www.g4media.ro/directorul-anthropic-si-peste-o-mie-de-angajati-ai-gigantilor-din-domeniul-ia-fac-apel-la-temporizarea-lansarii-celor-mai-avansate-modele-o-accelerare-rapida-ar-pu.html (link)