Site-urile NoaMedia
OpenAI ia în calcul încetinirea dezvoltării inteligenței artificiale pentru a preveni riscurile și a facilita reglementarea AI. CEO-ul Sam Altman a anunțat această posibilitate în discuțiile interne din această vară, la sediul companiei din Statele Unite. Măsura vizează siguranța inteligenței artificiale și cooperarea cu alte laboratoare din industrie.
Pe scurt:
- OpenAI ia în calcul încetinirea dezvoltării inteligenței artificiale pentru a asigura siguranța și a facilita reglementarea AI.
- CEO-ul Sam Altman propune o acțiune coordonată între laboratoare, deși unele companii ar putea refuza să participe.
- OpenAI și Anthropic cer Congresului SUA norme obligatorii de siguranță, inclusiv teste și raportări transparente până la sfârșitul anului.
- Companiile solicită reguli internaționale clare pentru încetinirea dezvoltării AI, temându-se că un AI ar putea crea un succesor necontrolat.
OpenAI discută încetinirea dezvoltării inteligenței artificiale pentru siguranță și reglementare AI
Încetinirea dezvoltării inteligenței artificiale reprezintă o opțiune luată în calcul de OpenAI pentru a asigura siguranța inteligenței artificiale și a facilita reglementarea AI. Sam Altman, CEO-ul OpenAI, a transmis angajaților că ar putea reduce ritmul dezvoltării celor mai avansate sisteme AI, sperând ca și alte companii să adopte o abordare similară.
Altman a menționat posibilitatea unei acțiuni coordonate între mai multe laboratoare, deși unele ar putea refuza să participe. În iulie, el discutase deja cu oficiali ai Casei Albe despre necesitatea moderării ritmului de dezvoltare a inteligenței artificiale.
Reglementare AI solicitată de OpenAI și Anthropic
OpenAI și rivala Anthropic au cerut Congresului american să adopte norme obligatorii de siguranță pentru dezvoltatorii de sisteme AI avansate. Chris Lehane, responsabil pentru afaceri publice la OpenAI, a subliniat că o dezvoltare accelerată a AI necesită mai mult decât angajamente voluntare.
El a solicitat impunerea unor reguli comune până la sfârșitul anului, inclusiv teste obligatorii, evaluări independente și raportarea transparentă a incidentelor de securitate.
Încetinire dezvoltare inteligență artificială și reguli internaționale
Companiile din domeniu avertizează că se apropie momentul în care o inteligență artificială ar putea crea singură un succesor fără control uman. OpenAI și Anthropic susțin că nu pot încetini singure dezvoltarea, deoarece acest lucru ar avantaja concurenții mai puțin prudenți.
OpenAI solicită reguli internaționale clare privind momentul și modalitatea de încetinire sau oprire a dezvoltării AI. Anthropic cere un mecanism legal și verificabil pentru o încetinire coordonată, poziție reafirmată recent.
La finalul lunii iulie, directorii Anthropic, OpenAI și Google DeepMind au semnat un apel către guverne pentru a se dota cu instrumente care să permită încetinirea dezvoltării inteligenței artificiale.
Aceste solicitări au apărut după demisia cercetătorului Jacob Coxon, care a trecut de la OpenAI la Anthropic și a criticat companiile pentru riscurile implicate în dezvoltarea AI.
Noa Insight
OpenAI analizează încetinirea dezvoltării inteligenței artificiale pentru a asigura siguranța și a facilita reglementarea sectorului. CEO-ul Sam Altman a propus o acțiune coordonată între companii, în contextul solicitărilor către Congresul american pentru norme obligatorii de siguranță în dezvoltarea sistemelor AI avansate.
Implicații
Inițiativa afectează modul în care companiile dezvoltă AI, subliniind necesitatea unor reguli comune și teste obligatorii. Aceasta poate influența concurența și colaborarea în industrie, precum și cadrul legal pentru dezvoltarea tehnologiilor AI.
Elemente-cheie
- Reglementarea AI presupune norme obligatorii, inclusiv teste și evaluări independente pentru siguranța sistemelor avansate.
- OpenAI și Anthropic solicită reguli comune până la sfârșitul anului pentru raportarea transparentă a incidentelor de securitate.
- Propunerea include un mecanism legal și verificabil pentru încetinirea coordonată a dezvoltării inteligenței artificiale.
Sursa originală a acestui articol este https://www.news.ro/economic/openai-ia-in-calcul-incetinirea-dezvoltarii-inteligentei-artificiale-le-ar-fi-confirmat-sam-altman-angajatilor-1922401211032026090622719663 (link)
