Google DeepMind lansează institutul pentru extinderea dezbaterii despre inteligența artificială generală și siguranța AI

Pe scurt:

• Google DeepMind a lansat DeepMind Institute pentru a extinde dezbaterile despre inteligența artificială generală și siguranța AI, reunind experți de top.
• Institutul evidențiază diferențele de opinie privind AGI și publică eseuri despre politici economice, transparență și evaluarea modelelor AI avansate.
• Demis Hassabis propune o autoritate americană pentru evaluarea modelelor AI, cu revizuire voluntară de 30 de zile și teste independente obligatorii.
• Cercetătorii avertizează asupra riscului „adâncimii seriale opace” și recomandă gestionarea compromisurilor pentru transparența raționamentului AI.

Google DeepMind lansează institutul pentru dezbaterea inteligenței artificiale generale

Google DeepMind a inaugurat DeepMind Institute pentru a extinde discuțiile despre inteligența artificială generală și siguranța AI. Institutul reunește experți precum Shane Legg, cofondator DeepMind și redactor-șef, James Manyika, executiv Google, și Demis Hassabis, președintele Google DeepMind.

Institutul urmărește să evidențieze diferențele de opinie între Google, DeepMind și comunitatea globală de cercetare privind inteligența artificială generală. Aceste perspective pot evolua pe măsură ce apar noi date și informații în domeniul în continuă schimbare.

Evaluare modele AI și politici pentru gestionarea impactului AGI

Prima serie de patru eseuri publicate de institut abordează subiecte diverse, inclusiv politici economice pentru gestionarea perturbărilor cauzate de inteligența artificială generală, păstrarea transparenței în raționamentul modelelor AI și principii pentru prosperitatea umană. Un accent special este pus pe dezvoltarea unui cadru pentru evaluarea modelelor AI de ultimă generație.

Rohin Shah și Anca Dragan, cercetători în siguranța AI la DeepMind, susțin că reducerea transparenței în raționamentul modelelor nu este inevitabilă. Ei avertizează asupra riscului creșterii „adâncimii seriale opace”, adică a cantității de calcul secvențial efectuat fără o urmă lizibilă a raționamentului. Autorii recomandă ca dezvoltatorii și reglementatorii să gestioneze aceste compromisuri pentru a menține monitorizarea eficientă a modelelor.

Propuneri pentru o autoritate de evaluare modele AI

Demis Hassabis propune crearea unei autorități americane pentru standardele modelelor AI de ultimă generație. Aceasta ar evalua modelele înainte de lansare, cu o perioadă voluntară de revizuire de până la 30 de zile. Ulterior, trecerea testelor ar putea deveni obligatorie pentru implementarea modelelor în Statele Unite.

Autoritatea ar dezvolta inițial evaluările în colaborare cu companiile AI, dar ar introduce teste independente și nedivulgate pentru a preveni adaptarea modelelor la criteriile cunoscute. Hassabis menționează că acest cadru poate fi extins, inclusiv prin încetinirea coordonată a dezvoltării AI, dacă situația o impune.

Sursa originală a acestui articol este https://techcrunch.com/2026/09/17/google-deepmind-launches-institute-to-widen-the-agi-debate/ (link)