Site-urile NoaMedia
Cât de periculoasă poate deveni autoîmbunătățirea recursivă în inteligența artificială? Anthropic, rivalul OpenAI, cere suspendarea cercetărilor pentru siguranța AI, avertizând asupra riscurilor unei evoluții necontrolate. Apelul lansat în 2024 în Statele Unite vizează o acțiune coordonată între liderii tehnologici.
Pe scurt:
- Anthropic cere suspendarea coordonată a cercetărilor în inteligența artificială din cauza riscului autoîmbunătățirii recursive necontrolate.
- Compania avertizează că AI se perfecționează singură la fiecare patru luni, ceea ce poate depăși capacitatea de control uman și ridică probleme de siguranță.
- O pauză coordonată ar permite dezvoltarea unor reguli clare și supravegherea riscurilor, evitând o cursă tehnologică nesigură între laboratoare rivale.
- Anthropic va organiza discuții cu factori de decizie și companii rivale pentru a gestiona aceste riscuri, în contextul reglementărilor lente din SUA.
Anthropic cere suspendarea cercetărilor în inteligență artificială pentru siguranța AI
Compania Anthropic, rivală a OpenAI, solicită o pauză coordonată în dezvoltarea inteligenței artificiale, avertizând asupra riscurilor generate de autoîmbunătățirea recursivă. Progresele rapide în domeniu ar putea permite sistemelor AI să se perfecționeze singure mai repede decât pot fi controlate.
Anthropic, creatoarea modelului Claude, a subliniat că abilitatea AI de a executa sarcini autonom s-a dublat la fiecare patru luni. Această tendință se apropie de punctul în care tehnologia poate evolua fără intervenția umană, ceea ce ridică probleme majore de siguranță.
Riscurile autoîmbunătățirii recursive în inteligență artificială
Startup-ul a explicat că, dacă sistemele AI pot genera propriile versiuni îmbunătățite, metodele de securizare și monitorizare devin esențiale. O pauză în cercetare ar oferi timp pentru a gestiona implicațiile acestei tehnologii.
Jack Clark și Marina Favaro, reprezentanți ai Anthropic, au precizat că autoîmbunătățirea recursivă nu este inevitabilă, dar ar putea apărea mai devreme decât sunt pregătite majoritatea instituțiilor.
Anthropic și provocările dezvoltării sigure a inteligenței artificiale
Fondată în 2021 de foști angajați OpenAI, Anthropic a crescut rapid, ajungând aproape la valoarea rivalului său. Deși chatbotul Claude este mai puțin popular decât ChatGPT, compania a câștigat încrederea investitorilor prin instrumentele AI destinate programatorilor și mediului de afaceri.
Compania a decis să nu lanseze modelul Mythos, considerat prea periculos, prezentându-l doar unor companii selectate. Îngrijorările privind controlul asupra AI au crescut, în contextul în care reglementările avansează lent, în special în Statele Unite.
Apelul Anthropic pentru o acțiune coordonată în domeniul inteligenței artificiale
Anthropic avertizează că o pauză unilaterală ar avea efecte limitate și ar schimba doar liderul cursei tehnologice, fără a crea un proces de deliberare amplu. Compania susține că o încetinire semnificativă necesită un acord între mai multe laboratoare bine finanțate și reguli clare privind condițiile și supravegherea acesteia.
Divizia de cercetare Anthropic Institute va reuni în următoarele luni factori de decizie, cercetători și companii rivale pentru a discuta gestionarea riscurilor legate de autoîmbunătățirea recursivă. OpenAI, xAI, Alphabet, Meta și Mistral nu au comentat încă această inițiativă.
Noa Insight
Anthropic, rivală a OpenAI, solicită o suspendare coordonată a cercetărilor în inteligența artificială din cauza riscurilor generate de autoîmbunătățirea recursivă a sistemelor AI. Compania avertizează că progresele rapide pot permite AI să evolueze autonom, ceea ce ridică probleme majore de siguranță și control.
Implicații
Apelul pentru o pauză coordonată vizează crearea unui cadru comun între laboratoare pentru gestionarea riscurilor, evitând o competiție unilaterală care ar schimba doar liderul dezvoltării AI.
Elemente-cheie
- Autoîmbunătățirea recursivă se referă la capacitatea AI de a-și genera versiuni îmbunătățite fără intervenție umană.
- Abilitatea AI de a executa sarcini autonom s-a dublat la fiecare patru luni, conform Anthropic.
- O pauză în cercetare necesită un acord între mai multe laboratoare și reguli clare de supraveghere.
Sursa originală a acestui articol este https://hotnews.ro/principalul-rival-al-openai-cere-suspendarea-tuturor-cercetarilor-in-ai-risca-sa-scape-de-sub-control-2265404 (link)
