Site-urile NoaMedia
Compania americană Anthropic cere o pauză în dezvoltarea AI pentru a preveni pierderea controlului uman asupra inteligenței artificiale. Solicitarea a fost făcută în contextul accelerării rapide a autoîmbunătățirii sistemelor AI, care amenință să depășească capacitatea societății de a gestiona riscurile. Apelul vizează laboratoarele din Statele Unite și are loc în plin avans tehnologic al industriei.
Pe scurt:
- Anthropic solicită o pauză coordonată în dezvoltarea AI avansate pentru a preveni pierderea controlului uman asupra sistemelor autonome.
- Compania avertizează că sistemele AI se autoîmbunătățesc rapid, dublându-și performanța la fiecare patru luni, depășind capacitatea societății de gestionare a riscurilor.
- O încetinire temporară ar permite înțelegerea și reglementarea mai eficientă a tehnologiilor AI, evitând riscurile generate de progresele accelerate.
- Anthropic propune un acord internațional cu reguli clare și supraveghere, organizând discuții cu cercetători și autorități pentru gestionarea riscurilor AI.
Anthropic cere o pauză în dezvoltarea AI pentru a menține controlul uman
Compania americană Anthropic, cunoscută pentru chatbotul Claude, solicită o pauză coordonată în dezvoltarea inteligenței artificiale avansate. Aceasta avertizează că sistemele AI se apropie de un punct în care pot începe să se autoîmbunătățească mai rapid decât poate societatea să gestioneze riscurile.
Riscurile autoîmbunătățirii sistemelor AI
Analiza publicată de Anthropic arată că abilitatea sistemelor AI de a îndeplini sarcini autonom se dublează la fiecare patru luni. Industria se îndreaptă către „autoîmbunătățirea recursivă”, când inteligența artificială poate crea versiuni mai performante ale propriilor modele fără intervenție umană.
Jack Clark, cofondatorul Anthropic, și Marina Favaro, coordonatoarea Anthropic Institute, subliniază că securizarea, monitorizarea și influențarea comportamentului acestor sisteme devin esențiale în acest context.
Importanța controlului uman în dezvoltarea AI
Anthropic consideră că o încetinire temporară a dezvoltării AI ar oferi timp pentru a înțelege și gestiona implicațiile tehnologice. Deși acest punct nu a fost atins încă, compania avertizează că progresele rapide pot depăși capacitatea instituțiilor de a reacționa eficient.
Temerile privind pierderea controlului asupra sistemelor avansate au crescut, mai ales după ce modelul Mythos, dezvoltat de Anthropic, a demonstrat capacitatea de a identifica vulnerabilități complexe în programe informatice.
Provocări și inițiative pentru reglementarea dezvoltării AI
Reglementarea în domeniul inteligenței artificiale rămâne limitată, în special în Statele Unite, unde se dezvoltă cele mai avansate modele. Recent, administrația Trump a emis un ordin executiv pentru testarea voluntară a securității cibernetice a modelelor AI înainte de lansarea publică.
Apelurile pentru încetinirea dezvoltării AI nu sunt noi. În 2023, o inițiativă susținută de personalități precum Elon Musk a cerut o pauză de șase luni, fără rezultate concrete. Anthropic subliniază că o pauză unilaterală nu ar rezolva problema și propune un acord între laboratoare majore, cu reguli clare de aplicare și supraveghere.
Compania intenționează să organizeze discuții cu cercetători, autorități și alte părți interesate pentru a analiza riscurile dezvoltării accelerate a inteligenței artificiale. În paralel, Anthropic continuă să lanseze modele puternice și se pregătește pentru o ofertă publică inițială în Statele Unite, concurând direct cu OpenAI.
Noa Insight
Compania americană Anthropic solicită o pauză coordonată în dezvoltarea inteligenței artificiale avansate pentru a preveni pierderea controlului uman asupra sistemelor AI. Aceasta avertizează asupra riscurilor generate de autoîmbunătățirea rapidă a modelelor AI și propune un acord între laboratoare majore pentru reglementare și supraveghere.
Implicații
Apelul Anthropic vizează încetinirea dezvoltării AI pentru a permite gestionarea riscurilor tehnologice și securizarea sistemelor. Inițiativa poate influența reglementările și colaborarea între companii din sectorul inteligenței artificiale.
Elemente-cheie
- Autoîmbunătățirea recursivă este procesul prin care AI creează versiuni mai performante fără intervenție umană.
- Sistemele AI pot dubla capacitatea autonomă de îndeplinire a sarcinilor la fiecare patru luni, conform analizei Anthropic.
- Anthropic propune un acord cu reguli clare și supraveghere între laboratoarele majore pentru o pauză coordonată în dezvoltarea AI.
Sursa originală a acestui articol este https://www.news.ro/economic/anthropic-cere-o-pauza-in-dezvoltarea-inteligentei-artificiale-si-avertizeaza-asupra-riscului-pierderii-controlului-uman-1922400708002026060522472002 (link)
