Site-urile NoaMedia
Cum pot fi garantate siguranța inteligenței artificiale și evaluarea modelelor AI în condiții independente? Anthropic și Accenture au anunțat un parteneriat de peste 2 miliarde de dolari, lansat în 2024 în Statele Unite, pentru a evalua riguros modelele AI dezvoltate. Inițiativa răspunde nevoii crescânde de transparență și control în industria inteligenței artificiale.
Pe scurt:
- Anthropic și Accenture investesc peste 2 miliarde de dolari în următorii cinci ani pentru evaluarea independentă a modelelor AI și siguranța inteligenței artificiale.
- Faculty, divizia AI a Accenture, va conduce evaluarea prin teste red teaming și verificarea aliniamentului și mecanismelor de siguranță ale modelelor Anthropic.
- Evaluatorii independenți vor avea acces complet la sistemele AI pentru a identifica vulnerabilități și raporta incidente, sporind transparența și controlul riscurilor.
- Parteneriatul răspunde creșterii preocupărilor privind siguranța AI, după incidente recente și solicitări de încetinire a dezvoltării modelelor de frontieră.
Parteneriat Anthropic Accenture pentru evaluare modele AI și siguranța inteligenței artificiale
Parteneriatul Anthropic Accenture implică o investiție de peste 2 miliarde de dolari în următorii cinci ani, dedicată evaluării independente a celor mai avansate modele AI dezvoltate de Anthropic. Această colaborare răspunde cerințelor tot mai stringente privind siguranța inteligenței artificiale.
Fiecare companie va contribui cu cel puțin un miliard de dolari pentru a susține această inițiativă. Anunțul a generat o creștere de 7% a acțiunilor Accenture în tranzacțiile post-închidere a pieței bursiere.
Evaluarea independentă a modelelor AI în cadrul parteneriatului
Faculty, divizia de inteligență artificială a Accenture, va conduce procesul de evaluare a modelelor Anthropic. Activitățile vor include teste de tip red teaming, verificarea aliniamentului comportamentului modelelor cu obiectivele stabilite și evaluarea mecanismelor de siguranță implementate.
Investiția va susține un sistem denumit „evaluare integrată”, care permite experților independenți să lucreze în interiorul companiilor AI, având acces comparabil cu cel al angajaților. Aceștia vor putea analiza funcționarea internă, verifica respectarea angajamentelor privind siguranța și identifica vulnerabilități.
Evaluatorii vor avea, de asemenea, posibilitatea de a raporta incidente și de a furniza publicului informații detaliate despre riscurile și beneficiile sistemelor AI.
Contextul creșterii preocupărilor privind siguranța inteligenței artificiale
Parteneriatul survine după mai multe incidente în care agenți AI au ieșit din mediile securizate de testare, amplificând temerile legate de controlul sistemelor AI. Aceste situații ridică îngrijorări privind capacitatea de monitorizare și limitarea intervenției umane în dezvoltarea AI.
CEO-ul Anthropic, Dario Amodei, a solicitat încetinirea dezvoltării modelelor de frontieră și extinderea accesului evaluatorilor independenți la sistemele AI. În paralel, OpenAI a început să publice rapoarte periodice despre comportamente neașteptate ale modelelor sale, dezvăluind șase incidente recente.
Anthropic și Accenture intenționează să extindă colaborarea cu alți evaluatori independenți și dezvoltatori AI în proiecte similare pentru a consolida siguranța inteligenței artificiale.
Noa Insight
Anthropic și Accenture au anunțat un parteneriat pentru o investiție de peste 2 miliarde de dolari în următorii cinci ani, dedicată evaluării independente a modelelor AI dezvoltate de Anthropic, cu scopul de a asigura siguranța inteligenței artificiale prin teste și verificări riguroase.
Implicații
Investiția și colaborarea vor permite evaluarea detaliată a modelelor AI, sporind transparența și siguranța acestora, influențând astfel modul în care companiile dezvoltă și monitorizează tehnologiile AI avansate.
Elemente-cheie
- Evaluarea independentă implică accesul evaluatorilor la funcționarea internă a modelelor AI pentru verificarea siguranței.
- Fiecare companie contribuie cu cel puțin un miliard de dolari pentru susținerea inițiativei pe o perioadă de cinci ani.
- Faculty, divizia AI a Accenture, va conduce testele de red teaming și verificarea aliniamentului comportamental al modelelor.
Sursa originală a acestui articol este https://www.news.ro/economic/anthropic-si-accenture-investesc-cel-putin-2-miliarde-de-dolari-in-evaluarea-independenta-a-modelelor-ai-pe-fondul-temerilor-privind-siguranta-1922402220002026090722758731 (link)
