Cum poate un model de inteligență artificială securitate să devină o amenințare pentru siguranța digitală? Anthropic a limitat accesul la Claude Mythos Preview, un AI capabil să identifice vulnerabilități software, disponibil doar pentru companii selectate în Europa. Decizia respectă legislația europeană AI, care reglementează strict utilizarea tehnologiilor cu risc ridicat.
Pe scurt:
- Anthropic limitează accesul la modelul AI Claude Mythos Preview, capabil să identifice vulnerabilități software critice, pentru a preveni riscuri majore.
- Modelul face parte din Project Glasswing, cu peste 40 de organizații, și poate detecta vulnerabilități zero-day greu de identificat prin metode tradiționale.
- Decizia respectă legislația europeană EU AI Act, care impune restricții și controale stricte pentru prevenirea utilizărilor abuzive și protejarea securității cibernetice.
- Reglementarea europeană nu poate opri dezvoltarea globală a tehnologiei, ceea ce creează riscuri asimetrice și provocări pentru securitatea digitală internațională.
Anthropic limitează accesul la noul model de inteligență artificială securitate
Anthropic a dezvoltat Claude Mythos Preview, un model de inteligență artificială securitate cu capacități avansate de identificare a vulnerabilităților software. Spre deosebire de alte sisteme AI, Mythos nu va fi lansat public, ci va fi accesibil doar unui grup restrâns de companii mari și organizații din domeniul securității cibernetice.
Modelul face parte din Project Glasswing, o coaliție ce reunește peste 40 de organizații, inclusiv Apple, Amazon, Microsoft și Google, alături de firme esențiale pentru infrastructura digitală. Restricționarea accesului răspunde riscurilor generate de capacitatea modelului de a descoperi și exploata vulnerabilități software, inclusiv breșe necunoscute anterior dezvoltatorilor.
Capabilități și riscuri ale modelului Claude Mythos Preview
Claude Mythos Preview poate scana aplicații și identifica vulnerabilități de tip „zero-day”, unele extrem de subtile și dificil de detectat prin metode tradiționale. Modelul a descoperit mii de bug-uri în software-uri populare, inclusiv în sisteme de operare și browsere majore, unele vechi de decenii sau testate intens fără rezultate.
Anthropic avertizează că aceste capabilități pot reprezenta un pericol semnificativ pentru economii, siguranța publică și securitatea națională. Modelul poate exploata vulnerabilități, ceea ce îl transformă într-o unealtă puternică atât pentru atacatori, cât și pentru apărare.
Legislația europeană AI și gestionarea riscurilor
Uniunea Europeană a salutat decizia Anthropic, care intră sub incidența EU AI Act, legislația europeană AI ce impune măsuri stricte de gestionare a riscurilor. Companiile trebuie să identifice potențialele utilizări abuzive ale modelelor, inclusiv pentru atacuri cibernetice, și să implementeze restricții tehnice și controale de acces.
Legea prevede cerințe explicite privind securitatea cibernetică, iar modelele trebuie dezvoltate și testate pentru a rezista la manipulări și utilizări neautorizate. Evaluările constante ale comportamentului modelelor, inclusiv în scenarii extreme, sunt obligatorii pentru a preveni riscuri sistemice.
Codul de bune practici adoptat de Anthropic solicită companiilor să prevină facilitarea atacurilor cibernetice sofisticate la scară largă, consolidând astfel protecția infrastructurii digitale.
Provocări și limite ale reglementării europene
EU AI Act nu poate opri progresul tehnologic global, ci doar condiționează dezvoltarea și distribuția modelelor în Uniunea Europeană. Modelele cu capabilități similare pot apărea în alte jurisdicții, precum SUA sau China, generând o asimetrie în gestionarea riscurilor.
Infrastructura digitală fiind global interconectată, vulnerabilitățile identificate într-un punct pot avea efecte în lanț la nivel mondial. Astfel, riscurile generate de modelele AI capabile să descopere și să exploateze vulnerabilități software rămân o provocare majoră pentru securitatea cibernetică internațională.
Noa Insight
Anthropic a dezvoltat Claude Mythos Preview, un model avansat de inteligență artificială pentru identificarea vulnerabilităților software. Accesul la acest model este limitat la un grup restrâns de companii mari și organizații din domeniul securității cibernetice, în conformitate cu reglementările europene privind siguranța publică.
Implicații
Restricționarea accesului la modelul Claude Mythos afectează modul în care companiile din securitatea cibernetică pot utiliza tehnologia, respectând cerințele stricte ale legislației europene pentru prevenirea riscurilor asociate exploatării vulnerabilităților software.
Elemente-cheie
- EU AI Act impune măsuri stricte pentru gestionarea riscurilor și restricționarea accesului la modele AI cu potențial abuziv.
- Claude Mythos Preview poate identifica vulnerabilități „zero-day” și este accesibil doar unor companii selectate din securitatea cibernetică.
- Companiile trebuie să implementeze controale tehnice și evaluări constante pentru a preveni utilizarea neautorizată a modelului AI.
Sursa originală a acestui articol este https://hotnews.ro/consecintele-pentru-siguranta-publica-pot-fi-severe-de-ce-alege-anthropic-sa-nu-lanseze-public-noul-model-ai-si-cum-ne-poate-proteja-legislatia-europeana-2216049 (link)






