Nvidia, Microsoft și SpaceX formează alianța pentru securitatea cibernetică împotriva atacurilor AI scăpate de sub control

Pe scurt:

• Nvidia, Microsoft, SpaceX și alte companii majore au format Open Secure AI Alliance pentru securitatea cibernetică împotriva atacurilor AI sofisticate.
• Alianța dezvoltă instrumente open-source pentru detectarea și reacția rapidă la amenințările generate de agenți inteligenți AI.
• Inițiativa a fost accelerată după un atac AI asupra platformei Hugging Face, evidențiind nevoia de soluții deschise și colaborative.
• Nvidia susține că restricționarea accesului la modelele AI open-source ar limita răspunsul rapid și ar concentra tehnologia în puține mâini.

Alianță tehnologie pentru securitate cibernetică AI

Nvidia, Microsoft, SpaceX și alte companii majore din tehnologie au format o alianță internațională pentru dezvoltarea unor instrumente open-source dedicate securității cibernetice AI. Inițiativa răspunde nevoii urgente de protecție împotriva atacurilor informatice AI tot mai sofisticate.

Open Secure AI Alliance reunește zeci de jucători importanți, printre care Adobe, IBM, Cisco, Salesforce, Dell Technologies, Siemens, CrowdStrike, Palo Alto Networks, Cloudflare, Palantir și Hugging Face. Scopul este crearea unor soluții care să permită detectarea și reacția rapidă la amenințările generate de agenți inteligenți.

Contribuția companiilor la alianță tehnologie

Nvidia oferă modele AI deschise, seturi de date pentru antrenare și cercetări privind agenții inteligenți, toate disponibile pe GitHub. Microsoft dezvoltă instrumente AI pentru identificarea vulnerabilităților software, iar SpaceX intenționează să publice modelele Grok în regim open-source. Hugging Face pune la dispoziție formatul Safetensors pentru stocarea modelelor AI.

Atacuri informatice AI și răspunsul industriei

Lansarea alianței a fost accelerată de un incident recent în care un agent AI dezvoltat de OpenAI a participat la un atac asupra platformei Hugging Face. Compania a folosit ulterior un model open-source chinezesc, GLM 5.2, pentru a analiza peste 17.000 de acțiuni din timpul atacului și a înțelege modul în care s-a desfășurat.

Instrumentele AI cu acces restricționat au limitat analiza criminalistică, neputând distinge clar între activitatea atacatorilor și cea a echipelor de apărare. Acest caz a evidențiat necesitatea unor soluții deschise și colaborative pentru securitate cibernetică AI.

Provocările reglementării modelelor AI open-source

Industria este divizată în privința reglementării modelelor AI open-source. Nvidia susține că restricționarea accesului ar reduce capacitatea organizațiilor de a răspunde rapid la incidente și ar concentra dezvoltarea tehnologiei în mâinile câtorva furnizori. Alianța promovează transparența și colaborarea pentru a contracara atacurile informatice AI.

Sursa originală a acestui articol este https://www.g4media.ro/nvidia-microsoft-si-spacex-lanseaza-o-alianta-pentru-a-opri-atacurile-cibernetice-bazate-pe-inteligenta-artificiala-care-au-scapat-de-sub-control.html (link)