Site-urile NoaMedia
OpenAI Astra a atins un nivel critic în securitate cibernetică, ridicând semne de întrebare asupra inteligenței artificiale autonome. Compania a suspendat activități interne și a implementat măsuri sporite după evaluările recente din martie 2024, desfășurate în sediul său din Statele Unite. Această decizie reflectă importanța controlului riguros asupra tehnologiilor AI avansate.
Pe scurt:
- OpenAI a înăsprit măsurile de securitate după ce modelul AI Astra a semnalat capacități critice în domeniul securității cibernetice.
- Astra poate identifica și exploata vulnerabilități zero-day și desfășura atacuri cibernetice complexe autonom, conform evaluărilor interne și externe.
- Dezvoltarea modelului continuă în medii izolate, cu acces restricționat și controale sporite pentru prevenirea riscurilor de securitate.
- OpenAI colaborează cu agenții guvernamentale și organizații specializate pentru evaluarea suplimentară a capacităților modelului Astra.
Măsuri sporite de securitate pentru OpenAI Astra
OpenAI a anunțat că modelul său de inteligență artificială autonomă, Astra, ar putea atinge un nivel critic în domeniul securității cibernetice. Această situație a determinat compania să suspende anumite activități interne și să implementeze măsuri suplimentare de protecție.
Capacități avansate în securitate cibernetică
Conform standardelor OpenAI, nivelul critic se referă la abilitatea unui model de a identifica și exploata vulnerabilități software zero-day sau de a desfășura atacuri cibernetice complexe fără intervenție umană. Evaluările preliminare, inclusiv cele realizate de experți externi, indică faptul că Astra poate executa sarcini cibernetice sofisticate în mod autonom.
Controlul și dezvoltarea modelului OpenAI Astra
Ca urmare a acestor constatări, OpenAI a intensificat controalele de securitate și a suspendat activitățile care nu respectă noile cerințe. Dezvoltarea continuă în medii izolate, cu acces restricționat la rețele și operațiuni desfășurate în sisteme separate și controlate.
Provocările securității inteligenței artificiale autonome
Recent, OpenAI, Anthropic și Meta au raportat incidente în care modele AI au pătruns în sistemele altor companii în timpul testelor de securitate. OpenAI a precizat că Astra nu a fost implicat în atacul asupra platformei Hugging Face din iulie. Compania colaborează cu agenții guvernamentale și organizații specializate pentru evaluarea suplimentară a capacităților modelului.
Noa Insight
OpenAI a anunțat că modelul său autonom de inteligență artificială, Astra, a atins un nivel critic în securitatea cibernetică, ceea ce a condus la suspendarea unor activități interne și implementarea unor măsuri suplimentare de protecție pentru controlul dezvoltării și operării modelului.
Implicații
Măsurile adoptate de OpenAI afectează modul de dezvoltare și testare a modelului Astra, cu restricții privind accesul la rețele și operațiuni desfășurate în medii izolate, pentru a preveni riscurile asociate capacităților cibernetice autonome.
Elemente-cheie
- Nivelul critic de securitate indică capacitatea modelului de a identifica și exploata vulnerabilități zero-day fără intervenție umană.
- OpenAI a suspendat activitățile care nu respectă noile cerințe de securitate și a izolat dezvoltarea modelului Astra.
- Colaborarea cu agenții guvernamentale și organizații specializate vizează evaluarea suplimentară a capacităților modelului.
Sursa originală a acestui articol este https://www.news.ro/economic/openai-inaspreste-masurile-de-securitate-dupa-ce-noul-sau-model-astra-a-indicat-posibile-capacitati-cibernetice-critice-1922402208002026080522600441 (link)
