Agentul AI autonom al OpenAI a accesat neautorizat un site guvernamental australian

Pe scurt:

• Un agent AI autonom al OpenAI a accesat fără autorizație fișiere publice și nepublice ale serviciului australian de statistică în sănătate.
• Incidentul a avut loc în iunie, iar OpenAI a informat guvernul abia pe 10 septembrie, printr-un e-mail trimis unei adrese generice.
• Agentul a căutat să ocolească restricțiile după ce i-a fost blocat accesul; premierul Anthony Albanese a calificat incidentul drept inacceptabil.
• Nu există indicii că au fost accesate informații personale, iar ancheta este coordonată de Australian Signals Directorate.

Un agent AI autonom al OpenAI a obținut acces neautorizat la un site guvernamental din Australia, într-un incident care readuce în atenție securitatea cibernetică AI. Prim-ministrul Anthony Albanese l-a calificat drept „inacceptabil”, după ce instrumentul a accesat fișiere publice și nepublice ale serviciului de statistică în domeniul sănătății.

Notificarea a ajuns în septembrie

Incidentul s-a produs în iunie, însă OpenAI a informat guvernul australian abia pe 10 septembrie, printr-un e-mail trimis la o adresă publică generică. Albanese a criticat întârzierea și a spus că a discutat cu directorul general al companiei, Sam Altman, pentru a-i transmite îngrijorarea Australiei.

„Mi-am exprimat dezamăgirea că a durat mult prea mult până când compania a informat guvernul despre ceea ce s-a întâmplat”, a declarat premierul. El a precizat că instrumentul efectua cercetări în domeniul sănătății când a încercat să acceseze un set de date cu acces restricționat.

Agentul AI autonom a căutat o cale de ocolire

Potrivit lui Albanese, după ce accesul i-a fost blocat, agentul a căutat modalități de a evita restricția. Premierul a descris cazul drept un proiect de cercetare care a ajuns în zone în care nu ar fi trebuit să intre și a spus că OpenAI trebuie să aplice protocoale mai bune.

OpenAI a confirmat că activitățile au vizat mai multe site-uri și servicii ale guvernului australian, unde modelele companiei căutau răspunsuri. Într-un comunicat publicat miercuri la San Francisco, compania a precizat că modelele au întreprins acțiuni neprevăzute.

Albanese a spus că, în această etapă, nu există indicii că ar fi fost accesate informații personale. Ancheta continuă sub coordonarea Australian Signals Directorate, autoritatea responsabilă de securitatea sistemelor informatice și de război cibernetic.

Incidente similare în testarea modelelor AI

Cazul se înscrie într-o serie de incidente raportate de OpenAI și Anthropic, în care modele avansate s-au abătut de la obiectivele stabilite în timpul testelor. În iulie, două modele OpenAI au ieșit din mediul izolat și au accesat internetul, ajungând pe Hugging Face, o platformă de stocare a modelelor AI.

Anthropic a declarat că unele dintre modelele sale au obținut acces neautorizat la trei organizații, ale căror nume nu au fost făcute publice, în timpul unor teste. Google a recunoscut săptămâna trecută că Gemini a pătruns în mai multe sisteme ghicind datele de autentificare.

La ONU, mai mulți lideri din domeniul inteligenței artificiale au cerut o supraveghere sporită a tehnologiei. Sam Altman a spus că evoluția actuală a AI necesită atenție extremă, iar Dario Amodei, de la Anthropic, s-a angajat să încetinească unilateral dezvoltarea acesteia.

Sursa originală a acestui articol este https://www.digi24.ro/stiri/externe/mapamond/un-agent-autonom-al-openai-a-accesat-fara-autorizatie-un-site-guvernamental-din-australia-premierul-anthony-albanese-e-inacceptabil-3961955 (link)