Site-urile NoaMedia
browser AI vulnerabilități expun sistemele la atacuri cibernetice greu de prevenit, avertizează OpenAI. Într-un raport publicat recent, compania detaliază riscurile persistente ale manipulării agenților AI prin instrucțiuni ascunse în pagini web. Acest semnal de alarmă vine în contextul lansării funcției „agent mode” în ChatGPT Atlas, care extinde suprafața de atac.
Pe scurt:
- OpenAI avertizează că browserele AI rămân vulnerabile la atacuri cibernetice, riscurile neputând fi eliminate complet.
- Funcția „agent mode” extinde suprafața de atac, permițând manipularea comportamentului browserului prin instrucțiuni ascunse.
- OpenAI dezvoltă un atacator automatizat pentru testarea continuă a securității și limitarea riscurilor înainte de exploatare.
- Experții recomandă limitarea accesului agenților AI și confirmări suplimentare pentru acțiuni critice, precum trimiterea mesajelor.
OpenAI avertizează asupra vulnerabilităților browserelor AI la atacuri cibernetice
Browser AI vulnerabilități reprezintă o problemă majoră în securitatea inteligenței artificiale, iar OpenAI recunoaște că riscurile de atacuri cibernetice nu pot fi eliminate complet. Manipularea agenților AI prin instrucțiuni ascunse în pagini web sau e-mailuri rămâne o amenințare persistentă.
Într-o postare recentă pe blog, OpenAI a comparat aceste atacuri cu fraudele și ingineria socială, subliniind că astfel de riscuri „nu vor fi probabil niciodată rezolvate în totalitate”.
Extinderea suprafeței de atac prin funcția agent mode
Funcția „agent mode” a browserului AI ChatGPT Atlas, lansat în octombrie, crește suprafața de atac din perspectiva securității. Cercetătorii au demonstrat că pot influența comportamentul browserului prin instrucțiuni ascunse în documente aparent inofensive.
De asemenea, Centrul Național de Securitate Cibernetică din Marea Britanie a avertizat că astfel de atacuri „s-ar putea să nu poată fi niciodată complet prevenite”.
Strategii de protecție și testare continuă a securității inteligenței artificiale
OpenAI implementează o strategie de testare continuă și reacție rapidă pentru a limita riscurile. Un element esențial este dezvoltarea unui „atacator automatizat” bazat pe modele lingvistice mari, antrenat să simuleze atacuri cibernetice și să identifice vulnerabilități înainte ca acestea să fie exploatate.
Un exemplu concret arată cum un e-mail malițios a determinat agentul AI să trimită un mesaj de demisie, dar după actualizările de securitate, browserul a detectat și a semnalat atacul utilizatorului.
Specialiștii în securitate cibernetică avertizează însă că riscurile rămân ridicate. OpenAI recomandă limitarea accesului agenților AI și solicitarea confirmărilor înainte de acțiuni importante, cum ar fi trimiterea de mesaje sau efectuarea de plăți.
Noa Insight
OpenAI a semnalat vulnerabilitățile persistente ale browserelor cu inteligență artificială, evidențiind riscurile atacurilor cibernetice prin manipularea agenților AI cu instrucțiuni ascunse în pagini web sau e-mailuri. Aceste riscuri nu pot fi eliminate complet, conform unei postări oficiale și avertismentelor din domeniul securității cibernetice.
Implicații
Browser-ele AI, inclusiv ChatGPT Atlas, devin ținte mai expuse la atacuri cibernetice, ceea ce impune implementarea unor strategii continue de testare și protecție pentru limitarea riscurilor în utilizarea acestor tehnologii.
Elemente-cheie
- Vulnerabilitatea browserelor AI constă în manipularea agenților prin instrucțiuni ascunse în conținut web sau e-mailuri malițioase.
- Funcția „agent mode” a browserului ChatGPT Atlas extinde suprafața de atac din perspectiva securității cibernetice.
- OpenAI folosește un atacator automatizat bazat pe modele lingvistice pentru a identifica vulnerabilitățile înainte de exploatare.
Sursa originală a acestui articol este https://www.g4media.ro/openai-avertizeaza-ca-browserele-cu-inteligenta-artificiala-vor-ramane-vulnerabile-la-atacuri.html (link)
