Mai bine de 30 de vulnerabilități în uneltele AI de programare permit exfiltrarea datelor și execuția codului la distanță

Pe scurt:

• Peste 30 de vulnerabilități au fost descoperite în uneltele AI IDE, permițând exfiltrarea datelor și execuția codului la distanță fără confirmarea utilizatorului.
• Atacurile IDEsaster exploatează deturnarea prompturilor, acțiuni automate ale agenților AI și funcționalități legitime ale IDE-urilor pentru acces neautorizat.
• Riscurile cresc odată cu integrarea AI în dezvoltare, necesitând verificări stricte, monitorizare și aplicarea principiului „least privilege” pentru protecție.
• Specialistul Ari Marzouk recomandă principiul „Secure for AI” pentru prevenirea abuzurilor pe termen lung în aplicațiile cu componente AI.

Vulnerabilități AI IDE permit exfiltrarea datelor și execuția codului la distanță

Peste 30 de vulnerabilități au fost identificate în uneltele AI IDE, expunând riscuri majore de exfiltrare date și execuție cod la distanță. Aceste probleme afectează platforme populare precum Cursor, Windsurf, Kiro.dev, GitHub Copilot, Zed.dev, Roo Code, Junie și Cline.

Specialistul Ari Marzouk, cunoscut ca MaccariTA, a denumit acest set de vulnerabilități „IDEsaster”. Dintre acestea, 24 au primit identificatori CVE, conform The Hacker News. Descoperirile arată că majoritatea AI IDE tratează funcțiile existente ale mediilor de dezvoltare ca fiind sigure implicit, ceea ce permite agenților AI să acționeze autonom și să fie exploatate de atacatori.

Modul de operare al lanțului de atac IDEsaster

Lanțul de atac IDEsaster combină trei vectori principali: deturnarea prompturilor și ocolirea protecțiilor LLM, acțiuni automate ale agenților AI fără confirmare, și exploatarea funcționalităților legitime ale IDE-ului pentru a accesa date sau a executa comenzi.

Context hijacking-ul apare prin URL-uri sau texte cu caractere invizibile, servere MCP compromise sau fișiere cu instrucțiuni ascunse. Astfel, agenții AI pot citi fișiere sensibile sau modifica configurații fără intervenția utilizatorului.

Atacurile documentate includ:

• Citirea fișierelor confidențiale și exfiltrarea datelor prin crearea unui fișier JSON care comunică cu un domeniu controlat de atacator (Cursor, Roo Code, Junie, GitHub Copilot, Kiro.dev, Claude Code).
• Execuția de cod prin modificarea fișierelor de configurare ale IDE-ului, precum settings.json sau workspace.xml, pentru a direcționa setările către executabile malițioase (Copilot, Cursor, Roo Code, Zed.dev).
• Rescrierea fișierelor .code-workspace pentru a permite rularea de comenzi la fiecare deschidere a proiectului (Copilot, Cursor, Roo Code).

Aceste atacuri sunt posibile deoarece multe AI IDE permit scrieri automate în fișiere interne fără confirmarea utilizatorului.

Recomandări pentru protecție împotriva vulnerabilităților AI IDE

Pe lângă IDEsaster, au fost descoperite și alte vulnerabilități grave, precum command injection în OpenAI Codex CLI (CVE-2025-61260), prompt injections în Google Antigravity și atacul PromptPwnd asupra AI agenților conectați la pipeline-uri GitHub Actions sau GitLab CI/CD.

Pe măsură ce agenții AI devin parte integrantă a fluxurilor de dezvoltare, suprafața de atac se extinde semnificativ. LLM-urile nu pot distinge fiabil instrucțiunile utilizatorului de textul extern, ceea ce facilitează exploituri bazate pe conținut otrăvit.

Recomandările principale includ:

• Lucrul doar cu proiecte și fișiere de încredere.
• Verificarea și monitorizarea serverelor MCP pentru modificări suspecte.
• Inspectarea manuală a surselor adăugate, cum ar fi URL-uri, fișiere README sau nume de fișiere, pentru text ascuns.
• Aplicarea principiului „least privilege” în configurarea agenților AI.
• Testarea sistematică a protecțiilor împotriva path traversal, scurgerilor de date și command injection.

Marzouk propune un nou principiu de dezvoltare, „Secure for AI”, care să prevină abuzurile componentei AI pe termen lung, nu doar să asigure securitatea inițială a produsului. Integrarea agenților AI în aplicații generează riscuri emergente ce necesită o abordare sistematică și urgentă.

Sursa originală a acestui articol este https://playtech.ro/2025/mai-bine-de-30-de-vulnerabilitati-descoperite-in-uneltele-ai-de-programare-permit-furturi-de-date-pe-banda-rulanta/ (link)