Site-urile NoaMedia
Cum poate red-teamingul automatizat să transforme securitatea agenților AI? OpenAI a achiziționat în 2025 startup-ul Promptfoo pentru a identifica și remedia vulnerabilitățile LLM în platforma sa. Această mișcare consolidează protecția tehnologiilor AI critice dezvoltate în Statele Unite.
Pe scurt:
- OpenAI a achiziționat Promptfoo pentru a securiza agenții AI prin red-teaming automatizat și identificarea vulnerabilităților modelelor lingvistice mari.
- Promptfoo oferă instrumente open-source folosite de peste 25% dintre companiile Fortune 500 pentru testarea securității LLM-urilor.
- Integrarea tehnologiei Promptfoo în platforma OpenAI Frontier va monitoriza automat riscurile de securitate și conformitatea agenților AI.
- Promptfoo a strâns 23 milioane de dolari și a fost evaluată la 86 milioane de dolari în iulie 2025; valoarea achiziției nu a fost dezvăluită.
securitate agenți AI și red-teaming automatizat la OpenAI
OpenAI a achiziționat Promptfoo, o companie startup specializată în securitatea modelelor lingvistice mari (LLM), pentru a îmbunătăți protecția agenților săi AI prin red-teaming automatizat. Această integrare urmărește identificarea și remedierea vulnerabilităților LLM în cadrul platformei OpenAI Frontier.
Promptfoo, fondată în 2024 de Ian Webster și Michael D’Angelo, dezvoltă instrumente care permit companiilor să testeze securitatea LLM-urilor. Printre acestea se numără o interfață și o bibliotecă open-source, utilizate de peste 25% dintre companiile din Fortune 500.
Impactul red-teaming automatizat asupra securității agenților AI
Tehnologia Promptfoo va fi integrată în platforma OpenAI Frontier, permițând evaluarea automată a fluxurilor de lucru agentice pentru identificarea riscurilor de securitate. Aceasta va monitoriza activitățile agenților AI pentru a detecta potențiale amenințări și a asigura conformitatea cu cerințele de securitate.
Dezvoltarea agenților AI independenți a crescut productivitatea, dar a deschis și noi căi pentru accesarea datelor sensibile sau manipularea sistemelor automatizate de către actori rău intenționați. Achiziția Promptfoo reflectă eforturile OpenAI de a securiza aceste tehnologii în operațiuni critice.
Detalii financiare și perspective
Promptfoo a strâns 23 de milioane de dolari de la înființare și a fost evaluată la 86 de milioane de dolari după runda de finanțare din iulie 2025, conform Pitchbook. Valoarea tranzacției cu OpenAI nu a fost făcută publică.
OpenAI intenționează să continue dezvoltarea ofertei open-source a Promptfoo, consolidând astfel instrumentele disponibile pentru securizarea agenților AI și reducerea vulnerabilităților LLM.
Noa Insight
OpenAI a achiziționat Promptfoo, un startup specializat în securitatea modelelor lingvistice mari, pentru a integra red-teaming automatizat în platforma sa Frontier. Această tranzacție vizează îmbunătățirea protecției agenților AI prin identificarea și remedierea vulnerabilităților în fluxurile de lucru agentice.
Implicații
Integrarea tehnologiei Promptfoo va permite evaluarea automată a riscurilor de securitate în agenții AI, monitorizând activitățile acestora pentru a detecta amenințări și a asigura conformitatea cu cerințele de securitate.
Elemente-cheie
- Red-teaming automatizat este un proces de testare a securității modelelor lingvistice mari pentru identificarea vulnerabilităților.
- Promptfoo a fost evaluată la 86 de milioane de dolari după o rundă de finanțare în iulie 2025, conform Pitchbook.
- Tehnologia Promptfoo va fi integrată în platforma OpenAI Frontier pentru monitorizarea și evaluarea fluxurilor de lucru agentice.
Sursa originală a acestui articol este https://techcrunch.com/2026/03/09/openai-acquires-promptfoo-to-secure-its-ai-agents/ (link)
