Site-urile NoaMedia
Cum poate Google să securizeze navigarea agentică în Chrome împotriva atacurilor sofisticate? Începând cu 2024, Google implementează User Alignment Critic, un model AI care verifică fiecare acțiune a asistentului Gemini în browser. Această măsură consolidează securitatea Chrome pentru utilizatorii din întreaga lume.
Pe scurt:
- Google a introdus în Chrome un nou strat de securitate pentru navigarea AI cu asistentul Gemini și modelul User Alignment Critic.
- Navigarea agentică permite AI-ului să execute acțiuni complexe online, dar crește riscul furtului de date și manipulării prin conținut malițios.
- User Alignment Critic verifică fiecare acțiune propusă de agent, prevenind execuția comenzilor riscante și solicitând aprobarea utilizatorului în situații sensibile.
- Google testează securitatea prin red-teaming automatizat și oferă recompense de până la 20.000 de dolari pentru vulnerabilități descoperite.
<h3Navigare agentică și User Alignment Critic în securitatea Chrome
Google introduce un nou nivel de securitate Chrome pentru navigarea agentică, integrând în browser funcții avansate prin asistentul AI Gemini. Această tehnologie permite agentului să execute acțiuni complexe online, precum navigarea, completarea formularelor și interacțiunea cu paginile web în mod autonom. Pentru a preveni riscurile asociate, Google a dezvoltat User Alignment Critic, un model AI separat care analizează și validează fiecare acțiune înainte de execuție.
Importanța navigării agentice și necesitatea protecției
Navigarea agentică presupune ca AI-ul să gestioneze singur sarcini complexe, cum ar fi accesarea site-urilor, extragerea informațiilor, completarea formularelor și gestionarea proceselor multi-etapă. Această autonomie crește eficiența, dar expune utilizatorii la riscuri precum furtul de date sau manipularea prin conținut malițios.
Atacurile de tip indirect prompt injection pot determina agentul să execute comenzi periculoase, cum ar fi divulgarea datelor personale sau inițierea de plăți neautorizate. Pentru a contracara aceste amenințări, Google implementează o arhitectură de securitate în straturi, cu User Alignment Critic ca element central.
Funcționarea User Alignment Critic în securitatea Chrome
User Alignment Critic este un model AI independent, protejat împotriva influențelor malițioase. Acesta verifică fiecare acțiune propusă de agent, respingând cele riscante sau irelevante. Sistemul analizează contextul, tipul site-ului și scopul utilizatorului, asigurând protecție împotriva manipulării și solicitând aprobarea utilizatorului în situații sensibile.
- verifică siguranța acțiunilor;
- analizează metadatele contextuale;
- previne manipularea prin izolarea de conținut malițios;
- returnează controlul utilizatorului în cazuri critice.
Componente suplimentare pentru securitatea navigării agentice
Google completează User Alignment Critic cu alte trei mecanisme esențiale. Origin Sets limitează accesul agentului la site-urile relevante pentru sarcina curentă, blocând iframe-urile și domeniile neimportante. Supravegherea utilizatorului impune confirmarea manuală pentru acțiuni sensibile, cum ar fi accesul la site-uri bancare sau parole salvate. Sistemul de detectare a prompt injection-ului scanează paginile pentru tentative de manipulare, colaborând cu Safe Browsing pentru blocarea conținutului suspect.
Testarea și consolidarea securității Chrome
Google utilizează un sistem automatizat de red-teaming, în care AI-ul generează scenarii de atac pentru a testa apărarea agentului. Îmbunătățirile rezultate sunt implementate rapid prin actualizările Chrome. În plus, compania oferă recompense de până la 20.000 de dolari pentru identificarea vulnerabilităților, subliniind angajamentul pentru o infrastructură sigură a navigării AI.
Prin User Alignment Critic și arhitectura de securitate în straturi, Google asigură un echilibru între inovație și protecție, diferențiind Chrome de alte soluții vulnerabile la atacuri precum phishing sau comenzi injectate. Navigarea agentică devine astfel un pas important în evoluția interacțiunii cu internetul, susținută de măsuri solide de securitate.
Noa Insight
Google a introdus un nou nivel de securitate în browserul Chrome pentru navigarea agentică, integrând funcții avansate prin asistentul AI Gemini. Această tehnologie permite agentului AI să execute acțiuni complexe online, iar sistemul User Alignment Critic verifică și validează fiecare acțiune pentru a preveni riscurile de securitate.
Implicații
Implementarea User Alignment Critic și a mecanismelor suplimentare consolidează protecția utilizatorilor Chrome, reducând riscurile de manipulare și acces neautorizat în navigarea agentică cu AI.
Elemente-cheie
- User Alignment Critic este un model AI independent care verifică și validează acțiunile agentului înainte de execuție.
- Origin Sets limitează accesul agentului la site-urile relevante pentru sarcina curentă, blocând domeniile neimportante.
- Sistemul de supraveghere impune confirmarea manuală pentru acțiuni sensibile, precum accesul la site-uri bancare sau parole salvate.
Sursa originală a acestui articol este https://playtech.ro/2025/google-introduce-un-nou-strat-de-securitate-in-chrome-pentru-navigarea-ai-cu-gemini-protectie-avansata-impotriva-atacurilor-si-actiunilor-nesigure/ (link)
