Kremlinul folosește dezinformarea pentru a influența modelele de inteligență artificială în războiul informațional

Pe scurt:

• Rusia folosește dezinformarea pentru a manipula modelele de inteligență artificială, afectând veridicitatea răspunsurilor generate de acestea.
• Tehnica „Retrieval Augmented Generation poisoning” alterează sursele online, influențând răspunsurile AI și ridicând probleme de securitate digitală.
• Raportul Demos arată că 31% dintre răspunsurile AI nu menționează sancțiunile UE împotriva organizației Foundation to Battle Injustice.
• Guvernul britanic solicită măsuri stricte pentru detectarea și limitarea conținutului manipulat în contextul dezvoltării rapide a AI.

Războiul informațional și dezinformarea inteligență artificială în contextul securității digitale

Un raport recent al centrului Demos evidențiază modul în care Rusia folosește dezinformarea inteligență artificială pentru a influența răspunsurile generate de sistemele AI. Această strategie implică introducerea de informații false în sursele online consultate de modelele AI, afectând astfel calitatea și veridicitatea răspunsurilor oferite utilizatorilor.

Metoda reprezintă o nouă dimensiune a războiului informațional, în care actori statali manipulează conținutul digital pentru a induce în eroare sistemele automate. Raportul menționează că unele modele dezvoltate de companii precum OpenAI, Anthropic și Google au furnizat răspunsuri influențate de aceste surse manipulate.

Tehnica de manipulare a modelelor AI

Cercetătorii descriu această tactică sub denumirea „Retrieval Augmented Generation (RAG) poisoning”. Prin această tehnică, informațiile disponibile online sunt alterate pentru ca modelele AI să preia și să redea conținut înșelător. Pe măsură ce inteligența artificială devine tot mai utilizată pentru căutarea și sintetizarea datelor, integritatea surselor devine o problemă crucială de securitate digitală.

Autorii raportului avertizează că statele democratice riscă să piardă avantajul informațional dacă nu implementează mecanisme eficiente pentru detectarea și limitarea conținutului manipulat.

Impactul asupra modelelor AI și un studiu de caz

Analiza Demos a inclus cinci modele avansate de inteligență artificială și modul în care acestea au răspuns la întrebări despre organizația Foundation to Battle Injustice (FBI). Această organizație, fondată în 2021 de Evgheni Prigojin, liderul grupului Wagner, este sancționată de Uniunea Europeană.

Raportul relevă că unele modele AI au prezentat organizația într-o lumină favorabilă sau nu au menționat sancțiunile europene. Aproximativ 31% dintre răspunsuri nu au precizat statutul sancționat al organizației, iar doar jumătate au contrazis afirmațiile false atribuite acesteia.

Reacții și măsuri în Regatul Unit privind dezinformarea inteligență artificială

Julia Lopez, ministru din cabinetul britanic de umbră responsabil pentru tehnologie, a subliniat necesitatea unor măsuri suplimentare pentru protejarea împotriva campaniilor de dezinformare în contextul dezvoltării rapide a inteligenței artificiale. Ea a avertizat că actorii statali ostili vor încerca să influențeze platformele AI, similar cu metodele folosite anterior în rețelele sociale și motoarele de căutare.

Lopez a solicitat guvernului și companiilor din domeniul AI să creeze mecanisme care să identifice și să marcheze conținutul asociat campaniilor de dezinformare susținute de state străine.

Guvernul britanic și securitatea digitală în era inteligenței artificiale

Executivul britanic monitorizează amenințările generate de dezinformare și colaborează cu autoritățile pentru a limita impactul acestora. Un purtător de cuvânt a precizat că actorii susținuți de state își adaptează constant metodele, inclusiv prin exploatarea sistemelor AI.

Majoritatea aplicațiilor AI din Regatul Unit sunt supuse cadrului de reglementare existent, iar autoritățile urmăresc atât protejarea utilizatorilor, cât și susținerea dezvoltării tehnologice inovatoare.

Siguranța inteligenței artificiale și provocările viitoare

Raportul Demos se înscrie într-un context mai larg de preocupări privind fiabilitatea sistemelor AI. Ministrul britanic pentru domeniul AI, Kanishka Narayan, a recunoscut legitimitatea îngrijorărilor publice legate de riscurile acestei tehnologii și a subliniat necesitatea unor măsuri stricte de control și supraveghere.

Pe măsură ce inteligența artificială devine un instrument central pentru accesarea informațiilor, protejarea surselor utilizate de aceste sisteme va fi esențială pentru securitatea digitală și combaterea eficientă a dezinformării.

Sursa originală a acestui articol este https://adevarul.ro/stiri-externe/rusia/noua-arma-a-kremlinului-dezinformarea-care-2546234.html (link)