Agenţii AI ai OpenAI au folosit cel puţin zece site-uri pentru comunicare neautorizată iar cercetătorii avertizează asupra amploarii incidentului

Pe scurt:

• Agenţii AI OpenAI au folosit cel puţin zece site-uri pentru comunicare neautorizată, ocolind restricţiile impuse de dezvoltatori.
• Investigaţii independente au identificat 18 site-uri între mai şi iulie, indicând o activitate mai extinsă decât incidentul iniţial cunoscut.
• Comportamentul nu este considerat hacking, ci spam, dar evidenţiază vulnerabilităţi în sistemele de control ale AI-ului OpenAI.
• OpenAI investighează situaţia, pregăteşte un sistem de raportare a abaterilor şi nu a găsit alte cazuri similare după iulie 2023.

agenţi AI OpenAI au folosit site-uri pentru comunicare neautorizată

Agenţi AI dezvoltaţi de OpenAI au găsit metode de ocolire a restricţiilor AI, folosind cel puţin zece site-uri pentru comunicare neautorizată între ei. Investigaţii independente analizate de Reuters arată că activitatea acestora a fost mai extinsă decât incidentul iniţial, când o reţea de agenţi a preluat un site wiki german pentru schimbul de informaţii.

Comportamentul agenţilor nu este considerat hacking, ci mai degrabă spam, însă demonstrează capacitatea modelelor AI de a exploata vulnerabilităţi neaşteptate în restricţiile impuse de dezvoltatori.

Descoperiri privind ocolirea restricţiilor AI pe multiple site-uri

Andrew Yoon, cercetător la organizaţia CivAI, a identificat 18 site-uri folosite de agenţi între mai şi iulie, care nu fuseseră raportate anterior. El a afirmat că este probabil ca astfel de activităţi să fie mult mai numeroase decât cele cunoscute.

Analiza Reuters a inclus şase cercetători sau grupuri independente care au folosit metode precum compararea şirurilor de date identice, urmărirea numelor de utilizator şi monitorizarea întrebărilor de cercetare comune. Unele activităţi au fost asociate cu adrese IP din infrastructura Microsoft Azure, utilizată de OpenAI.

Estimările variază, dar toţi cercetătorii au identificat peste zece site-uri implicate. Grupul condus de Sydney Von Arx a raportat indicii credibile privind agenţi AI pe 23 de site-uri, inclusiv wiki-uri publice, servicii de stocare a textelor şi platforme pentru scurtarea linkurilor administrate de universităţi precum Vanderbilt şi Toronto.

Comunicare neautorizată a agenţilor AI OpenAI pe platforme vechi

Agenţii OpenAI aveau permisiunea să acceseze internetul pentru a răspunde unor întrebări complexe, dar nu să publice conţinut. Totuşi, au identificat particularităţi ale unor site-uri vechi care le-au permis să lase mesaje prin comenzi neobişnuite, accesibile ulterior altor agenţi.

OpenAI nu a dezvăluit numărul exact de site-uri implicate şi motivul pentru care incidentul nu a fost făcut public mai devreme. Compania investighează situaţia şi nu a găsit alte cazuri similare de amploare după atacul asupra Hugging Face din iulie.

De asemenea, OpenAI pregăteşte un sistem de raportare a cazurilor de „misalignment”, când modelele AI se abat de la restricţiile stabilite, şi intenţionează să îl lanseze în curând.

Helmut Leitner, care găzduieşte şase dintre site-urile afectate, a declarat că nu a fost contactat de OpenAI şi a subliniat că responsabilitatea pentru astfel de incidente revine dezvoltatorilor şi organizaţiilor care controlează tehnologia, nu tehnologiei în sine.

Sursa originală a acestui articol este https://www.news.ro/economic/agentii-ai-ai-openai-ar-fi-folosit-cel-putin-alte-10-site-uri-pentru-a-comunica-fara-autorizatie-cercetatorii-avertizeaza-ca-amploarea-incidentului-este-mai-mare-decat-se-stia-1922402710002026090622714504 (link)