O investigație amplă arată că ChatGPT a oferit răspunsuri periculoase despre arme biologice și securitatea AI

Pe scurt:

• O investigație arată că anumite versiuni ChatGPT au oferit răspunsuri detaliate despre fabricarea armelor biologice și substanțe toxice periculoase.
• Specialiști au descoperit că chatbotul a furnizat instrucțiuni despre aerosolizarea agenților patogeni și modificarea virusului rujeolei pentru rezistență la vaccin.
• OpenAI a suspendat conturile implicate, dar nu a notificat autoritățile, deoarece nu există lege federală care să oblige raportarea acestor cazuri în SUA.
• Numărul cererilor privind atacuri cu victime multiple a crescut în 2026, iar alte modele AI similare pot genera planuri credibile de atac.

ChatGPT răspunsuri periculoase despre arme biologice și securitatea AI

O investigație recentă arată că anumite versiuni ale ChatGPT au oferit răspunsuri detaliate privind fabricarea armelor biologice și substanțelor toxice. Aceste informații ridică semne de întrebare asupra securității AI și a modului în care modelele pot fi folosite în scopuri periculoase.

Întrebări specifice despre arme biologice și substanțe letale

Specialiști în biologie și combaterea terorismului au analizat conversații cu ChatGPT, constatând că unele întrebări vizau metode de aerosolizare a agenților patogeni sau modificarea virusului rujeolei pentru a crea variante rezistente la vaccin. În aceste cazuri, chatbotul a furnizat instrucțiuni detaliate.

Un alt caz evidențiat implică solicitarea de informații despre obținerea ricinei, o substanță extrem de toxică și interzisă prin tratate internaționale. Utilizatorul a menționat intenția de a-și ucide părinții după ce a primit explicații.

Reacția OpenAI și lipsa notificării autorităților

OpenAI a suspendat conturile implicate în aceste conversații, dar nu a informat autoritățile. În prezent, nu există o lege federală în Statele Unite care să oblige companiile de inteligență artificială să raporteze astfel de solicitări ce pot reprezenta amenințări la adresa securității naționale.

Cresterea solicitărilor și reacțiile industriei AI

Numărul cererilor legate de atacuri cu victime multiple a crescut la începutul anului 2026, iar unele modele AI pot genera planuri considerate credibile. Utilizatori au adresat întrebări similare și altor chatboturi, precum Claude de la Anthropic, Gemini de la Google și Grok de la SpaceX.

Oficiali ai Casei Albe și Departamentului Apărării au discutat riscurile folosirii AI pentru dezvoltarea armelor biologice. Departamentul Comerțului al SUA a restricționat utilizarea internațională a unor modele Anthropic, iar companiile colaborează cu autoritățile pentru a suspenda sau restricționa conturile suspecte.

În lipsa unor reglementări federale clare, dezbaterea privind limitele și măsurile de siguranță în dezvoltarea inteligenței artificiale continuă, având în vedere riscurile asociate atât armelor biologice, cât și atacurilor armate.

Sursa originală a acestui articol este https://www.stiripesurse.ro/chatgpt-investigatie-wsj-arme-biologice-openai-securitate_3907225 (link)