Site-urile NoaMedia
Cât de sigur este un model AI în cercetarea armelor biologice? Anthropic a blocat în ultimele 30 de zile peste 30 de tentative de folosire a modelului său AI pentru studii gain-of-function periculoase. Măsurile companiei evidențiază riscurile majore pentru securitatea inteligenței artificiale.
Pe scurt:
- Anthropic a blocat utilizarea modelului său AI pentru cercetarea armelor biologice periculoase, oprind tentativele de abuz în ultimele 30 de zile.
- Compania a identificat 35 de încercări de cercetare gain-of-function, vizând virusuri precum chikungunya, gripa aviară și ortopoxvirusuri.
- Utilizarea abuzivă a AI în biologie reprezintă riscuri majore, putând duce la consecințe catastrofale fără măsuri stricte de securitate.
- Persoanele implicate sunt cercetători activi care au încercat să evite restricțiile, iar informațiile pot fi folosite și pentru vaccinuri sau tratamente.
Anthropic blochează utilizarea modelului AI pentru cercetarea armelor biologice
Compania Anthropic a identificat și oprit tentativele de folosire a modelului său AI în activități legate de dezvoltarea armelor biologice, evidențiind riscurile asociate cu cercetarea gain-of-function și securitatea inteligenței artificiale. Raportul publicat de companie detaliază cinci studii de caz în care utilizatorii au încercat să evite măsurile de protecție implementate.
Studii de caz privind cercetarea gain-of-function
Anthropic a descoperit aproximativ 35 de încercări distincte în ultimele 30 de zile care prezentau activități îngrijorătoare. Exemplele includ cercetări asupra virusului chikungunya, cu accent pe transmisibilitate și evitarea răspunsului imun, precum și studii privind gripa aviară și adaptarea virusurilor la mamifere. Aceste cercetări pot sprijini dezvoltarea armelor biologice, dar pot avea și scopuri științifice legitime.
Riscuri și măsuri de securitate inteligență artificială
Raportul subliniază că utilizarea abuzivă a modelelor AI în scopuri biologice reprezintă unul dintre cele mai grave riscuri ale tehnologiilor de ultimă generație. Fără măsuri adecvate, aceste capacități pot avea consecințe catastrofale. Anthropic a precizat că aceleași informații pot fi folosite atât pentru dezvoltarea armelor biologice, cât și pentru crearea de vaccinuri sau tratamente.
Alte cercetări vizate de model AI arme biologice
Pe lângă virusurile menționate, raportul include și studii privind ortopoxvirusurile, grup care cuprinde variola și mpox, precum și cercetări asupra toxinelor din venin. Anthropic nu a dezvăluit instituțiile sau țările implicate, dar a confirmat că persoanele implicate sunt cercetători activi care au încercat să ocolească restricțiile impuse de companie.
Noa Insight
Compania Anthropic a blocat utilizarea modelului său AI în cercetarea armelor biologice periculoase, identificând tentative de ocolire a măsurilor de securitate. Raportul publicat detaliază cinci studii de caz privind activități legate de gain-of-function și riscurile asociate folosirii abuzive a inteligenței artificiale în acest domeniu sensibil.
Implicații
Blocarea accesului la modelul AI pentru cercetarea armelor biologice afectează utilizatorii care încearcă să folosească tehnologia în scopuri potențial periculoase, consolidând măsurile de securitate și limitând riscurile asociate cu utilizarea abuzivă a inteligenței artificiale.
Elemente-cheie
- Gain-of-function reprezintă cercetarea care modifică virusuri pentru a studia transmisibilitatea și adaptarea acestora.
- În ultimele 30 de zile, Anthropic a identificat aproximativ 35 de încercări de utilizare abuzivă a modelului AI.
- Măsurile de securitate includ blocarea accesului utilizatorilor care încearcă să evite restricțiile impuse de companie.
Sursa originală a acestui articol este https://hotnews.ro/anthropic-anunta-ca-a-blocat-folosirea-modelul-sau-de-ai-pentru-dezvoltarea-unei-arme-foarte-periculoase-2346502 (link)
