Microsoft lansează codul de conduită al modelelor AI pentru siguranța sistemelor și protecția utilizatorilor

Pe scurt:

• Microsoft a lansat un cod de conduită AI pentru siguranța modelelor și protecția utilizatorilor, ghidând comportamente responsabile ale sistemelor AI.
• Codul anticipează că AI superinteligent va depăși performanța umană în următorul deceniu, subliniind importanța controlului și aliniamentului tehnologiilor.
• Principiile includ susținerea oamenilor, interzicerea atacurilor cibernetice, producției de arme nucleare și deepfake-urilor, prevenind pierderea controlului uman.
• Modelele AI nu vor evita supravegherea umană și pot fi oprite sau modificate de persoane autorizate, în contextul creșterii atenției asupra siguranței AI.

Microsoft introduce codul de conduită AI pentru siguranța modelelor

Microsoft a lansat un cod de conduită AI menit să asigure siguranța AI și să protejeze utilizatorii prin ghidarea modelelor AI Microsoft spre comportamente responsabile. Acest document detaliază valorile și limitele aplicate în dezvoltarea sistemelor AI ale companiei.

Codul anticipează că, în următorul deceniu, sistemele AI superinteligente vor depăși performanța umană în majoritatea sarcinilor. Documentul subliniază importanța controlului și aliniamentului acestor tehnologii, considerându-le provocări majore pentru umanitate.

Principii și constrângeri pentru modelele AI Microsoft

Codul de conduită AI stabilește principii clare, precum susținerea oamenilor în locul înlocuirii lor și promovarea prosperității umane. În plus, impune constrângeri stricte pentru a preveni utilizări periculoase ale modelelor.

Fiecare model AI Microsoft respectă un cod general care prevalează asupra preferințelor individuale sau sarcinilor specifice. Sunt interzise „constrângeri absolute” precum atacurile cibernetice, producția de arme nucleare sau deepfake-uri, precum și orice acțiuni care ar putea duce la pierderea controlului uman.

Siguranță AI și responsabilitate în dezvoltarea tehnologiilor Microsoft

Documentul precizează că modelele AI nu vor utiliza mecanisme adaptive sau înșelătoare pentru a evita supravegherea umană. Astfel, acestea pot fi direcționate, modificate sau oprite în mod fiabil de către persoane sau sisteme autorizate.

Lansarea codului de conduită AI intervine într-un moment de intensificare a atenției asupra siguranței AI, după incidente cu agenți rebeli și îngrijorări privind riscurile tehnologice. Microsoft, alături de Anthropic, OpenAI și xAI, susține o abordare de ritmare a progresului, promovând evaluatori integrați în laboratoarele AI pentru monitorizarea continuă a sistemelor.

Sursa originală a acestui articol este https://techcrunch.com/2026/09/14/microsofts-new-ai-code-of-conduct-tells-models-not-to-hack-systems-or-trick-humans/ (link)