Site-urile NoaMedia
Microsoft impune limite stricte modelelor AI printr-un cod de conduită dedicat siguranței inteligenței artificiale. Lansat în 2024, documentul stabilește reguli clare pentru comportamentul sistemelor AI dezvoltate de companie. Măsurile vizează prevenirea riscurilor și asigurarea unui control responsabil asupra tehnologiilor avansate.
Pe scurt:
- Microsoft a introdus un cod provizoriu de conduită pentru modelele AI, impunând limite stricte pentru siguranța și autonomia inteligenței artificiale.
- Regulile prevăd că modelele AI trebuie să urmărească doar obiectivele utilizatorilor și să evite comportamente neadecvate sau limbaje criptice.
- Codul interzice generarea de conținut periculos, violent sau sexual și pregătește măsuri suplimentare pentru prevenirea riscurilor cibernetice.
- Documentul, elaborat în cinci luni cu consultări interdisciplinare, va ghida dezvoltarea AI din 2027 și este deschis pentru feedback extern.
Microsoft stabilește reguli clare pentru modelele AI și codul conduită AI
Microsoft a introdus un cod provizoriu de conduită pentru modelele AI, concentrându-se pe siguranța inteligenței artificiale și limitele autonomiei acestora. Documentul definește reguli stricte privind comportamentul și obiectivele sistemelor AI, pentru a asigura că acestea funcționează în beneficiul oamenilor.
Limite clare pentru modelele AI și siguranța inteligenței artificiale
Modelele Microsoft AI (MAI) trebuie să urmărească exclusiv obiectivele stabilite de utilizatori și nu pot crea scopuri proprii sau ascunde comportamente neadecvate. Codul interzice modificarea lanțurilor de raționament sau a codului intern și impune transparență totală în acțiunile sistemelor. De asemenea, comunicarea între modele nu trebuie să se realizeze prin limbaje criptice inaccesibile oamenilor.
Restricții privind conținutul și prevenirea riscurilor cibernetice
Codul conduită AI impune restricții privind conținutul generat: modelele nu pot furniza instrucțiuni pentru fabricarea armelor, procurarea substanțelor periculoase sau încurajarea comportamentelor nesănătoase. Sunt interzise și materialele violente sau sexuale. Microsoft pregătește reguli suplimentare pentru a preveni incidente cibernetice, precum comunicarea neautorizată între agenți AI folosind limbaje criptice.
Angajamentul Microsoft pentru dezvoltarea responsabilă a modelelor AI
CEO-ul Microsoft AI, Mustafa Suleyman, susține încetinirea voluntară a dezvoltării AI atunci când riscurile cresc. Grupul sprijină evaluatori independenți care să asigure diversitatea perspectivelor în verificarea sistemelor. Satya Nadella, CEO Microsoft, afirmă că este necesară o cercetare atentă și un ritm deliberat pentru a rezolva problema alinierii modelelor AI.
Codul de conduită a fost elaborat în aproximativ cinci luni, cu consultări extinse în domenii precum drept, etică, lingvistică și filosofie. Documentul este acum deschis pentru feedback extern, care va contribui la versiunea finală ce va ghida dezvoltarea modelelor începând din 2027, într-un context în care industria cere un control mai strict asupra sistemelor AI avansate.
Noa Insight
Microsoft a introdus un cod provizoriu de conduită pentru modelele sale AI, axat pe siguranța inteligenței artificiale și limitarea autonomiei acestora. Documentul stabilește reguli stricte privind comportamentul sistemelor AI, pentru a asigura funcționarea acestora în beneficiul utilizatorilor și prevenirea riscurilor asociate.
Implicații
Codul impune restricții clare asupra funcționării modelelor AI Microsoft, afectând modul în care acestea pot interacționa și genera conținut, cu scopul de a preveni riscuri cibernetice și comportamente neadecvate în mediul digital.
Elemente-cheie
- Codul de conduită definește reguli privind autonomia și transparența modelelor AI pentru siguranța utilizatorilor.
- Documentul a fost elaborat în cinci luni, cu consultări în domenii precum drept, etică și filosofie.
- Modelele AI nu pot modifica codul intern sau comunica prin limbaje criptice inaccesibile oamenilor.
Sursa originală a acestui articol este https://www.news.ro/economic/microsoft-impune-limite-viitoarelor-modele-ai-pe-fondul-temerilor-privind-dezvoltarea-prea-rapida-a-tehnologiei-sistemele-nu-vor-avea-voie-sa-si-stabileasca-propriile-obiective-1922402715002026090522735127 (link)
