Site-urile NoaMedia
Cum poate fi asigurată siguranța inteligenței artificiale în era superinteligenței? Microsoft a propus un cod conduită AI care stabilește principii clare pentru controlul uman AI și dezvoltarea responsabilă a tehnologiei. Inițiativa, lansată în 2024, vizează colaborarea industriei pentru a preveni riscurile sistemelor avansate.
Pe scurt:
- Microsoft a lansat un cod de conduită AI pentru siguranța inteligenței artificiale și menținerea controlului uman asupra sistemelor AI.
- Documentul subliniază necesitatea unor mecanisme stricte de aliniere și control pentru superinteligența artificială ce ar putea apărea în următorul deceniu.
- Proiectul de 37 de pagini a fost realizat în 5-6 luni și vizează colaborarea industriei pentru supravegherea și actualizarea continuă a regulilor AI.
- Codul se adresează modelelor MAI din 2027 și ulterior, promovând reguli clare pentru limitele și controlul tehnologiilor AI avansate.
Microsoft propune un cod conduită AI pentru siguranța inteligenței artificiale și controlul uman AI
Microsoft a lansat un proiect de cod conduită AI care stabilește principii pentru dezvoltarea viitoarelor modele de inteligență artificială. Documentul subliniază importanța siguranței inteligenței artificiale și a controlului uman AI în procesul de creare și operare a acestor tehnologii.
Principiile codului conduită AI pentru controlul uman AI
Documentul afirmă că oamenii trebuie să păstreze controlul real asupra sistemelor AI. Microsoft integrează acest principiu în antrenarea modelelor MAI, în controalele tehnice și în sistemele de monitorizare. Compania consideră că tehnologia trebuie să servească progresului societății și să îmbunătățească viața oamenilor, iar beneficiile AI trebuie echilibrate cu limite clare și mecanisme de control încă de la început.
Proiectul abordează și tema superinteligenței artificiale, definită ca sisteme care ar putea depăși capacitățile umane în majoritatea sarcinilor în următorul deceniu. Microsoft susține că dezvoltarea acestor tehnologii trebuie însoțită de mecanisme stricte de aliniere și control, pentru a defini clar ce nu trebuie să facă aceste sisteme.
Siguranța inteligenței artificiale în contextul colaborării industriei
Proiectul de 37 de pagini a fost realizat în cinci-șase luni și apare într-un moment în care liderii din domeniul AI discută despre supravegherea externă a dezvoltării modelelor. Sam Altman de la OpenAI și Dario Amodei de la Anthropic au subliniat necesitatea unei supravegheri independente pentru a asigura alinierea tehnologiilor cu obiectivele umane.
Mustafa Suleyman, CEO Microsoft AI, a declarat că este momentul ca marile laboratoare să colaboreze pentru a menține controlul uman asupra tehnologiei. Microsoft intenționează să continue procesul de consultare și să actualizeze codul de conduită pe măsură ce modelele și obiectivele evoluează.
Astfel, codul de conduită AI nu se adresează doar produselor actuale, ci creează un cadru pentru modelele MAI din 2027 și ulterior, subliniind necesitatea unor reguli clare privind limitele și controlul sistemelor AI tot mai avansate.
Noa Insight
Microsoft a lansat un proiect de cod de conduită pentru inteligența artificială, care stabilește principii privind siguranța și controlul uman al sistemelor AI. Documentul vizează dezvoltarea responsabilă a modelelor AI, inclusiv superinteligența, și promovează colaborarea industriei pentru supravegherea tehnologiilor emergente.
Implicații
Codul de conduită propus influențează modul în care companiile dezvoltă și monitorizează modelele AI, subliniind necesitatea unor mecanisme clare de control și aliniere pentru siguranța tehnologiilor avansate.
Elemente-cheie
- Codul de conduită definește principiile pentru siguranța și controlul uman al inteligenței artificiale în dezvoltarea modelelor AI.
- Proiectul are 37 de pagini și a fost realizat în cinci-șase luni, reflectând un efort concentrat de reglementare internă.
- Microsoft integrează controlul uman prin antrenarea modelelor, controale tehnice și sisteme de monitorizare a AI.
Sursa originală a acestui articol este https://playtech.ro/2026/microsoft-propune-un-nou-cod-de-conduita-pentru-ai-pe-fondul-ingrijorarilor-legate-de-siguranta-modelelor/ (link)
