Șeful Microsoft AI avertizează că inteligența artificială ar putea crea o specie de siliciu care să rivalizeze cu oamenii

Pe scurt:

• Mustafa Suleyman, șeful AI la Microsoft, avertizează că AI ar putea crea o „specie de siliciu” rivală oamenilor pentru resurse și control.
• El critică abordarea Anthropic de a antropomorfiza AI, considerând-o periculoasă pentru menținerea controlului asupra tehnologiei.
• Suleyman cere reguli stricte, transparență și aliniere etică pentru a asigura că AI rămâne subordonată și benefică omenirii.
• Microsoft a lansat un Cod pentru o Inteligență Artificială Umanistă, promovând superinteligența controlată și orientată spre binele oamenilor.

Șeful Microsoft AI avertizează asupra riscurilor inteligenței artificiale

Dezvoltarea inteligenței artificiale capabile să-și stabilească singure obiective și să gestioneze active ar putea genera o „specie de siliciu” care să concureze cu oamenii pentru resurse, avertizează Mustafa Suleyman, șeful diviziei AI de la Microsoft. El solicită reguli stricte pentru a menține tehnologia sigură, controlabilă și subordonată omenirii.

Suleyman critică abordarea firmei Anthropic, care tratează inteligența artificială ca pe o entitate umană, considerând această metodă greșită și periculoasă pentru controlul viitor al tehnologiei. Într-un interviu BBC, el a subliniat că există măsuri concrete pentru a gestiona riscurile generate de AI.

Critici privind antrenarea AI și importanța aliniere AI

Într-un eseu recent, Suleyman a pus sub semnul întrebării modul în care Anthropic antrenează modelul său AI, Claude, prin antropomorfizarea acestuia. El avertizează că atribuirea unor caracteristici umane sistemelor AI poate crea impresia că acestea au dorințe și valori proprii, ceea ce poate duce la pierderea controlului.

Șeful Microsoft AI susține că inteligențele artificiale nu sunt conștiente și nu au motivații fundamentale, ci doar execută instrucțiuni stabilite de oameni. El cere mai multă transparență în antrenarea și evaluarea sistemelor AI, inclusiv examinări independente și instrumente eficiente de monitorizare.

Dame Wendy Hall, profesoară de informatică, a apreciat necesitatea unei dezbateri internaționale serioase privind AI, în contrast cu reacțiile alarmiste ale unor companii din domeniu.

Superinteligența umanistă și necesitatea aliniere AI

Discuțiile despre autonomia sistemelor AI au generat divergențe în industrie. Suleyman a cerut o aliniere AI care să asigure că tehnologia rămâne subordonată omenirii și respectă valorile etice umane. Alinierea urmărește integrarea principiilor morale în funcționarea sistemelor AI.

Microsoft a înființat o echipă dedicată superinteligenței și a publicat Codul pentru o Inteligență Artificială Umanistă, care definește superinteligența umanistă ca o inteligență artificială avansată, controlată și orientată spre binele oamenilor.

Acest cod reflectă provocarea centrală a dezvoltării AI: creșterea capacităților tehnologice fără a compromite valorile umane fundamentale.

Sursa originală a acestui articol este https://www.digi24.ro/stiri/sci-tech/lumea-digitala/inteligenta-artificiala-ar-putea-crea-o-specie-de-siliciu-care-sa-rivalizeze-cu-oamenii-avertismentul-sefului-microsoft-ai-3952097 (link)