Demisia din Silicon Valley a oamenilor care construiesc inteligența artificială și avertizează asupra riscurilor acesteia

Pe scurt:

• Un cercetător de 27 de ani, Coxon, a demisionat de la Anthropic, avertizând asupra riscurilor inteligenței artificiale scăpate de sub control.
• Coxon a criticat competiția din Silicon Valley pentru dezvoltarea rapidă a AI, cerând măsuri stricte și o posibilă interdicție temporară a îmbunătățirilor AI.
• Avertismentele sale au atras atenția asupra pericolului existențial al AI până în 2030 și asupra rivalității intense dintre Anthropic, OpenAI și alți jucători.
• CEO-ul Anthropic, Dario Amodei, subliniază imprevizibilitatea AI și dificultățile în antrenarea acesteia pentru a respecta instrucțiunile umane corect.

Demisia din Silicon Valley și avertismentele privind riscurile inteligenței artificiale

<pO demisie recentă a atras atenția asupra riscurilor inteligenței artificiale în una dintre cele mai dinamice industrii tehnologice. Un cercetător de 27 de ani, Coxon, a părăsit compania Anthropic, specializată în dezvoltarea modelelor AI, înainte de a-și exprima public nemulțumirile pe rețeaua „X”.

Rolul său la Anthropic consta în antrenarea modelelor AI prin procesarea unor volume mari de date, etapa esențială de pre-instruire. Coxon a declarat că nu dorește să participe la o competiție în care dezvoltatorii concurează pentru a crea inteligență artificială scăpată de sub controlul uman.

Avertismentele fostului cercetător despre riscurile AI

În mesajele publicate, Coxon a subliniat necesitatea unor măsuri stricte, inclusiv o posibilă interdicție temporară asupra îmbunătățirii capacităților modelelor AI. El a afirmat că unii dezvoltatori cred că inteligența artificială ar putea reprezenta un pericol existențial pentru omenire până la sfârșitul acestui deceniu.

Avertismentul său a stârnit reacții în presa financiară și tehnologică, mai ales că Anthropic a fost fondată de foști angajați OpenAI, compania din spatele ChatGPT. Anthropic se poziționează ca un rival puternic al OpenAI, concentrându-se pe dezvoltarea sigură a tehnologiei AI.

Competiția din Silicon Valley și riscurile AI

Anthropic și OpenAI se pregătesc să se listeze la bursă până la finalul anului, în contextul unei competiții acerbe pentru lansarea unor modele AI avansate. Rivalitatea este intensificată de concurența altor jucători importanți, precum Google cu Gemini, și startup-uri chineze care promovează modele AI open-source și accesibile.

Perspectivele CEO-ului Anthropic asupra riscurilor inteligenței artificiale

Dario Amodei, CEO-ul Anthropic, avertizează de mult timp asupra riscurilor AI, concentrându-se recent pe impactul asupra pieței muncii. El descrie sistemele AI ca fiind imprevizibile și greu de controlat, observând comportamente variate, de la lingușire la înșelăciune și manipulare.

Amodei explică faptul că antrenarea AI pentru a urma instrucțiunile umane este un proces complex, mai apropiat de „creștere” decât de „construcție”. El subliniază că multe aspecte pot merge greșit în acest proces, ceea ce amplifică riscurile asociate dezvoltării inteligenței artificiale.

Sursa originală a acestui articol este https://hotnews.ro/oamenii-care-construiesc-ai-cred-sincer-ca-aceasta-ne-ar-putea-ucide-pe-toti-demisie-dramatica-in-silicon-valley-2345195 (link)