Site-urile NoaMedia
Cât de aproape suntem de un moment critic în siguranța AI? Jacob Coxon, cercetător la Anthropic, avertizează că următorii doi ani vor fi decisivi pentru viitorul inteligenței artificiale, în contextul cursei tehnologice accelerate din SUA. Acest semnal de alarmă vine pe fondul temerilor tot mai mari privind riscurile generate de dezvoltarea rapidă a tehnologiei.
Pe scurt:
- Jacob Coxon, fost cercetător Anthropic, avertizează că AI ar putea deveni o amenințare existențială pentru omenire până în 2030.
- Ritmul accelerat al dezvoltării AI și presiunea concurențială cresc riscurile, iar următorii doi ani sunt decisivi pentru siguranța tehnologiei.
- Anthropic investește în cercetări pentru interpretabilitatea modelelor AI, în timp ce industria se confruntă cu probleme de control și aliniere etică.
- Experții subliniază diferența între temerile apocaliptice și realitatea actuală, evidențiind riscurile legate de utilizarea neadecvată a sistemelor AI.
Avertisment despre siguranța AI în contextul cursei tehnologice
<pUn cercetător de la Anthropic a atras atenția asupra momentului critic în dezvoltarea inteligenței artificiale, subliniind riscurile generate de cursa tehnologică accelerată. Jacob Coxon, fost angajat OpenAI, a părăsit Anthropic și a criticat public ritmul necontrolat al progresului în domeniu.
Coxon a afirmat că specialiștii din domeniu consideră posibil ca inteligența artificială să reprezinte o amenințare existențială pentru omenire până la sfârșitul acestui deceniu. El a precizat că următorii doi ani sunt decisivi pentru viitorul umanității, potrivit declarațiilor sale pentru WIRED.
Riscurile și responsabilitatea în dezvoltarea inteligenței artificiale
Cercetătorul a explicat că sistemele actuale nu sunt încă periculoase, dar viteza de evoluție a tehnologiei ridică semne de întrebare. Presiunea concurențială poate determina companiile să accepte riscuri mai mari, chiar și cele preocupate de siguranța AI.
Anthropic a răspuns printr-un comunicat pentru WIRED, subliniind angajamentul său față de beneficiile și riscurile inteligenței artificiale avansate. Compania investește în cercetări de interpretabilitate mecanicistă pentru a înțelege mai bine funcționarea internă a modelelor AI.
Provocările cursei tehnologice și perspectivele experților
În podcastul Uncanny Valley, realizat de WIRED, s-au discutat schimbările recente în percepția publică asupra inteligenței artificiale. Progresele rapide și comportamentele neașteptate ale agenților AI au crescut îngrijorările. De asemenea, laboratoarele concurează pentru a dezvolta autoîmbunătățirea recursivă a modelelor AI, ceea ce poate accelera necontrolat evoluția tehnologică.
Will Knight, corespondent WIRED, a subliniat că temerile apocaliptice trebuie diferențiate de probabilitățile reale. El a atras atenția asupra sistemelor supraevaluate, care sunt puse să realizeze sarcini pentru care nu sunt pregătite, ceea ce poate genera comportamente ciudate ale agenților AI.
Siguranța AI și impactul deciziilor tehnologice asupra societății
Knight a evidențiat problema concentrării controlului tehnologiei în mâinile câtorva companii, care susțin că doar ele pot gestiona responsabil inteligența artificială. Industria vorbește despre alinierea modelelor AI cu interesele umane, însă stimulentele financiare și competiția pentru listări la bursă influențează deciziile.
De asemenea, el a respins ideea că inteligența artificială generală a fost deja atinsă, subliniind diferențele majore față de modul în care gândesc oamenii. Discuțiile despre riscuri includ și impactul asupra utilizatorilor, exemplificat prin funcțiile de ascultare ale unor dispozitive, care ridică probleme legate de consimțământ și protecția datelor personale.
Noa Insight
Un cercetător de la Anthropic a atras atenția asupra riscurilor legate de siguranța inteligenței artificiale în contextul unei curse tehnologice accelerate. Jacob Coxon, fost angajat OpenAI, a criticat ritmul necontrolat al progresului și a subliniat importanța următorilor doi ani pentru viitorul umanității.
Implicații
Presiunea concurențială în dezvoltarea AI poate determina companiile să accepte riscuri mai mari, iar laboratoarele concurează pentru autoîmbunătățirea recursivă a modelelor, ceea ce accelerează evoluția tehnologică.
Elemente-cheie
- Autoîmbunătățirea recursivă reprezintă procesul prin care modelele AI se dezvoltă rapid prin ajustări interne automate.
- Următorii doi ani sunt considerați decisivi pentru evoluția și siguranța inteligenței artificiale, conform declarațiilor cercetătorului.
- Anthropic investește în cercetări de interpretabilitate mecanicistă pentru a înțelege funcționarea internă a modelelor AI.
Sursa originală a acestui articol este https://www.stiripesurse.ro/demisie-anthropic-jacob-coxon-riscuri-inteligenta-artificiala_3919395 (link)
