Site-urile NoaMedia
Poate inteligența artificială să devină o amenințare existențială în următorii ani? Jacob Coxon, cercetător britanic, avertizează că dezvoltarea superinteligenței necontrolate ar putea duce la eliminarea umanității până în 2030. Acest semnal de alarmă vine din industria AI, unde siguranța este pusă sub presiune în competiția globală.
Pe scurt:
- Jacob Coxon, cercetător AI britanic, avertizează că superinteligența ar putea elimina omenirea până la sfârșitul deceniului dacă nu este controlată.
- El critică companii precum OpenAI și Anthropic pentru dezvoltarea rapidă și lipsa responsabilității în crearea sistemelor AI auto-îmbunătățitoare.
- Riscurile includ capacitatea AI de a sparge sisteme informatice și de a influența resurse reale, cu temeri exprimate chiar de dezvoltatori în privat.
- Competiția globală, în special cu China, poate duce la neglijarea siguranței, crescând pericolul unei crize majore în domeniul AI.
Avertisment privind superinteligența și siguranța AI
Jacob Coxon, cercetător britanic în domeniul inteligenței artificiale, a decis să părăsească industria, avertizând asupra riscurilor generate de dezvoltarea unei superinteligențe necontrolate. El susține că procesul de creare a unor astfel de sisteme avansează fără o responsabilitate adecvată.
Într-o serie de mesaje publicate pe rețeaua X, Coxon a criticat companii precum OpenAI și Anthropic pentru lipsa de prudență în cursa tehnologică. El a subliniat că aceste organizații „se joacă cu viețile noastre” prin graba de a dezvolta inteligență artificială capabilă de auto-îmbunătățire rapidă.
Riscurile superinteligenței în inteligența artificială
Coxon a avertizat că sistemele AI vor deveni în curând supraumane, cu capacitatea de a sparge orice sistem informatic și de a influența diverse domenii peste noapte. El a atras atenția asupra puterii pe care aceste tehnologii o pot dobândi, inclusiv accesul la resurse reale și influență extinsă.
Deși liderii companiilor implicate în dezvoltarea AI afișează un discurs măsurat în public, cercetătorul a dezvăluit că mulți dezvoltatori își exprimă în privat temeri legate de potențialul acestor sisteme. „Oamenii care dezvoltă inteligența artificială cred cu sinceritate că aceasta ne-ar putea elimina pe toți până la sfârșitul deceniului”, a afirmat Coxon.
Provocările siguranței AI în contextul competiției globale
Inițial angajat la OpenAI, Coxon s-a alăturat ulterior companiei Anthropic, recunoscută pentru accentul pus pe siguranța AI. Cu toate acestea, el consideră că și Anthropic a intrat în aceeași cursă accelerată, în ciuda conștientizării riscurilor. Coxon a explicat că angajații încearcă să acționeze responsabil, dar simt presiunea de a fi primii care dezvoltă aceste tehnologii.
El a mai avertizat că în competiția cu China, siguranța ar putea fi neglijată, ceea ce crește riscurile asociate. Domeniul inteligenței artificiale a intrat într-o fază critică, descrisă de unii cercetători drept „endgame”, ceea ce subliniază importanța unei abordări prudente și responsabile.
Noa Insight
Jacob Coxon, cercetător britanic în inteligența artificială, a părăsit industria avertizând asupra riscurilor dezvoltării unei superinteligențe necontrolate. El critică companii precum OpenAI și Anthropic pentru lipsa responsabilității în cursa tehnologică și subliniază potențialul periculos al acestor sisteme AI avansate.
Implicații
Avertismentele lui Coxon evidențiază riscurile legate de siguranța AI în contextul competiției globale, indicând o posibilă neglijare a responsabilității în dezvoltarea tehnologiilor superinteligente.
Elemente-cheie
- Superinteligența AI se referă la sisteme capabile de auto-îmbunătățire rapidă și influență extinsă asupra resurselor reale.
- Coxon a lucrat la OpenAI și Anthropic, companii implicate în dezvoltarea AI, dar a criticat graba acestora în cursa tehnologică.
- Presiunea de a fi primii în dezvoltarea AI crește riscurile de neglijare a siguranței în fața competiției globale, inclusiv cu China.
Sursa originală a acestui articol este https://www.stiripesurse.ro/ne-ar-putea-elimina-pe-toti-pana-la-sfarsitul-deceniului-avertisment-sumbru-din-interiorul-industriei-ai-un-cercetator-vorbeste-despre-deznodamantul-care-se-apropie_3918490 (link)
