Site-urile NoaMedia
Cât de real este riscul inteligenței artificiale de a amenința omenirea în următorul secol? Roman Yampolskiy, expert în siguranța AI de la Universitatea din Louisville, avertizează asupra unei probabilități ridicate ca această tehnologie să provoace extincția speciei umane în următorii 100 de ani. Declarațiile sale reiau dezbaterea globală privind siguranța AI și impactul economic AI.
Pe scurt:
- Expertul Roman Yampolskiy avertizează că inteligența artificială ar putea provoca extincția umană în următorii 100 de ani, cu probabilitate aproape sigură.
- Evoluția rapidă a AI nu este însoțită de metode eficiente de control, iar sistemele viitoare ar putea scăpa de sub supravegherea umană.
- Există divergențe în comunitatea științifică privind riscul AI, studiul Oxford-Bonn indicând un risc de 5%, iar unii experți resping scenariile apocaliptice.
- Pe lângă riscurile existențiale, AI poate provoca dezechilibre economice prin automatizare masivă și concentrarea puterii în câteva companii majore.
Avertisment privind riscul inteligenței artificiale și siguranța AI
<pRiscul inteligenței artificiale de a amenința omenirea în următorul secol revine în atenția publică după declarațiile lui Roman Yampolskiy, expert în securitatea sistemelor inteligente și profesor la Universitatea din Louisville. Acesta estimează o probabilitate aproape sigură ca AI să provoace extincția speciei umane în următorii 100 de ani.
Yampolskiy este recunoscut pentru pozițiile sale critice privind siguranța sistemelor autonome și face parte dintr-un grup restrâns de specialiști care avertizează asupra pericolelor tehnologiei emergente.
Argumentele privind riscul inteligenței artificiale și controlul sistemelor AI
Cercetătorul subliniază că evoluția rapidă a inteligenței artificiale nu este însoțită de progrese similare în metodele de control. El afirmă că niciun sistem creat până acum nu funcționează fără erori, iar viitoarele generații de AI ar putea scăpa de sub supravegherea umană.
Imprevizibilitatea comportamentului AI și dificultatea de a explica mecanismele interne ale modelelor actuale creează un risc structural. Cartea sa, AI: Inexplicabil. Imprevizibil. Incontrolabil, detaliază situații în care un sistem avansat ar putea lua decizii cu efecte devastatoare, analizând și diferențele dintre inteligența biologică și inteligența artificială generală (AGI).
Yampolskiy consideră că problema nu este existența acestor sisteme, ci capacitatea omenirii de a le menține sub control permanent, un obiectiv pe care îl vede ca fiind improbabil.
Disputele din comunitatea științifică privind siguranța AI și impactul economic AI
Declarațiile lui Yampolskiy contrastează cu alte evaluări academice. Un studiu realizat de Universitățile Oxford și Bonn, bazat pe opiniile a peste 2.700 de specialiști, indică un risc de aproximativ 5% ca AI să cauzeze dispariția omenirii. Această diferență reflectă lipsa unui consens privind nivelul de pericol.
Katja Grace, coautoare a studiului, afirmă că posibilitatea unui scenariu extrem este recunoscută, dar există divergențe majore privind amploarea riscului. În timp ce unii experți estimează riscul între 1% și 20%, alții resping predicțiile apocaliptice.
Figuri importante precum Andrew Y. Ng și Yann LeCun critică ideea că AI ar putea dobândi intenții ostile sau capacități autonome de distrugere, susținând că tehnologia poate fi reglementată eficient.
Pe lângă riscurile existențiale, există îngrijorări privind impactul economic AI, în special efectele automatizării masive. Analize avertizează că AI ar putea provoca dezechilibre economice prin înlocuirea unui număr mare de locuri de muncă și concentrarea puterii economice în mâinile câtorva companii.
Declarațiile lui Sam Altman, CEO OpenAI, reflectă această dualitate. În 2015, el a afirmat că „AI ar putea fi cauza sfârșitului lumii, dar până atunci vor exista companii extraordinare”, recunoscând astfel atât riscurile, cât și interesele economice majore din domeniu.
Dezbaterea privind siguranța AI și consecințele sale rămâne deschisă. În timp ce unii experți cer reglementări urgente, alții consideră predicțiile exagerate. Totuși, dezvoltarea rapidă a tehnologiei impune o atenție sporită asupra controlului, transparenței și responsabilității.
Noa Insight
Expertul Roman Yampolskiy avertizează asupra riscului ca inteligența artificială să amenințe omenirea în următorul secol, subliniind problemele legate de controlul și siguranța sistemelor AI autonome. Discuția include și opinii divergente din comunitatea științifică privind amploarea acestui risc și impactul economic al AI.
Implicații
Dezbaterea evidențiază nevoia de reglementări și măsuri de control pentru tehnologiile AI, având în vedere riscurile de securitate și efectele economice, precum automatizarea și concentrarea puterii în sectorul tehnologic.
Elemente-cheie
- Riscul AI se referă la posibilitatea ca sistemele autonome să scape de sub controlul uman și să provoace efecte negative majore.
- Studiul menționat indică un risc estimat de aproximativ 5% ca AI să cauzeze dispariția omenirii, conform opiniei a peste 2.700 de specialiști.
- Controlul AI implică dezvoltarea unor metode eficiente pentru supravegherea și limitarea comportamentului sistemelor inteligente.
Sursa originală a acestui articol este https://playtech.ro/2025/avertisment-extrem-al-expertilor-care-este-riscul-ca-ai-ul-sa-elimine-omenirea-in-urmatorul-secol/ (link)
