ONU cere interzicerea roboților ucigași și avertizează asupra riscurilor armelor autonome controlate de AI

Pe scurt:

• ONU cere interzicerea armelor autonome AI care pot lua decizii letale fără control uman, considerându-le inacceptabile moral.
• Apelul vine pe fondul creșterii utilizării AI în domeniul militar și riscurilor majore pentru securitatea națională și internațională.
• Lipsa transparenței și controlului uman în aceste arme poate duce la erori grave, victime civile și escaladarea conflictelor armate.
• Dezbaterile etice și tensiunile dintre companii tehnologice și sectorul militar complică reglementarea și controlul acestor tehnologii.

ONU solicită interzicerea armelor autonome AI pentru menținerea controlului uman

Secretarul general al ONU, António Guterres, a cerut interzicerea armelor autonome AI, subliniind necesitatea păstrării controlului uman în deciziile letale. În cadrul Global Dialogue on AI Governance de la Geneva, el a calificat armele capabile să acționeze fără intervenție umană drept inacceptabile din punct de vedere moral.

Apelul survine într-un context în care inteligența artificială devine tot mai prezentă în domeniul militar, ridicând riscuri majore pentru securitatea națională. Dezvoltarea sistemelor care pot identifica și elimina ținte fără supraveghere umană amplifică temerile privind consecințele unei erori sau a unei reacții automate necontrolate.

Argumentele pentru interzicerea armelor autonome AI

Guterres a insistat că deciziile privind viața și moartea trebuie să rămână în mâinile oamenilor. Sistemele autonome care pot selecta și ataca ținte fără control uman reprezintă o linie roșie pentru comunitatea internațională. Experții avertizează că viteza și opacitatea acestor tehnologii pot duce la victime civile și escaladarea conflictelor.

Pe lângă aspectele morale, lipsa transparenței în funcționarea modelelor AI militare complică stabilirea responsabilității în caz de incidente. Această opacitate poate genera erori grave pe câmpul de luptă, cu impact direct asupra securității naționale și internaționale.

Provocările controlului uman în contextul armelor autonome AI

Relația dintre companiile tehnologice și sectorul militar este tensionată, în special în privința utilizării AI în scopuri militare. Protestele angajaților Google și dezbaterile privind colaborarea cu Pentagonul reflectă dilemele etice legate de armele autonome AI.

Susținătorii dezvoltării acestor tehnologii argumentează că democrațiile trebuie să mențină avantajul strategic în fața rivalilor geopolitici. Totuși, această cursă tehnologică poate submina eforturile internaționale de reglementare și control uman, crescând riscurile pentru securitatea națională.

Apelul ONU pentru un control uman strict asupra armelor autonome AI

Administrația americană a promovat recent extinderea utilizării AI în domeniul militar, în timp ce companii precum Anthropic se confruntă cu restricții legate de securitatea națională. Această situație evidențiază paradoxul dintre dorința de a folosi AI pentru apărare și teama de pierdere a controlului asupra tehnologiei.

Mesajul ONU stabilește o limită clară: AI poate sprijini deciziile umane, dar nu trebuie să înlocuiască controlul uman în deciziile de viață și moarte. Interzicerea armelor autonome AI rămâne o provocare, dar este esențială pentru protejarea securității naționale și respectarea principiilor morale internaționale.

Sursa originală a acestui articol este https://playtech.ro/2026/onu-cere-interzicerea-robotilor-ucigasi-avertismentul-dur-despre-armele-autonome-controlate-de-ai/ (link)