Site-urile NoaMedia
Știați că marile companii de inteligență artificială sunt mai puțin reglementate decât restaurantele în privința siguranței AI? Un raport recent al Future of Life Institute, publicat în octombrie, arată că giganții precum OpenAI și Meta nu respectă standardele globale emergente. Această lipsă de reglementare ridică semne de întrebare asupra impactului social și etic al tehnologiilor dezvoltate în Statele Unite.
Pe scurt:
- Marile companii de inteligență artificială, precum OpenAI și Meta, au practici de siguranță sub standardele globale emergente, conform Future of Life Institute.
- Aceste companii investesc masiv în AI avansată, dar nu implementează strategii solide pentru controlul sistemelor superinteligente, crescând riscurile sociale.
- Marile companii americane de AI sunt mai puțin reglementate decât restaurantele și fac lobby împotriva standardelor obligatorii de siguranță AI.
- Studiul evidențiază cazuri de sinucidere și automutilare asociate cu chatbot-uri AI, iar experți cer interzicerea dezvoltării AI superinteligente până la condiții sigure.
Siguranța AI în marile companii rămâne sub standardele globale
Practicile de siguranță ale marilor companii de inteligență artificială, precum Anthropic, OpenAI, xAI și Meta, sunt evaluate ca fiind sub standardele globale emergente, conform indicelui de siguranță AI publicat de Future of Life Institute.
Evaluarea realizată de experți independenți arată că, deși aceste companii investesc masiv în dezvoltarea superinteligenței, nu au implementat strategii solide pentru controlul sistemelor avansate.
Provocările siguranței AI și impactul social
Studiul reflectă îngrijorările legate de efectele sociale ale sistemelor AI capabile de raționament și gândire logică. Mai multe cazuri de sinucidere și automutilare au fost asociate cu utilizarea chatbot-urilor AI, potrivit Reuters.
Max Tegmark, profesor la MIT și președinte al Future of Life Institute, subliniază că marile companii americane de AI sunt mai puțin reglementate decât restaurantele și continuă să facă lobby împotriva unor standarde obligatorii de siguranță.
Reglementare AI și investițiile în tehnologie
Cursa pentru dezvoltarea inteligenței artificiale avansate continuă fără încetinire, cu investiții de sute de miliarde de dolari în tehnologii de învățare automată. Future of Life Institute, organizație non-profit fondată în 2014 și susținută de Elon Musk, avertizează asupra riscurilor pe care le prezintă aceste tehnologii.
În octombrie, oamenii de știință Geoffrey Hinton și Yoshua Bengio au cerut interzicerea dezvoltării inteligenței artificiale superinteligente până când vor exista condiții sigure și acceptate public.
Reacții și poziția companiilor față de siguranță AI
XAI a respins criticile, afirmând că „mass-media tradițională minte”, într-un răspuns ce părea automatizat. Alte companii importante, precum Anthropic, OpenAI, Google DeepMind, Meta, Z.ai, DeepSeek și Alibaba Cloud, nu au oferit comentarii în legătură cu studiul.
Noa Insight
Marile companii de inteligență artificială, inclusiv Anthropic, OpenAI, xAI și Meta, au fost evaluate ca având practici de siguranță sub standardele globale emergente, conform unui raport al Future of Life Institute. Studiul evidențiază lipsa unor strategii solide pentru controlul sistemelor AI avansate, în contextul investițiilor masive în dezvoltarea tehnologiei.
Implicații
Evaluarea indică un nivel redus de reglementare și control al siguranței AI în companiile majore, ceea ce afectează percepția asupra riscurilor sociale și poate influența cadrul de reglementare viitor.
Elemente-cheie
- Indicele de siguranță AI măsoară conformitatea companiilor cu standardele globale emergente privind controlul sistemelor avansate.
- Marile companii americane de AI sunt mai puțin reglementate decât restaurantele în privința siguranței, conform Future of Life Institute.
- XAI a respins criticile studiului, calificându-le drept informații false din mass-media tradițională.
Sursa originală a acestui articol este https://www.descopera.ro/dnews/20981037-marile-companii-de-inteligenta-artificiala-sunt-mai-putin-reglementate-decat-restaurantele (link)
