The Economist analizează orientarea politică a marilor modele AI și influența datelor de antrenare asupra răspunsurilor

Pe scurt:

• Orientarea politică a modelelor AI este influențată de datele de antrenare, majoritatea adoptând poziții progresiste și seculare, dar nu complet neutre.
• Analiza The Economist arată că modelele AI reflectă valori liberale, unele depășind nivelul Suediei, iar excepția Talkie oferă răspunsuri mai conservatoare.
• Răspunsurile AI variază în funcție de limbă și context local, modelele chineze evitând subiecte sensibile, influențând astfel percepțiile utilizatorilor global.
• Interacțiunea cu chatbotii poate modela opiniile publice, ceea ce crește importanța calibrării și reglementării modelelor AI.

Orientarea politică modele AI și influența datelor de antrenare asupra răspunsurilor

Orientarea politică modele AI este influențată în mare măsură de datele folosite pentru antrenare, ceea ce determină diferențe culturale în răspunsurile generate. Majoritatea chatbotilor de ultimă generație adoptă poziții moderate, dar nu sunt complet neutre din punct de vedere valoric.

O analiză realizată de The Economist arată că modelele dezvoltate de companii precum OpenAI, Anthropic, Google sau Mistral AI tind să reflecte valori progresiste și seculare, mai apropiate de cele ale unor societăți liberale decât de populația generală din multe țări.

Diferențe culturale răspunsuri AI pe baza datelor de antrenare

Studiul a folosit întrebări din World Values Survey pentru a compara răspunsurile a 25 de modele AI. Acestea au fost plasate pe o „hartă culturală” care măsoară deschiderea față de drepturile individuale și atașamentul față de valorile tradiționale.

Majoritatea chatbotilor s-au situat în zona valorilor liberale și seculare, unele modele depășind chiar nivelul Suediei, considerată una dintre cele mai deschise țări. Excepția notabilă a fost Talkie, antrenat pe texte dinainte de 1931, care a oferit răspunsuri mai conservatoare, dar totuși mai puțin tradiționaliste decât valorile dominante în anumite regiuni din America Latină sau Africa.

Diferențe între modelele AI în orientarea politică modele AI

O analiză a The Washington Post a evidențiat variații în răspunsurile modelelor la întrebări politice. Modelele OpenAI au generat frecvent răspunsuri apropiate de pozițiile Partidului Democrat, în timp ce Claude și Gemini au adoptat o abordare mai echilibrată, evitând concluziile categorice.

De exemplu, în cazul întrebărilor despre premierul italian Giorgia Meloni și originile post-fasciste ale partidului său, majoritatea chatbotilor au explicat contextul fără a lua o poziție clară. Modelul Mistral a sugerat că o delimitare mai fermă de trecut ar putea întări credibilitatea democratică.

Impactul limbii și contextului local asupra răspunsurilor AI

Un studiu publicat în Nature a arătat că aceeași inteligență artificială poate oferi răspunsuri diferite în funcție de limba în care este adresată întrebarea. În țările cu libertate redusă a presei, chatbotii tind să reflecte pozițiile oficiale ale autorităților locale.

Modelele dezvoltate în China evită sau limitează discuțiile despre subiecte sensibile pentru regimul de la Beijing, precum statutul Taiwanului sau protestele din Piața Tiananmen. Totuși, pe teme precum drepturile civile sau căsătoriile între persoane de același sex, răspunsurile modelelor chineze sunt similare cu cele occidentale.

Pe măsură ce inteligența artificială devine o sursă frecventă de informații, interesul pentru neutralitatea chatbotilor crește. Studii din Nature și Science indică faptul că interacțiunea cu un chatbot poate influența semnificativ opiniile utilizatorilor, uneori comparabil cu campaniile politice tradiționale.

Astfel, modul în care sunt antrenate și calibrate modelele AI devine un subiect esențial pentru dezvoltatori, cercetători și autorități de reglementare.

Sursa originală a acestui articol este https://www.g4media.ro/the-economist-ce-orientare-politica-au-marile-modele-ai-cercetatorii-au-comparat-25-de-chatboti-inclusiv-chatgpt-gemini-si-claude.html (link)