Site-urile NoaMedia
Chatboții medicali bazate pe inteligență artificială sănătate pot genera sfaturi periculoase din cauza dezinformării medicale greu de detectat. Un studiu publicat în The Lancet Digital Health în 2024 arată că aceste sisteme acceptă frecvent recomandări false, afectând utilizatorii din întreaga lume. Aceste concluzii ridică semne de întrebare asupra siguranței folosirii AI în consultanța medicală online.
Pe scurt:
- Chatboții medicali AI pot genera sfaturi periculoase și dezinformare, acceptând recomandări false în proporție de până la 46% în limbaj clinic formal.
- Modelele AI evaluează credibilitatea limbajului, nu corectitudinea informațiilor, ceea ce duce la acceptarea eronată a unor sfaturi medicale false.
- Studiile arată că performanța chatboților nu depășește o simplă căutare pe internet, complicând evaluarea corectă a informațiilor de către utilizatori.
- Utilizatorii fără pregătire medicală riscă să fie induși în eroare, iar specialiștii recomandă prudență în folosirea acestor instrumente pentru decizii medicale.
Riscurile chatboților medicali în răspândirea dezinformării medicale
Chatboții medicali bazate pe inteligență artificială sănătate întâmpină dificultăți în identificarea informațiilor false formulate într-un limbaj profesionist, ceea ce poate genera sfaturi periculoase pentru utilizatori. Un studiu publicat în The Lancet Digital Health evidențiază că aceste sisteme acceptă adesea recomandări medicale eronate, iar un alt studiu din Nature Medicine arată că performanța lor nu depășește o simplă căutare pe internet.
Aceste constatări se adaugă cercetărilor care indică faptul că astfel de modele nu sunt surse sigure pentru publicul fără pregătire medicală. Dr. Mahmud Omar, coautor al studiului din The Lancet Digital Health, explică că modelele lingvistice mari (LLM) oferă răspunsuri greșite cu aceeași încredere ca pe cele corecte, spre deosebire de medici care manifestă precauție în situații incerte.
Modul în care chatboții medicali gestionează dezinformarea medicală
LLM-urile, precum ChatGPT sau Gemini, sunt antrenate pe volume mari de date medicale și pot genera texte naturale, dar nu verifică corectitudinea informațiilor. Studiul din ianuarie a testat 20 de modele AI cu peste 3,4 milioane de exemple din forumuri, rețele sociale și documente medicale modificate. Într-o treime din cazuri, modelele au acceptat informații false.
Un aspect important este limbajul folosit: când afirmațiile false sunt prezentate într-un limbaj informal, modelele greșesc în aproximativ 9% din cazuri, dar când acestea sunt exprimate într-un limbaj clinic formal, rata de eroare crește la 46%. Exemple includ recomandări absurde formulate profesional, cum ar fi consumul zilnic de lapte rece pentru sângerări esofagiene sau inserția rectală de usturoi pentru imunitate.
Limitările inteligenței artificiale sănătate în evaluarea informațiilor
Problema este structurală: modelele AI asociază limbajul clinic cu autoritatea, fără a verifica adevărul afirmațiilor. Ele evaluează dacă o afirmație sună credibil, nu dacă este corectă. În schimb, când dezinformarea conține argumente retorice tipice internetului, modelele devin mai sceptice, recunoscând mai ușor tiparele din discuțiile online.
Un alt studiu din Nature Medicine a arătat că chatboții nu oferă un avantaj semnificativ față de căutările obișnuite pe internet în luarea deciziilor medicale. Răspunsurile combinate cu recomandări utile și sugestii discutabile complică evaluarea corectă a informațiilor de către utilizatori.
Specialiștii subliniază că, deși chatboții pot oferi uneori recomandări bune, utilizatorii fără pregătire medicală nu pot evalua corectitudinea răspunsurilor. Astfel, inteligența artificială poate avea un rol în medicină, dar nu în modul în care este folosită în prezent de majoritatea oamenilor.
Noa Insight
Studiile recente evidențiază riscurile generate de chatboții medicali bazate pe inteligență artificială, care pot furniza sfaturi medicale eronate și dezinformare. Aceste modele lingvistice mari nu verifică corectitudinea informațiilor și pot accepta recomandări false formulate într-un limbaj profesionist, afectând astfel utilizatorii fără pregătire medicală.
Implicații
Rezultatele studiilor indică faptul că utilizatorii pot primi informații medicale incorecte prin intermediul chatboților AI, ceea ce afectează încrederea în aceste instrumente și ridică probleme privind siguranța utilizării lor în domeniul sănătății.
Elemente-cheie
- Modelele lingvistice mari (LLM) evaluează credibilitatea limbajului, nu corectitudinea informațiilor medicale oferite.
- Într-o treime din cazuri, modelele AI au acceptat informații false dintr-un set de peste 3,4 milioane de exemple testate.
- Rata de eroare crește la 46% când afirmațiile false sunt exprimate într-un limbaj clinic formal, comparativ cu 9% în limbaj informal.
Sursa originală a acestui articol este https://techrider.ro/ai/ai-ul-poate-genera-sfaturi-medicale-dezastruoase/?utm_source=rss&utm_medium=rss&utm_campaign=ai-ul-poate-genera-sfaturi-medicale-dezastruoase (link)
