Știați că chatboții diagnostic greșit pot atinge o rată de eroare de peste 80% în evaluarea inițială a pacienților? Un studiu realizat în 2024 de Mass General Brigham în Massachusetts a testat 21 de modele AI medicale, evidențiind limitele actuale ale inteligenței artificiale medicale. Rezultatele ridică semne de întrebare privind siguranța utilizării acestor tehnologii în diagnostic.
Pe scurt:
- Un studiu realizat de Mass General Brigham arată că chatboții medicali au o rată de eroare de peste 80% în diagnosticarea inițială fără suficiente informații.
- Performanța AI în diagnostic depinde de volumul și calitatea datelor, iar erorile scad la peste 40% când toate informațiile sunt disponibile.
- Modelele AI suferă de halucinații, generând informații inventate care pot induce în eroare utilizatorii și afectează siguranța diagnosticelor.
- Utilizarea chatboților în diagnosticarea medicală necesită supraveghere medicală strictă pentru a preveni riscurile asociate erorilor frecvente.
Erori frecvente ale chatboților în diagnosticarea medicală inițială
Chatboții diagnostic greșit reprezintă o problemă semnificativă în domeniul inteligenței artificiale medicale, conform unui studiu recent. Modelele AI obișnuite, precum ChatGPT și Gemini, au o rată de eroare de peste 80% atunci când nu dispun de suficiente informații despre pacient.
Studiul realizat de Mass General Brigham din Massachusetts și publicat în Jama Network Open a evaluat 21 de modele lingvistice folosind 29 de viniete clinice bazate pe texte medicale de referință. Testele au inclus modele dezvoltate de OpenAI, Anthropic, Google, xAI și DeepSeek.
Performanța chatboților în diagnosticare și erori diagnostic AI
În cadrul testelor, chatboților li s-au oferit treptat informații medicale, inclusiv constatări clinice și rezultate de laborator. Chiar și cu toate datele disponibile, modelele au înregistrat o rată a erorilor de peste 40%. Totuși, unele chatboți au reușit să ofere diagnosticul corect în 90% din cazuri când au avut acces la toate informațiile.
Rezultatele indică faptul că performanța inteligenței artificiale medicale depinde puternic de volumul și calitatea datelor primite. Cu toate acestea, chiar și în condiții ideale, erorile rămân frecvente, ceea ce ridică semne de întrebare privind utilizarea lor în diagnosticarea inițială.
Limitele actuale ale inteligenței artificiale medicale
Specialiștii subliniază că toate modelele lingvistice suferă de fenomenul numit halucinații, când AI inventează informații în absența unui răspuns clar. Această caracteristică contribuie la erorile de diagnostic și poate induce în eroare utilizatorii.
Astfel, chatboții diagnostic greșit rămân o provocare majoră în domeniul inteligenței artificiale medicale, iar utilizarea lor trebuie să fie însoțită de precauție și supraveghere medicală adecvată.
Noa Insight
Un studiu realizat de Mass General Brigham a evaluat 21 de modele AI, inclusiv ChatGPT și Gemini, în diagnosticarea medicală inițială. Rezultatele arată o rată ridicată a erorilor, mai ales când modelele nu dispun de suficiente informații despre pacient, evidențiind limitările actuale ale inteligenței artificiale medicale.
Implicații
Performanța variabilă a chatboților afectează încrederea în utilizarea lor pentru diagnosticare inițială, subliniind necesitatea supravegherii medicale și a precauției în implementarea acestor tehnologii.
Elemente-cheie
- Rata de eroare reprezintă procentul de diagnostice greșite realizate de modelele AI în condiții specifice de testare.
- Studiul a folosit 29 de viniete clinice și a inclus modele dezvoltate de OpenAI, Anthropic, Google, xAI și DeepSeek.
- Fenomenul de halucinații se referă la generarea de informații inventate de AI în absența unui răspuns clar, afectând acuratețea diagnosticelor.
Sursa originală a acestui articol este https://www.news.ro/economic/studiu-chatbotii-dau-un-diagnostic-gresit-in-80-din-cazurile-medicale-initiale-1922400814202026040822409993 (link)







