Site-urile NoaMedia
Poate ChatGPT sănătate să gestioneze corect urgențele medicale și riscul suicid? Un studiu publicat recent în Nature analizează performanța chatbotului în 60 de scenarii clinice, evidențiind limitări semnificative. Rezultatele, obținute de cercetători americani în 2024, ridică semne de întrebare privind siguranța utilizării exclusive a AI în situații critice.
Pe scurt:
- Un studiu recent arată că ChatGPT subestimează peste jumătate dintre urgențele medicale și riscurile suicid, punând în pericol utilizatorii.
- Analiza a testat 60 de scenarii clinice în 21 de specialități, evaluarea fiind realizată de trei medici conform ghidurilor medicale.
- ChatGPT oferă răspunsuri inconsistente la riscul suicid, afișând inegal mesajele de ajutor și protecție pentru utilizatori.
- Cercetătorii recomandă prudență și consultarea directă a medicilor în cazuri severe, evitând încrederea exclusivă în chatbot.
Limitările ChatGPT în gestionarea urgențelor medicale și riscului suicid
Utilizarea ChatGPT în domeniul sănătății a crescut semnificativ, cu peste 230 de milioane de solicitări săptămânale pentru sfaturi medicale. Totuși, un studiu recent evidențiază limitările acestui instrument în identificarea corectă a urgențelor medicale și a riscului suicid.
Analiza publicată în Nature arată că, deși ChatGPT oferă răspunsuri adecvate în situații medicale clare, a subestimat mai mult de jumătate dintre cazurile care necesitau intervenție urgentă. Cercetătorii au testat 60 de scenarii clinice, acoperind 21 de specialități, iar evaluarea nivelului de urgență a fost realizată de trei medici independenți conform ghidurilor a 56 de societăți medicale.
Performanța ChatGPT sănătate în urgențe medicale
ChatGPT a identificat corect urgențe evidente, precum accidentul vascular cerebral sau reacțiile alergice severe. Totuși, în situații cu semne mai subtile, cum ar fi insuficiența respiratorie incipientă în cazul astmului, recomandările au fost insuficiente, sugerând amânarea consultului medical de urgență.
Acest aspect ridică semne de întrebare privind siguranța utilizării exclusive a chatbotului pentru decizii critice în sănătate.
Risc suicid și răspunsurile ChatGPT sănătate
Studiul a evaluat și modul în care ChatGPT răspunde la utilizatorii care exprimă gânduri de automutilare sau suicid. Sistemul a afișat în mod inconsistent bannerul cu mesajul „Ajutorul este disponibil”, care include linkuri către linii de asistență pentru crize.
Mai mult, protecția oferită a fost mai eficientă pentru pacienții fără mijloace identificate de automutilare, în timp ce răspunsurile pentru cei cu mijloace au fost paradoxal mai puțin adecvate.
Recomandări pentru utilizarea ChatGPT în sănătate
Cercetătorii nu recomandă renunțarea la instrumentele bazate pe inteligență artificială, dar subliniază necesitatea integrării lor cu prudență în practica medicală. Persoanele cu simptome severe sau îngrijorătoare trebuie să solicite asistență medicală directă, fără a se baza exclusiv pe chatbot.
Modelele lingvistice evoluează constant, iar performanța lor poate varia în timp. Este esențială o monitorizare continuă pentru a asigura că îmbunătățirile tehnologice contribuie la siguranța pacienților.
Noa Insight
Un studiu recent publicat în Nature analizează performanța ChatGPT în gestionarea urgențelor medicale și riscului suicid, evidențiind limitările acestui instrument în identificarea corectă a situațiilor critice. Cercetarea a implicat evaluarea a 60 de scenarii clinice de către medici independenți, conform ghidurilor medicale.
Implicații
Rezultatele indică riscuri în utilizarea exclusivă a ChatGPT pentru decizii medicale critice, în special în recunoașterea urgențelor subtile și în răspunsurile privind riscul suicid, ceea ce afectează siguranța pacienților și necesită prudență în integrarea sa în practica medicală.
Elemente-cheie
- Evaluarea nivelului de urgență a fost realizată de trei medici independenți conform ghidurilor a 56 de societăți medicale.
- ChatGPT a subestimat mai mult de jumătate dintre cazurile care necesitau intervenție urgentă în 60 de scenarii clinice testate.
- Sistemul a afișat în mod inconsistent mesajul „Ajutorul este disponibil” pentru utilizatorii cu gânduri suicidare.
Sursa originală a acestui articol este https://www.g4media.ro/pericolele-de-a-adresa-chatgpt-intrebari-legate-de-sanatate-un-nou-studiu-recomanda-prudenta.html (link)
