NoaTech
  • Acasă
  • Tehnologie
    • All
    • Cybersecurity
    • Gadgeturi
    • Gaming / Esports
    • Inovații
    • Inteligență artificială
    • IT&C
    • Social Media
    • Software
    • Știință
    • Telefoane mobile
    Clădirea Pentagonului, în centrul disputei cu Anthropic privind modelul Claude și supravegherea în masă | sursa foto: Digi24

    Justiția menține interdicția Pentagonului pentru Anthropic, după disputa despre Claude

    Ochelari inteligenți Meta prezentați ca dispozitiv pentru agentul personal AI bazat pe inteligență artificială | sursa foto: TechCrunch

    Pariul Meta pe agentul personal AI din ochelarii inteligenți chiar va funcționa?

    Ecran de laptop cu tabel de date personale expuse din baze Supabase, ilustrând riscurile de securitate ale aplicațiilor AI | sursa foto: TechCrunch

    Unii clienți ai Supabase au expus online datele personale ale multor oameni

    Ecran de server Kiteworks cu alertă de securitate cibernetică privind vulnerabilități zero-day și oprirea temporară a sistemelor clienților | sursa foto: TechCrunch

    Kiteworks cere oprirea serverelor, avertizând asupra unui atac cibernetic iminent

    Logo-ul Bitget alături de simboluri cripto, ilustrând furtul de criptomonede și atacul cibernetic asupra platformei | sursa foto: TechCrunch

    Hackerii nord-coreeni, suspectați de furtul a 351 de milioane în criptomonede השנה

    Scanare retină cu vasele de sânge vizibile, folosită de cercetători pentru estimarea vârstei retiniene și biologice | sursa foto: Digi24

    Scanarea retinei ar putea indica vârsta biologică, arată analiza a 30.000 de scanări

  • Inteligență artificială
  • Știință
  • Inovații
  • Site-urile NoaMedia
    • Actualitate: NoaNews
    • Economie: NoaBiz
    • Sport: NoaSport
    • Showbiz: NoaStar
No Result
View All Result
NoaTech
  • Acasă
  • Tehnologie
    • All
    • Cybersecurity
    • Gadgeturi
    • Gaming / Esports
    • Inovații
    • Inteligență artificială
    • IT&C
    • Social Media
    • Software
    • Știință
    • Telefoane mobile
    Clădirea Pentagonului, în centrul disputei cu Anthropic privind modelul Claude și supravegherea în masă | sursa foto: Digi24

    Justiția menține interdicția Pentagonului pentru Anthropic, după disputa despre Claude

    Ochelari inteligenți Meta prezentați ca dispozitiv pentru agentul personal AI bazat pe inteligență artificială | sursa foto: TechCrunch

    Pariul Meta pe agentul personal AI din ochelarii inteligenți chiar va funcționa?

    Ecran de laptop cu tabel de date personale expuse din baze Supabase, ilustrând riscurile de securitate ale aplicațiilor AI | sursa foto: TechCrunch

    Unii clienți ai Supabase au expus online datele personale ale multor oameni

    Ecran de server Kiteworks cu alertă de securitate cibernetică privind vulnerabilități zero-day și oprirea temporară a sistemelor clienților | sursa foto: TechCrunch

    Kiteworks cere oprirea serverelor, avertizând asupra unui atac cibernetic iminent

    Logo-ul Bitget alături de simboluri cripto, ilustrând furtul de criptomonede și atacul cibernetic asupra platformei | sursa foto: TechCrunch

    Hackerii nord-coreeni, suspectați de furtul a 351 de milioane în criptomonede השנה

    Scanare retină cu vasele de sânge vizibile, folosită de cercetători pentru estimarea vârstei retiniene și biologice | sursa foto: Digi24

    Scanarea retinei ar putea indica vârsta biologică, arată analiza a 30.000 de scanări

  • Inteligență artificială
  • Știință
  • Inovații
  • Site-urile NoaMedia
    • Actualitate: NoaNews
    • Economie: NoaBiz
    • Sport: NoaSport
    • Showbiz: NoaStar
No Result
View All Result
NoaTech

Experții avertizează asupra pericolului ChatGPT Health care nu a recunoscut urgențele medicale reale

Studiu din Nature Medicine arată că ChatGPT Health a subestimat urgențele în 51,6% din 60 de scenarii testate.

by Noah Nicholas
09/03/2026 | ⏱︎ 08:09
Reading Time: 4 mins read
Home Tehnologie Inteligență artificială
Share on FacebookShare on Twitter

Source: Digi24

Cât de sigur este ChatGPT Health în gestionarea urgențelor medicale? Un studiu publicat recent în Nature Medicine arată că versiunea AI specializată subestimează frecvent gravitatea unor cazuri reale în spitalele din SUA. Aceste rezultate ridică semne de întrebare importante privind siguranța AI în domeniul medical.


Pe scurt:

  • ChatGPT Health subestimează gravitatea urgențelor medicale în 51,6% din cazuri, punând în pericol siguranța pacienților.
  • Studiul din Nature Medicine a testat AI-ul pe 60 de scenarii clinice, evidențiind atât subestimări, cât și exagerări ale severității.
  • Deficiențele includ detectarea slabă a ideilor suicidare și recomandări inconsistente, ceea ce poate duce la decizii medicale greșite.
  • Experții cer standarde clare și audituri independente pentru a preveni riscurile asociate utilizării AI în sănătate.

ChatGPT Health subestimează urgențele medicale și ridică semne de întrebare privind siguranța AI

ChatGPT Health, versiunea specializată în sănătate a chatbot-ului OpenAI, a fost evaluată pentru capacitatea sa de a identifica corect urgențele medicale, însă un studiu recent arată că platforma subestimează frecvent gravitatea unor cazuri. Această situație ridică îngrijorări majore privind siguranța AI în domeniul medical.

Analiza publicată în Nature Medicine a testat ChatGPT Health pe 60 de scenarii clinice realiste, fiecare cu 16 variații, comparând recomandările AI cu cele ale medicilor. Rezultatele au indicat că în 51,6% dintre cazuri, platforma a recomandat consult medical în următoarele 48 de ore, deși situația impunea o vizită imediată la urgență.

Rezultate privind ChatGPT Health și urgențele medicale

Deși ChatGPT Health a identificat corect urgențele evidente, precum accidentele vasculare cerebrale, a subestimat gravitatea în multe alte situații. În unele cazuri, pacienții cu simptome severe au fost sfătuiți să aștepte, ceea ce poate pune viața în pericol. În același timp, AI-ul a exagerat severitatea în 64,8% dintre cazurile fără probleme reale, recomandând vizite medicale inutile.

Un exemplu relevant este un scenariu cu un pacient cu astm care prezenta semne timpurii de insuficiență respiratorie, dar căruia i s-a sugerat să nu meargă la urgență. Cercetătorii au observat, de asemenea, inconsistențe în răspunsuri, inclusiv în situații ce implicau riscuri de autovătămare sau sinucidere.

Probleme în detectarea ideilor suicidare și riscuri de siguranță AI

Studiul a evidențiat dificultăți ale ChatGPT Health în detectarea și reacția adecvată la ideile suicidare. Într-un test cu un pacient care menționa gânduri suicidare, platforma a afișat un banner de intervenție doar dacă nu erau incluse rezultatele analizelor de laborator. Această dependență de detalii suplimentare face sistemul nesigur și poate crește riscul de vătămare.

Experții avertizează că aceste deficiențe pot conduce la decizii greșite, cu consecințe grave pentru utilizatori. Alex Ruani, cercetător în domeniul combaterii dezinformării în sănătate, a subliniat pericolul falselor senzații de siguranță generate de astfel de sisteme.

Reacții și perspective privind siguranța ChatGPT Health

OpenAI afirmă că studiul nu reflectă modul obișnuit de utilizare al ChatGPT Health și că modelul este actualizat constant pentru îmbunătățiri. Totuși, cercetătorii cer standarde clare de siguranță și mecanisme independente de audit pentru a preveni riscurile.

Profesorul Paul Henman, expert în politici publice, a atras atenția asupra responsabilității legale și a riscurilor asociate utilizării necorespunzătoare a AI în sănătate. El a subliniat lipsa de transparență privind antrenamentul și mecanismele de protecție ale platformei.

Acest studiu reprezintă o primă evaluare independentă a siguranței ChatGPT Health și evidențiază necesitatea unei supravegheri riguroase pentru a proteja utilizatorii în fața unor recomandări potențial periculoase.

Noa Insight

Un studiu publicat în Nature Medicine a evaluat capacitatea ChatGPT Health, versiunea specializată a chatbot-ului OpenAI, de a identifica urgențele medicale. Rezultatele arată că platforma subestimează frecvent gravitatea unor cazuri și prezintă dificultăți în detectarea ideilor suicidare, ridicând probleme de siguranță în utilizarea AI în sănătate.

Implicații

Deficiențele identificate afectează încrederea în recomandările ChatGPT Health și pot conduce la decizii medicale greșite. Studiul subliniază necesitatea unor standarde clare de siguranță și mecanisme independente de audit pentru această tehnologie.

Elemente-cheie

  • Studiul a testat ChatGPT Health pe 60 de scenarii clinice, fiecare cu 16 variații, comparând răspunsurile AI cu cele ale medicilor.
  • În 51,6% dintre cazuri, AI a recomandat consult medical în 48 de ore, deși era necesară vizita imediată la urgență.
  • Platforma a afișat un banner de intervenție pentru idei suicidare doar dacă nu erau incluse rezultatele analizelor de laborator.

Sursa originală a acestui articol este https://www.digi24.ro/stiri/incredibil-de-periculos-expertii-trag-un-semnal-de-alarma-dupa-ce-chatgpt-health-nu-a-recunoscut-urgentele-medicale-3661031 (link)


Source: Digi24
Tags: Alex RuaniChatGPT HealthPaul HenmanSiguranța AIUrgențe Medicale
Previous Post

Viitorul securității financiare cu plățile biometrice și autentificarea invizibilă fără parole și PIN-uri

Next Post

Şefa diviziei de hardware a OpenAI demisionează după acordul companiei cu Pentagonul pentru securitatea naţională

Alte știri

Clădirea Pentagonului, în centrul disputei cu Anthropic privind modelul Claude și supravegherea în masă | sursa foto: Digi24
Inteligență artificială

Justiția menține interdicția Pentagonului pentru Anthropic, după disputa despre Claude

September 25, 2026
Ochelari inteligenți Meta prezentați ca dispozitiv pentru agentul personal AI bazat pe inteligență artificială | sursa foto: TechCrunch
Inteligență artificială

Pariul Meta pe agentul personal AI din ochelarii inteligenți chiar va funcționa?

September 25, 2026
Ecran de laptop cu tabel de date personale expuse din baze Supabase, ilustrând riscurile de securitate ale aplicațiilor AI | sursa foto: TechCrunch
Cybersecurity

Unii clienți ai Supabase au expus online datele personale ale multor oameni

September 25, 2026
Ecran de server Kiteworks cu alertă de securitate cibernetică privind vulnerabilități zero-day și oprirea temporară a sistemelor clienților | sursa foto: TechCrunch
Cybersecurity

Kiteworks cere oprirea serverelor, avertizând asupra unui atac cibernetic iminent

September 25, 2026
Logo-ul Bitget alături de simboluri cripto, ilustrând furtul de criptomonede și atacul cibernetic asupra platformei | sursa foto: TechCrunch
Cybersecurity

Hackerii nord-coreeni, suspectați de furtul a 351 de milioane în criptomonede השנה

September 25, 2026
Scanare retină cu vasele de sânge vizibile, folosită de cercetători pentru estimarea vârstei retiniene și biologice | sursa foto: Digi24
Inteligență artificială

Scanarea retinei ar putea indica vârsta biologică, arată analiza a 30.000 de scanări

September 25, 2026
Load More
Next Post
Caitlin Kalinowski discutând în conferință despre demisie OpenAI după acord Pentagon privind inteligență artificială securitate națională. | sursa foto: News.ro

Şefa diviziei de hardware a OpenAI demisionează după acordul companiei cu Pentagonul pentru securitatea naţională

Ultimele știri

Clădirea Pentagonului, în centrul disputei cu Anthropic privind modelul Claude și supravegherea în masă | sursa foto: Digi24

Justiția menține interdicția Pentagonului pentru Anthropic, după disputa despre Claude

September 25, 2026
Ochelari inteligenți Meta prezentați ca dispozitiv pentru agentul personal AI bazat pe inteligență artificială | sursa foto: TechCrunch

Pariul Meta pe agentul personal AI din ochelarii inteligenți chiar va funcționa?

September 25, 2026
Ecran de laptop cu tabel de date personale expuse din baze Supabase, ilustrând riscurile de securitate ale aplicațiilor AI | sursa foto: TechCrunch

Unii clienți ai Supabase au expus online datele personale ale multor oameni

September 25, 2026
Ecran de server Kiteworks cu alertă de securitate cibernetică privind vulnerabilități zero-day și oprirea temporară a sistemelor clienților | sursa foto: TechCrunch

Kiteworks cere oprirea serverelor, avertizând asupra unui atac cibernetic iminent

September 25, 2026
Logo-ul Bitget alături de simboluri cripto, ilustrând furtul de criptomonede și atacul cibernetic asupra platformei | sursa foto: TechCrunch

Hackerii nord-coreeni, suspectați de furtul a 351 de milioane în criptomonede השנה

September 25, 2026
Scanare retină cu vasele de sânge vizibile, folosită de cercetători pentru estimarea vârstei retiniene și biologice | sursa foto: Digi24

Scanarea retinei ar putea indica vârsta biologică, arată analiza a 30.000 de scanări

September 25, 2026

Cele mai citite

  • Interfață digitală cu reprezentarea unui model AI personal compact și agent personal AI activ, evidențiind confidențialitate AI avansată. | sursa foto: Profit

    Meta lansează modelul compact de AI pentru uz personal cu agent excepțional și confidențialitate garantată

    0 shares
    Share 0 Tweet 0
  • Zeci de advertiseri au putut vedea parola utilizatorilor în urma scurgerii de date Klaviyo

    0 shares
    Share 0 Tweet 0
  • Meta lansează modelul open-source de inteligență artificială Muse Glimmer de la Superintelligence Labs

    0 shares
    Share 0 Tweet 0
  • Meta se confruntă cu un proces uriaș în SUA după două condamnări pentru dependența minorilor de Facebook și Instagram

    0 shares
    Share 0 Tweet 0
  • Honor lansează în România seria de telefoane Magic8 cu baterie siliciu-carbon și cameră telefoto AI

    0 shares
    Share 0 Tweet 0
NoaTech

NoaTech este un proiect digital dedicat unui mod mai clar, modern și responsabil de a înțelege tehnologia și inovația.

Despre noi

  • Despre NoaTech
  • Cum funcționează
  • Politică editorială
  • Contact
  • Site-urile NoaMedia
    • Actualitate: NoaNews
    • Economie: NoaBiz
    • Sport: NoaSport
    • Showbiz: NoaStar

Categorii

  • Acasă
  • Tehnologie
  • Inteligență artificială
  • Știință
  • Inovații

Utile

  • Termeni și condiții
  • Politica de Cookie
  • Politica de Confidențialitate 
  • Declarație de Confidențialitate
  • Declarație de Confidențialitate (UE)

►
Necessary cookies enable essential site features like secure log-ins and consent preference adjustments. They do not store personal data.
None
►
Functional cookies support features like content sharing on social media, collecting feedback, and enabling third-party tools.
None
►
Analytical cookies track visitor interactions, providing insights on metrics like visitor count, bounce rate, and traffic sources.
None
►
Advertisement cookies deliver personalized ads based on your previous visits and analyze the effectiveness of ad campaigns.
None
►
Unclassified cookies are cookies that we are in the process of classifying, together with the providers of individual cookies.
None
No Result
View All Result
  • Acasă
  • Tehnologie
  • Inteligență artificială
  • Știință
  • Inovații
  • Site-urile NoaMedia
    • Actualitate: NoaNews
    • Economie: NoaBiz
    • Sport: NoaSport
    • Showbiz: NoaStar

© 2026 NoaTech - Proiect digital dedicat tehnologiei prezentate clar și responsabil.