Radiografiile false AI pot induce în eroare atât radiologii, cât și sistemele spitalelor, ridicând semne de întrebare asupra securității cibernetice. Un studiu recent, realizat în șase țări cu 17 radiologi, a testat capacitatea acestora de a detecta imagini sintetice. Această problemă afectează direct integritatea dosarelor medicale și siguranța pacienților.
Pe scurt:
- Radiografiile false generate de AI păcălesc 59% dintre radiologii experimentați și sistemele automate din spitale, conform unui studiu internațional.
- Studiul a implicat 17 radiologi din 12 spitale, care au analizat 264 de radiografii, jumătate fiind create cu AI precum ChatGPT și RoentGen.
- Aceste imagini false pot genera litigii frauduloase și riscuri de securitate cibernetică, afectând diagnosticele și siguranța pacienților.
- Cercetătorii cer dezvoltarea unor garanții digitale și instrumente eficiente pentru detectarea și prevenirea manipulării imaginilor medicale sintetice.
Radiografii false AI și provocările detectării imaginilor sintetice
Radiografiile false AI pot păcăli atât radiologii experimentați, cât și sistemele automate de analiză, ridicând probleme serioase de securitate cibernetică spital. Un studiu realizat cu participarea a 17 radiologi din 12 spitale din șase țări a testat capacitatea acestora de a identifica imagini generate artificial.
Radiologii au analizat 264 de radiografii, jumătate fiind create cu ajutorul unor instrumente AI precum ChatGPT sau RoentGen. Fără să știe că unele imagini erau sintetice, doar 41% dintre specialiști au recunoscut radiografiile false. După ce au fost informați despre prezența imaginilor generate, precizia lor a crescut la 75%.
Impactul radiografiilor false AI asupra securității cibernetice spital
Dr. Mickael Tordjman, coordonatorul studiului de la Școala de Medicină Icahn, avertizează că aceste radiografii deepfake creează o vulnerabilitate majoră. O fractură falsă greu de distins de una reală poate genera litigii frauduloase. Mai mult, hackerii ar putea manipula dosarele medicale digitale prin injectarea unor imagini sintetice, afectând diagnosticele și siguranța pacienților.
Patru modele lingvistice mari, inclusiv GPT-4o, GPT-5, Gemini 2.5 Pro și Llama 4 Maverick, au fost testate pentru detectarea imaginilor false, cu rate de succes între 57% și 85%. Totuși, nici măcar modelul ChatGPT-4o, folosit pentru generarea radiografiilor, nu a identificat toate imaginile sintetice.
Necesitatea unor soluții pentru detectarea imaginilor sintetice
Cercetătorii subliniază necesitatea dezvoltării unor garanții digitale care să ajute la diferențierea radiografiilor reale de cele false și să prevină manipularea datelor medicale. Dr. Tordjman atrage atenția că problema ar putea fi mult mai extinsă, incluzând scanări CT și RMN false.
El recomandă crearea unor seturi de date educaționale și a unor instrumente eficiente de detectare pentru a proteja integritatea dosarelor medicale și a asigura securitatea cibernetică spitalelor.
Noa Insight
Un studiu internațional a analizat capacitatea radiologilor și a modelelor AI de a detecta radiografii generate artificial, evidențiind riscuri de securitate cibernetică în spitale. Cercetarea a implicat 17 radiologi din 12 spitale din șase țări și a testat imagini sintetice create cu instrumente AI precum ChatGPT și RoentGen.
Implicații
Radiografiile false pot afecta diagnosticele și siguranța pacienților prin manipularea dosarelor medicale digitale, generând vulnerabilități în sistemele spitalicești și riscuri de litigii frauduloase.
Elemente-cheie
- Radiografiile false AI sunt imagini sintetice create cu instrumente digitale, greu de distins de cele reale de către specialiști și sisteme automate.
- Doar 41% dintre radiologi au recunoscut radiografiile false înainte de informare, iar precizia a crescut la 75% după conștientizare.
- Modelele lingvistice testate au avut rate de succes între 57% și 85% în detectarea imaginilor false, fără a identifica toate cazurile.
Sursa originală a acestui articol este https://hotnews.ro/radiografii-false-facute-de-ai-atat-de-bine-incat-au-pacalit-atat-radiologi-cat-si-instrumentul-care-le-a-creat-cercetatorii-trag-un-semnal-de-alarma-2202783 (link)







