Umelá inteligencia sa stala bežnou súčasťou života a mnohí ľudia ju začali používať aj na orientačné zisťovanie zdravotných problémov. Aj keď tieto systémy dokážu pracovať s obrovským množstvom informácií a často pôsobia veľmi sebavedomo, realita je zložitejšia. Odborné štúdie upozorňujú, že AI môže byť užitočným doplnkom, no momentálne nie je spoľahlivým nástrojom na diagnostiku ani na posúdenie urgentných stavov.
Výskumy ukazujú, že aj keď má moderná umelá inteligencia prekvapivo dobré teoretické znalosti medicíny, v situáciách, kde ide o ľudský život, sa jej rozhodovanie môže výrazne odchýliť od správneho postupu.
AI modely dosahujú dobré výsledky v teórii, nie vždy však v reálnych situáciách
Odborníci z nemocnice Mass General Brigham v USA podrobili veľké jazykové modely rozsiahlemu testovaniu. Zamerali sa najmä na klinické rozhodovanie, teda úlohy, ktoré lekári riešia každý deň. V štúdii publikovanej v časopise JMIR dosiahol testovaný model presnosť približne 72 %, čo zodpovedá úrovni čerstvého absolventa medicíny.
Hlavný autor výskumu uviedol, že AI môže byť v klinickej praxi užitočná ako doplnkový nástroj, no stále má zásadné obmedzenia. Jedným z najväčších je nedostatočná schopnosť zúžiť okruh možných diagnóz. Model vie správne pomenovať mnohé choroby, ale nedokáže vždy určiť, ktoré z nich sú v danom prípade najpravdepodobnejšie alebo najnebezpečnejšie.
Ďalšia štúdia, publikovaná v JAMA, testovala modely na 70 náročných medicínskych prípadoch. Umelá inteligencia dokázala v približne 40 % prípadov uviesť správnu diagnózu hneď medzi prvými návrhmi. Odborníci však zdôrazňujú, že ide o výsledky z kontrolovaného prostredia, nie o hodnotenie v akútnej klinickej praxi.
Najväčšie riziko: rozpoznanie urgentných stavov
Najdôležitejšie zistenia priniesla nezávislá štúdia publikovaná v časopise Nature Medicine, ktorá testovala nové AI rozhranie zamerané na zdravotné konzultácie. Lekári skúmali, či dokáže správne určiť, kedy potrebuje pacient okamžitú pomoc.
Výsledky ukázali, že:
- pri jednoznačných, učebnicových príznakoch závažnej choroby (napr. typická cievna mozgová príhoda) si model viedol pomerne dobre,
- no pri menej typických alebo zmiešaných príznakoch sa presnosť rozhodnutí výrazne znížila.
V niektorých simulovaných prípadoch AI doporučila oddych alebo návštevu lekára v nasledujúcich dňoch, hoci podľa klinických štandardov by mal byť pacient okamžite prevezený na urgentný príjem.
Tento problém súvisí s tým, že AI nedokáže vnímať celkový kontext a riziko najhoršieho možného scenára. Lekári sú pri rozhodovaní naučení pracovať s neistotou, zatiaľ čo modely často vyhodnotia text len povrchne a následne pripravia odporúčanie, ktoré môže pôsobiť upokojujúco, no nemusí byť bezpečné.
Psychické krízy: oblasť, v ktorej AI nesmie zlyhať – ale zatiaľ zlyháva
Veľká časť diskusie sa sústreďuje na situácie, v ktorých ide o duševné zdravie používateľa. Modely síce obsahujú mechanizmy, ktoré majú automaticky reagovať na sebapoškodzujúce alebo samovražedné výroky, no v praxi sú tieto reakcie nekonzistentné.
Výskum, ktorý analyzoval reakcie AI pri rôznych typoch krízových správ, ukázal, že:
- pri nízkom riziku niekedy systém vydal výrazné varovanie
- pri vysokom riziku v iných prípadoch varovanie chýbalo
Odborníci tiež upozornili, že model môže byť príliš „dôverčivý“. Ak používateľ uvedie, že jeho okolie považuje jeho ťažkosti za banálne, AI môže tento názor prebrať. To môže viesť k odporúčaniam, ktoré nie sú v súlade s lekárskymi štandardmi pre hodnotenie rizika.
Preto sa odborné spoločnosti zhodujú v tom, že AI nemôže nahradiť profesionálnu pomoc a nemala by byť využívaná ako zdroj rozhodnutí pri psychických krízach.
AI v medicíne má potenciál, ale musí sa používať zodpovedne
Zdravotníci sa zhodujú, že umelá inteligencia má v zdravotníctve veľkú budúcnosť. Môže pomáhať so spracovaním dát, vysvetľovaním pojmov, orientačným vyhľadávaním informácií či podporou pri rozhodovaní – vždy však len ako doplnok lekára, nie náhrada.
Ako upozorňuje jedna zo spoluautoriek výskumov, ktorá pracuje aj v klinickej praxi, AI by mala byť chápaná ako nástroj, ktorý môže zvýšiť efektivitu alebo zrozumiteľnosť medicínskych informácií, no zodpovednosť za diagnostiku a liečbu musí niesť lekár.
Záver: používať áno, ale nie na vlastnú diagnostiku
Používanie umelej inteligencie na orientačné zisťovanie informácií môže byť užitočné, najmä ak človeku pomôže lepšie pochopiť pojem alebo správne pomenovať symptómy. No v situáciách, kde ide o hodnotenie zdravotného rizika alebo urgentného stavu, odborníci odporúčajú jednoznačne:
AI môže byť zdroj informácií, ale nemá posudzovať zdravotný stav ani nahrádzať lekársku pomoc. Pri akýchkoľvek vážnych príznakoch je nevyhnutné obrátiť sa na zdravotníka.
