Nové stanovisko ČAUI: AI ve zdravotnictví ano, ale bezpečně a certifikovaně
Tento text vyšel původně v newsletteru Dr. Lasso, který každý týden přináší novinky ze světa medicíny, inspirativní rozhovory a přehled nejzajímavějších výzkumů. Přihlásit se můžete na www.drlasso.com.
Zdravotnická sekce České asociace umělé inteligence (ČAUI) zveřejnila 16. ledna 2026 oficiální stanovisko k rostoucímu trendu „health“ režimů v generativních modelech umělé inteligence, konkrétně například k ChatGPT Health od OpenAI. Zatímco technologie slibují zefektivnění medicíny a zlepšení dostupnosti informací, podle asociace je třeba zachovat maximální opatrnost, pokud mají být tyto nástroje využívány v klinickém prostředí.
Modely nejsou připraveny na klinické rozhodování
ČAUI výslovně uvádí, že ačkoliv vývoj generativních modelů zaměřených na oblast zdraví vnímá jako pozitivní posun, tyto nástroje nesmí být považovány za zdravotnické prostředky, a to ani implicitně. Dokud neprojdou schvalovacím procesem dle evropského nařízení o zdravotnických prostředcích (MDR), neměly by být používány k rozhodování o diagnóze či léčbě pacientů.
Organizace upozorňuje, že v současném stavu tyto modely „nejsou bezpečné pro použití v klinickém rozhodování“. Jejich výstupy se mohou jevit věrohodně a přesvědčivě, ale mohou obsahovat věcné chyby, zkreslení či dokonce neexistující informace, včetně falešných odborných citací.
Rizika pro důvěru i bezpečnost
Mezi hlavní výhrady asociace patří následující:
- Zkreslení klinických informací: Model může generovat výstupy, které působí odborně, ale ve skutečnosti jsou chybné nebo zavádějící.
- Halucinace a neexistující citace: Generativní modely mohou vytvářet nepravdivé odborné odkazy nebo kombinovat nesouvisející data.
- Ztráta důvěry: Pokud pacient obdrží výstup od AI, který není validovaný, může to vést k mylným očekáváním, případně narušit důvěru mezi pacientem a jeho lékařem.
- Black-box povaha modelů: Modely nejsou vysvětlitelné, nelze je auditovat zpětně a není jasné, z jakých dat výstupy vycházejí. To je v přímém rozporu s požadavky na transparentnost ve zdravotnictví.
AI ano, ale s jasnými pravidly
ČAUI doporučuje, aby bylo využívání generativních AI nástrojů ve zdravotnictví striktně regulováno a probíhalo výhradně v souladu s platnou legislativou. Upozorňuje, že v oblasti zdravotní péče není prostor pro „beta testování“ na pacientech bez odpovídající míry odpovědnosti, odborného dohledu a etických záruk.
Podle asociace může mít AI významné přínosy v oblasti administrativy, podpory klinického rozhodování, zpracování dokumentace či interpretace výzkumných textů, ovšem výhradně tehdy, pokud je její výstup podroben kritické lidské kontrole a jasně označen jako doporučení, nikoli definitivní závěr.
