AI v medicíně: Jsou lékaři stále nepostradatelní?

Milí kolegové a příznivci moderní medicíny,

jistě jste v poslední době zaznamenali představení nového modelu OpenAI, označovaného jako O3. Rád bych této události využil k prezentaci své vize budoucnosti AI v medicíně a naznačil, jakou roli v ní budou hrát lékaři.

Zásadním rozdílem oproti klasickému GPT-4 je, že namísto pouhého generování jedné odpovědi O3 (a další modely ze série O) vytváří mnoho kandidátních řešení, tzv. řetězců myšlenek (Chain-of-Thought, CoT). Tato řešení jsou hodnocena verifikačním modelem, který hledá chyby v logice či výpočtech. V některých případech se pak vybere tzv. konsenzuální nebo nejčastější odpověď.

Pokud model sestaví správnou sekvenci kroků vedoucí k ověřené odpovědi, může se na základě těchto mezikroků doladit (fine-tuning), čímž posiluje svou schopnost generovat řetězce úvah, které vedou ke správným výsledkům správným postupem. Tento proces, známý jako reinforcement learning (RL), umožňuje modelu učit se preferovat správné myšlenkové postupy (reasoning). Díky automatickému ověřování generovaných odpovědí jde o velmi efektivní způsob zlepšování, což dokazuje model O3, jenž dosáhl významných výsledků – například 25 % přesnosti v benchmarku FrontierMath oproti méně než 2 % u předchozích modelů.

V rámci implementací RL u těchto modelů rozlišujeme dva hlavní přístupy:

1. Outcome supervision – Model se učí na základě výsledku, což dobře funguje u úloh s jasně definovanou správnou odpovědí (např. matematika, programování).

2. Process supervision – Experti hodnotí správnost jednotlivých kroků, čímž model postupně zdokonaluje svou logiku.

Doposud jsme popisovali přístup číslo 1, který je ideální tam, kde lze správnost odpovědí objektivně a snadno ověřit. Model se dokáže rychle poučit ze svých výsledků a efektivně upravit svou vnitřní logiku – právě díky vysoké míře automatizace je tento postup velmi lákavý.

Pro medicínu a přírodní vědy však přichází na řadu spíše přístup číslo 2. V těchto oborech řešíme diagnózy, výskyt symptomů a doprovodných projevů i prognózy s určitou pravděpodobností, a to s přihlédnutím ke komplexnosti a individualitě našich pacientů. V medicíně se proto někdy obrazně říká, že „je možné téměř všechno“. Klíčovou roli zde hraje nejen lékařská zkušenost a znalost medicíny, ale také jistá dávka intuice. Výstupy umělé inteligence proto nelze hodnotit tak exaktně jako v matematice či programování, a z toho důvodu je nezbytné, aby byl lékař součástí nejen trénování, ale i samotné aplikace modelu v praxi.

Moje novoroční poselství zní:

Lékaři se nemusí obávat, že je umělá inteligence nahradí. Naopak věřím, že lékař zůstane klíčovým prvkem nejen při trénování a zavádění AI do klinické praxe, ale také při její každodenní aplikaci v běžném provozu. Jako „gatekeeper“ bude lékař tím, kdo dokáže výstupy umělé inteligence zasadit do kontextu komplexní a individuální péče o pacienta.