Nová kalifornská legislativa zdůrazňuje, proč lékaři zůstanou „gatekeepeři“ i v éře AI

Milí kolegové a příznivci moderních technologií v medicíně,

nejnovější krok Kalifornie potvrzuje, že lékařská expertiza zůstává naprosto zásadní. Zákon s označením „Physicians Make Decisions Act“ (Senate Bill 1120) totiž od ledna 2025 zakazuje zdravotním pojišťovnám rozhodovat o zamítnutí či odkladu pojišťovacích nároků výlučně na základě algoritmů umělé inteligence.

💡Co se mění?

AI nemůže být jediným faktorem pro zamítnutí: Pojišťovny musí vždy zapojit lidský pohled, aby nedocházelo k nelogickým či necitlivým zamítnutím péče.
Striktní lhůty: Standardní žádosti musejí být vyřízeny do 5 pracovních dnů, urgentní do 72 hodin a retrospektivní revize do 30 dnů, což zvyšuje odpovědnost pojišťoven a snižuje stres pacientů.
Zachování role lékaře: AI není zakázána, ale zákon posiluje lékařskou autoritu a zohledňuje komplexitu pacientů, kterou algoritmy nedokážou vždy uchopit.
Inspirace pro ostatní státy: Kalifornie vysílá signál, že nasazení AI v citlivých oblastech, jako je zdravotní pojištění, se neobejde bez jasných etických a právních mantinelů.

🔎Proč je to důležité pro naši praxi?

V nedávném novoročním poselství jsem zdůrazňoval, že lékař nebude nahrazen AI – naopak se stane klíčovým prvkem v jejím trénování a dohledu. Moderní modely jako O3 (s tzv. „Chain-of-Thought“ přístupem) mají obrovský potenciál zlepšovat péči, avšak v oborech, kde je třeba zohlednit komplexnost a individualitu pacienta, je lidský úsudek nenahraditelný.

Kalifornský zákon tak v praxi dokládá, proč lékař zůstává „gatekeeperem“: lékař je jediný, kdo dokáže zasadit výstup AI do kontextu konkrétního pacienta a vzít v potaz nejistotu či pravděpodobnostní rozměr diagnózy.

Věřím, že tato legislativa ukazuje směrem k zodpovědnému využití umělé inteligence, které neohrožuje lékařsko-pacientský vztah, ale naopak jej posiluje. A pokud se k podobným krokům odhodlají i další státy, může to být důležitý mezník pro budoucnost etického a efektivního nasazení AI v medicíně.

Držme si palce, abychom tuto cestu zvládli s co největším přínosem pro všechny pacienty.

Reference: [1]