Budoucnost lékařské praxe: AI a velké jazykové modely (díl 5)

Co je technologie Retrieval-Augmented Generation (RAG) a jaký její význam v medicíně

🔍 Co je Retrieval-Augmented Generation (RAG)?

Termín Retrieval-Augmented Generation (RAG) byl poprvé představen výzkumným týmem Facebook AI Research v roce 2020 [1]. RAG je metoda strojového učení, která kombinuje výhody modelů založených na vyhledávání (retrieval-based) a dříve představených generativních modelů s cílem zlepšit kvalitu generovaného textu a efektivně kontrolovat jeho výstup [2][3][4].

💡 Význam RAG v medicíně

V dynamických oborech, jako je medicína, je klíčové využívat technologie, které umožňují udržovat aktuálnost dat bez nutnosti neustálého přetrénovávání modelů. RAG se ukazuje jako velmi cenný nástroj, zejména když požadované znalosti nejsou součástí tréninkového datasetu nebo nejsou dostatečně aktuální [4]. Tato technologie nejen zvyšuje spolehlivost výstupů, ale také pomáhá eliminovat riziko tzv. halucinací u velkých jazykových modelů (LLM) tím, že umožňuje efektivní kontrolu zdrojů informací. Díky schopnosti snadno ověřit zdroje generovaného obsahu je pravděpodobnost chyb výrazně nižší.

🔗 Kombinace RAG s dalšími technologiemi

RAG lze efektivně kombinovat s dalšími technologiemi a strategiemi, jako jsou prompting techniky (např. Chain-of-Thought, In-Context Learning (ICL) a další), které vedou ke zvýšení kvality výstupu modelu. In-Context Learning (ICL) se ukázalo být významné i při samostatném použití, zejména v proprietárních modelech společností jako OpenAI, kde může být s dostatečným počtem příkladů ve vstupním promptu efektivnější než nákladný fine-tuning [5].

Kombinace RAG s fine-tuningem je rovněž slibná. V nedávné studii byl testován model Llama-2-13b-chat, který byl vylepšen technikami RAG. Tento model dokázal spolehlivě získávat informace o biologických materiálech a aktuálních výzkumech zahrnutých v jeho RAG databázi, což potvrzuje jeho potenciál přispívat k výzkumu a spolupráci s dalšími generativními AI nástroji [6].

🔄 Jak RAG funguje?

Zjednodušené fungování RAG lze shrnout do tří kroků:

Vyhledávání: Z připojeného zdroje dat jsou vyhledány relevantní informace.
Augmentace: Vyhledané informace jsou spojeny s původním dotazem, aby se "obohatil".
Generování: LLM generuje odpověď na základě obohaceného dotazu.
V prvním kroku je důležité zmínit koncept sémantického vyhledávání, což je způsob vyhledávání, který není omezen pouze na doslovnou shodu klíčových slov, ale na podobnosti mezi vektory (matematické reprezentace textu rozděleného na malé části). Takováto databáze vzniká v procesu zvaném embedding. Tato struktura dat umožňuje hlubší porozumění významu a kontextu protože vyhází z porovnávání vektorů na základě jejich podobnosti [4].

Surgeon Wearing AR Headsets And Using High-Precision Remote Controlled Robot Arms To Operate On Patient In Hospital. Doctor Controlling Robotic Limbs, Observing Organs On Holographic VFX Displays. — Obrázek 1. Schéma pracovního postupu RAG

🚀 Pokroky v RAG technologiích

Vývoj této technologie neustále pokračuje. Dnešní systémy RAG se vyvinuly a dnes již využivají sofistikované architektury a nabízejí širokou škálu aplikací.

Naive RAG: Následuje tradiční proces vyhledávání, augmentace a generování, ale čelí problémům s přesností vyhledávání a kvalitou generovaných odpovědí. Spoléhá totiž na jednorázové pokusy o vyhledávání informací (retrieval), což zvyšuje riziko nedostatečného kontextu a výběru nerelevantních úseků informací. To může vést k potížím s udržením koherence a relevance generovaného textu. Dále může s větší pravděpodobností docházet k halucinacím, zaujatosti nebo toxickým výstupům, což snižuje celkovou kvalitu.

Advanced RAG: Řeší tyto problémy zlepšením kvality vyhledávání a optimalizací procesů před vyhledáváním, během něj a po něm.

Modular RAG: Dále vylepšuje funkční moduly, zahrnuje vyhledávací modul pro podobnostní vyhledávání a aplikuje fine-tuning v retrieveru. Tento přístup těží z větší rozmanitosti a flexibility, umožňuje přidání nebo nahrazení modulů a úpravu toku mezi nimi na základě požadavků úkolu [3].

🎯 Výhody RAG v praxi

Systémy RAG dokáží efektivně vyhledávat a extrahovat data z relevantních dokumentů a následně generovat nový obsah, který je přesnější a více odpovídá danému kontextu. RAG také poskytuje větší kontrolu nad zdroji informací oproti samostatnému využívání LLM.

Pro dosažení maximální přesnosti a spolehlivosti této technologie je klíčové zajistit vysokou kvalitu databáze a vhodně zvolený embedding model. Kombinace RAG s pokročilými technikami, jako je fine-tuning modelů, navíc může výrazně zvýšit výkon a spolehlivost výsledků.

Reference: [1], [2], [3], [4], [5], [6]