Co je RAG (retrieval-augmented generation)?
RAG, neboli retrieval-augmented generation, je AI přístup, ve kterém model nejprve vyhledá relevantní pasáže ve zdrojovém textu a teprve poté generuje odpověď opřenou o ně.
Běžný velký jazykový model se opírá o znalosti zafixované při tréninku a je náchylný k halucinacím. RAG to řeší krokem vyhledávání: po dotazu systém najde v korpusu (kniha, PDF, znalostní báze) nejvhodnější pasáže, předá je modelu jako kontext a teprve potom ho vyzve k odpovědi.
„Co tím autor myslel?" „Jak to protiřečí třetí kapitole?" Chat používá shrnutí a dostupný kontext zdroje a zobrazuje citace, když jsou k dispozici. Důležité závěry ověř v originálu.
Kvalita RAG systému závisí na třech věcech: jak je zdroj rozdělen na pasáže (odstavec, sekce, věta), jak jsou pasáže reprezentovány jako vektory pro vyhledávání podobnosti a jak je model naučen pracovat s vyhledaným kontextem. Slabina v kterékoli ze tří částí vede k odpovědím, které navenek vypadají podložené, ale jsou věcně chybné.
„Co tím autor myslel?" „Jak to protiřečí třetí kapitole?" Chat používá shrnutí a dostupný kontext zdroje a zobrazuje citace, když jsou k dispozici. Důležité závěry ověř v originálu.
Více o SummiuČasté dotazy
Jaký je rozdíl mezi RAG a fine-tuningem?
Fine-tuning „zaformuje“ nové znalosti do vah modelu — pomalu, draho a aktualizuje se jen dotrénováním. RAG model nemění a mění jen kontext stažený pro každý dotaz: aktualizace znalostí znamená přeindexování dokumentů, nikoli další trénink.
Odstraňuje RAG halucinace úplně?
Vyhledávání může odpověď lépe ukotvit ve zdroji, ale halucinace neodstraní. Model může pasáž chybně přečíst či ignorovat nebo nesprávně spojit správné podrobnosti; důležité údaje ověřte v originále.
Kde se RAG používá?
V AI vyhledávačích (Perplexity, ChatGPT Search, Claude s přístupem na web), v chatu nad interními dokumenty, v podpůrných botech nad bází nápovědy a v čtecích aplikacích jako Summio. Všude, kde odpověď musí být ukotvena v konkrétním zdroji.