Czym jest RAG (retrieval-augmented generation)?
RAG, czyli retrieval-augmented generation, to podejście AI, w którym model najpierw wyszukuje odpowiednie fragmenty w tekście źródłowym, a dopiero potem generuje odpowiedź opartą na nich.
Zwykły duży model językowy opiera się na wiedzy utrwalonej podczas treningu i jest podatny na halucynacje. RAG rozwiązuje to za pomocą kroku wyszukiwania: po otrzymaniu pytania system znajduje w korpusie (książka, PDF, baza wiedzy) najbardziej pasujące fragmenty, przekazuje je modelowi jako kontekst i dopiero wtedy prosi o odpowiedź.
Czat ze streszczeniami i dostępnym kontekstem źródłowym
Jakość systemu RAG zależy od trzech rzeczy: jak źródło dzieli się na fragmenty (akapit, sekcja, zdanie), jak fragmenty są przedstawiane wektorowo do wyszukiwania po podobieństwie i jak model został wyuczony korzystania z pobranego kontekstu. Słabość choć w jednym z tych trzech daje odpowiedzi, które na zewnątrz wyglądają na ugruntowane, a w istocie są błędne.
Czat ze streszczeniami i dostępnym kontekstem źródłowym
Dowiedz się więcej o SummioNajczęstsze pytania
Jaka jest różnica między RAG a fine-tuningiem?
Fine-tuning „zapisuje” nową wiedzę w wagach modelu — jest wolny, drogi i aktualizuje się tylko poprzez ponowne trenowanie. RAG nie zmienia modelu, tylko kontekst pobierany dla każdego zapytania: aktualizacja wiedzy oznacza ponowne indeksowanie dokumentów, bez retreningu.
Czy RAG całkowicie eliminuje halucynacje?
Wyszukiwanie może lepiej oprzeć odpowiedź na źródle, ale nie eliminuje halucynacji. Model może błędnie odczytać lub pominąć fragment albo niewłaściwie połączyć poprawne szczegóły; ważne informacje sprawdzaj w oryginale.
Gdzie używa się RAG?
W wyszukiwarkach AI (Perplexity, ChatGPT Search, Claude z dostępem do sieci), w „rozmowach” z dokumentami wewnętrznymi, w botach wsparcia opartych na bazie pomocy i w aplikacjach czytelniczych takich jak Summio. Wszędzie, gdzie odpowiedź musi być zakotwiczona w konkretnym źródle.