Mi az RAG (retrieval-augmented generation)?
A RAG, vagyis retrieval-augmented generation egy AI-megközelítés, amelyben a modell előbb a forrásszövegből releváns részleteket keres ki, és csak ezután generál választ, amely ezekre épül.
Egy egyszerű nagy nyelvi modell a tanulás során rögzített tudásra támaszkodik, és hajlamos hallucinálni. A RAG ezt egy lekérési lépéssel oldja meg: amikor kérdés érkezik, a rendszer megkeresi a korpusz (könyv, PDF, tudásbázis) leginkább odaillő részleteit, kontextusként átadja a modellnek, és csak ezután kéri, hogy válaszoljon.
„Mit akart itt mondani a szerző?" „Miért mond ellent ez a harmadik fejezetnek?" A chat az összefoglalót és az elérhető forráskörnyezetet használja, és idézeteket mutat, amikor elérhetők. A fontos következtetéseket ellenőrizd az eredetiben.
Egy RAG-rendszer minősége három dologon múlik: hogyan tagolódik a forrás részletekre (bekezdés, szakasz, mondat), hogyan ábrázolják a részleteket vektorként hasonlóság alapú kereséshez, és hogyan tanították a modellt a lehívott kontextus használatára. A három közül bármelyik gyengesége kifelé megalapozottnak tűnő, de érdemben hibás válaszokat eredményez.
„Mit akart itt mondani a szerző?" „Miért mond ellent ez a harmadik fejezetnek?" A chat az összefoglalót és az elérhető forráskörnyezetet használja, és idézeteket mutat, amikor elérhetők. A fontos következtetéseket ellenőrizd az eredetiben.
Tudj meg többet a SummiórólGyakori kérdések
Mi a különbség a RAG és a fine-tuning között?
A fine-tuning új tudást „süt bele” a modell súlyaiba — lassú, drága, és csak újratanítással frissül. A RAG érintetlenül hagyja a modellt, és lekérdezésenként cseréli a lehívott kontextust: a tudás frissítése a dokumentumok újraindexelését jelenti, nem újratanítást.
Teljesen megszünteti a RAG a hallucinációkat?
A visszakeresés jobban a forráshoz kötheti a választ, de nem szünteti meg a hallucinációkat. A modell félreolvashat vagy figyelmen kívül hagyhat egy részletet, illetve hibásan kapcsolhat össze helyes adatokat; a fontosakat ellenőrizd az eredetiben.
Hol használják a RAG-ot?
AI-keresőkben (Perplexity, ChatGPT Search, webhozzáféréses Claude), belső dokumentumokkal való chatben, help bázisra épülő támogatási botokban és olyan olvasóappokban, mint a Summio. Mindenhol, ahol a válasznak konkrét forráshoz kell horgonyzottnak lennie.