Vad är RAG (retrieval-augmented generation)?
RAG, eller retrieval-augmented generation, är en AI-metod där modellen först hämtar relevanta passager ur en källtext och därefter genererar ett svar som vilar på dem.
En vanlig stor språkmodell lutar sig mot den kunskap som etablerats under träningen och har en tendens att hallucinera. RAG löser detta med ett hämtningssteg: när en fråga kommer in plockar systemet de mest relevanta passagerna ur korpusen (bok, PDF, kunskapsbas), skickar dem som kontext till modellen och först därefter ombeds modellen att svara.
"Vad menade författaren här?" "Hur motsäger detta kapitel tre?" Chatten använder sammanfattningen och tillgänglig källkontext, med citat när de finns. Kontrollera viktiga slutsatser i originalet.
Kvaliteten på ett RAG-system beror på tre saker: hur källan delas i passager (stycke, sektion, mening), hur passager representeras som vektorer för likhetssökning och hur modellen är tränad att använda den hämtade kontexten. Brister i något av de tre ger svar som utåt ser välgrundade ut men i sak är fel.
"Vad menade författaren här?" "Hur motsäger detta kapitel tre?" Chatten använder sammanfattningen och tillgänglig källkontext, med citat när de finns. Kontrollera viktiga slutsatser i originalet.
Läs mer om SummioVanliga frågor
Vad är skillnaden mellan RAG och fine-tuning?
Fine-tuning ”bakar in” ny kunskap i modellens vikter — långsamt, dyrt och uppdateras bara med ny träning. RAG lämnar modellen orörd och ändrar den hämtade kontexten per fråga: att uppdatera kunskap innebär att indexera om dokument, inte att träna om något.
Eliminerar RAG hallucinationer helt?
Informationshämtning kan förankra ett svar bättre i källan men eliminerar inte hallucinationer. Modellen kan feltolka eller ignorera ett avsnitt eller kombinera korrekta detaljer fel; kontrollera viktiga uppgifter mot originalet.
Var används RAG?
I AI-sökmotorer (Perplexity, ChatGPT Search, Claude med webbåtkomst), i ”chatta med interna dokument”, i supportbottar ovanpå en hjälpbas och i läsappar som Summio. Överallt där ett svar måste vara förankrat i en specifik källa.