Hva er RAG (retrieval-augmented generation)?
RAG, eller retrieval-augmented generation, er en AI-tilnærming hvor modellen først henter relevante passasjer fra en kildetekst og deretter genererer et svar som hviler på dem.
En vanlig stor språkmodell lener seg på kunnskap etablert under trening og er tilbøyelig til å hallusinere. RAG løser dette med et hentingstrinn: når et spørsmål kommer, finner systemet de mest relevante passasjene i korpuset (bok, PDF, kunnskapsbase), sender dem som kontekst til modellen og ber først deretter om et svar.
«Hva mente forfatteren her?» «Hvordan motsier dette kapittel tre?» Chatten bruker sammendraget og tilgjengelig kildekontekst, med sitater når de finnes. Kontroller viktige konklusjoner i originalen.
Kvaliteten på et RAG-system avhenger av tre ting: hvordan kilden deles i passasjer (avsnitt, seksjon, setning), hvordan passasjer representeres som vektorer for likhetsbasert søk, og hvordan modellen er lært å bruke den hentede konteksten. En svakhet i én av de tre gir svar som utad virker forankret, men i substans er feil.
«Hva mente forfatteren her?» «Hvordan motsier dette kapittel tre?» Chatten bruker sammendraget og tilgjengelig kildekontekst, med sitater når de finnes. Kontroller viktige konklusjoner i originalen.
Les mer om SummioVanlige spørsmål
Hva er forskjellen mellom RAG og fine-tuning?
Fine-tuning «baker inn» ny kunnskap i modellens vekter — tregt, dyrt og oppdateres bare ved retrening. RAG lar modellen være og endrer den hentede konteksten per forespørsel: å oppdatere kunnskap betyr å reindeksere dokumenter, ikke å retrene noe.
Fjerner RAG hallusinasjoner helt?
Informasjonshenting kan forankre et svar bedre i kilden, men fjerner ikke hallusinasjoner. Modellen kan feiltolke eller ignorere et avsnitt eller kombinere riktige detaljer feil; kontroller viktige opplysninger mot originalen.
Hvor brukes RAG?
I AI-søkemotorer (Perplexity, ChatGPT Search, Claude med nettilgang), i chat med interne dokumenter, i supportbotter oppå en hjelpebase og i leseapper som Summio. Overalt hvor et svar må være forankret i en spesifikk kilde.