Hvad er RAG (retrieval-augmented generation)?
RAG, eller retrieval-augmented generation, er en AI-tilgang, hvor modellen først henter relevante passager fra en kildetekst og dernæst genererer et svar baseret på dem.
En almindelig stor sprogmodel læner sig op ad viden, der er etableret under træning, og er tilbøjelig til at hallucinere. RAG løser dette med et hentningstrin: når et spørgsmål kommer, finder systemet de mest relevante passager i korpusset (bog, PDF, vidensbase), sender dem som kontekst til modellen og beder først derefter om et svar.
„Hvad mente forfatteren her?" „Hvordan modsiger dette kapitel tre?" Chatten bruger sammendraget og tilgængelig kildekontekst, med citater når de findes. Kontrollér vigtige konklusioner i originalen.
Kvaliteten af et RAG-system afhænger af tre ting: hvordan kilden opdeles i passager (afsnit, sektion, sætning), hvordan passager repræsenteres som vektorer til lighedssøgning, og hvordan modellen er trænet i at bruge den hentede kontekst. En svaghed i en af de tre fører til svar, der udadtil virker funderede, men er forkerte i substans.
„Hvad mente forfatteren her?" „Hvordan modsiger dette kapitel tre?" Chatten bruger sammendraget og tilgængelig kildekontekst, med citater når de findes. Kontrollér vigtige konklusioner i originalen.
Læs mere om SummioOfte stillede spørgsmål
Hvad er forskellen mellem RAG og fine-tuning?
Fine-tuning ”indlejrer” ny viden i modellens vægte — langsomt, dyrt og opdateres kun ved gentræning. RAG lader modellen være og ændrer den hentede kontekst pr. forespørgsel: at opdatere viden betyder at genindeksere dokumenter, ikke at gentræne.
Fjerner RAG hallucinationer fuldstændigt?
Informationshentning kan forankre et svar bedre i kilden, men fjerner ikke hallucinationer. Modellen kan fejllæse eller ignorere et afsnit eller kombinere korrekte detaljer forkert; kontrollér vigtige oplysninger i originalen.
Hvor bruges RAG?
I AI-søgemaskiner (Perplexity, ChatGPT Search, Claude med webadgang), i chats med interne dokumenter, i supportbots oven på en hjælpebase og i læseapps som Summio. Alle steder, hvor et svar skal være forankret i en specifik kilde.