Mitä on RAG (retrieval-augmented generation)?
RAG eli retrieval-augmented generation on AI-lähestymistapa, jossa malli ensin hakee lähdetekstistä olennaiset kohdat ja vasta sitten tuottaa niihin nojaavan vastauksen.
Tavallinen suuri kielimalli nojaa koulutuksen aikana vakiintuneeseen tietoon ja on altis hallusinaatiolle. RAG ratkaisee tämän hakuvaiheella: kun kysymys saapuu, järjestelmä etsii korpuksesta (kirja, PDF, tietokanta) sopivimmat kohdat, antaa ne mallille kontekstina ja pyytää vasta sitten vastausta.
»Mitä tekijä tarkoitti tässä?» »Miten tämä on ristiriidassa kolmannen luvun kanssa?» Keskustelu käyttää tiivistelmää ja saatavilla olevaa lähdekontekstia sekä näyttää viitteet, kun niitä on. Tarkista tärkeät päätelmät alkuperäisestä.
RAG-järjestelmän laatu riippuu kolmesta asiasta: miten lähde pilkotaan paloihin (kappale, osio, lause), miten palat esitetään vektoreina samankaltaisuushakua varten ja miten mallia on opetettu käyttämään haettua kontekstia. Heikkous yhdessäkin näistä tuottaa vastauksia, jotka näyttävät ulospäin perustelluilta mutta ovat sisällöllisesti vääriä.
»Mitä tekijä tarkoitti tässä?» »Miten tämä on ristiriidassa kolmannen luvun kanssa?» Keskustelu käyttää tiivistelmää ja saatavilla olevaa lähdekontekstia sekä näyttää viitteet, kun niitä on. Tarkista tärkeät päätelmät alkuperäisestä.
Lue lisää SummiostaUsein kysytyt kysymykset
Mikä on RAG:n ja fine-tuningin ero?
Fine-tuning ”leipoo” uuden tiedon mallin painoihin — hidasta, kallista ja päivittyy vain uudella koulutuksella. RAG jättää mallin ennalleen ja muuttaa haettua kontekstia jokaisella kyselyllä: tiedon päivittäminen tarkoittaa asiakirjojen uudelleenindeksointia, ei uudelleenkoulutusta.
Poistaako RAG hallusinaatiot kokonaan?
Tiedonhaku voi ankkuroida vastauksen paremmin lähteeseen, mutta se ei poista hallusinaatioita. Malli voi tulkita kohdan väärin, sivuuttaa sen tai yhdistää oikeita tietoja virheellisesti; tarkista tärkeät asiat alkuperäisestä.
Missä RAG:ia käytetään?
AI-hakukoneissa (Perplexity, ChatGPT Search, verkkokäyttöinen Claude), sisäisten asiakirjojen kanssa keskustelussa, tukikeskuksen päälle rakennetuissa tukiboteissa ja lukusovelluksissa kuten Summio. Kaikkialla, missä vastauksen on oltava ankkuroitu tiettyyn lähteeseen.