Що таке RAG (генерація з доповненим пошуком)?
RAG, або генерація з доповненим пошуком, — це підхід в AI, за якого модель спершу витягує релевантні фрагменти з вихідного тексту, а потім генерує відповідь, спираючись на них.
Звичайна велика мовна модель відповідає, спираючись на навчальні дані, зафіксовані на момент тренування, тож схильна до галюцинацій. RAG розв’язує це додаванням кроку пошуку: коли надходить запитання, система шукає в корпусі (книзі, PDF, базі знань) найрелевантніші фрагменти, передає їх моделі як контекст і лише тоді просить її відповісти.
«Що автор мав на увазі?» «Чим це суперечить третьому розділу?» Чат використовує самарі та доступний контекст джерела й показує посилання, коли вони доступні. Важливі висновки перевіряйте в оригіналі.
Якість RAG-системи залежить від трьох речей: як ділиться джерело на фрагменти (абзац, секція, речення), як ці фрагменти представлені векторами для пошуку за схожістю та як модель навчена використовувати знайдений контекст. Слабкість будь-якого з трьох породжує відповіді, що виглядають обґрунтованими, але по суті неправильні.
«Що автор мав на увазі?» «Чим це суперечить третьому розділу?» Чат використовує самарі та доступний контекст джерела й показує посилання, коли вони доступні. Важливі висновки перевіряйте в оригіналі.
Дізнатися більше про SummioПоширені запитання
Чим RAG відрізняється від тонкого налаштування (fine-tuning)?
Тонке налаштування «вирізає» нові знання у вагах моделі — повільно, дорого й оновлюється лише через повторне тренування. RAG натомість залишає модель сталою та змінює контекст, який підтягується для кожного запиту: оновити знання — це переіндексувати документ, а не тренувати щось заново.
Чи позбавляє RAG галюцинацій?
Пошук фрагментів може краще прив’язати відповідь до джерела, але не усуває галюцинацій. Модель може неправильно прочитати чи проігнорувати уривок або хибно поєднати правильні деталі; важливе звіряйте з оригіналом.
Де використовують RAG?
У AI-пошуковиках (Perplexity, ChatGPT Search, Claude з доступом до вебу), у чатах із внутрішньою документацією, у саппорт-ботах поверх хелпдеска та у читацьких застосунках на кшталт Summio. Скрізь, де відповідь має бути приписана до конкретного джерела.