Apakah RAG (retrieval-augmented generation)?
RAG, atau retrieval-augmented generation, adalah pendekatan AI di mana model mula-mula mengambil petikan yang relevan daripada teks sumber sebelum menjana jawapan yang bersandar padanya.
Model bahasa besar biasa bersandar pada pengetahuan yang ditanam semasa latihan dan terdedah kepada halusinasi. RAG mengatasi ini dengan langkah pengambilan: apabila soalan tiba, sistem mencari petikan paling relevan dalam korpus (buku, PDF, pangkalan pengetahuan), menghantarnya sebagai konteks kepada model, dan barulah meminta jawapan.
"Apa maksud penulis di sini?" "Bagaimana ini bercanggah dengan bab tiga?" Sembang menggunakan ringkasan dan konteks sumber yang tersedia, dengan petikan apabila ada. Semak kesimpulan penting pada sumber asal.
Kualiti sistem RAG bergantung kepada tiga perkara: bagaimana sumber dipecahkan kepada petikan (perenggan, seksyen, ayat), bagaimana petikan diwakili sebagai vektor untuk carian persamaan, dan bagaimana model dilatih menggunakan konteks yang diambil. Kelemahan dalam salah satu menghasilkan jawapan yang kelihatan beralasan tetapi sebenarnya salah dari segi isi.
"Apa maksud penulis di sini?" "Bagaimana ini bercanggah dengan bab tiga?" Sembang menggunakan ringkasan dan konteks sumber yang tersedia, dengan petikan apabila ada. Semak kesimpulan penting pada sumber asal.
Ketahui lebih lanjut tentang SummioSoalan lazim
Apakah perbezaan antara RAG dan fine-tuning?
Fine-tuning "membakar" pengetahuan baharu ke dalam pemberat model — perlahan, mahal, dan hanya dikemas kini melalui latihan semula. RAG membiarkan model utuh dan menukar konteks yang diambil bagi setiap pertanyaan: mengemas kini pengetahuan bermakna mengindeks semula dokumen, bukan melatih semula.
Adakah RAG menghapus halusinasi sepenuhnya?
Dapatan semula boleh menambat jawapan pada sumber dengan lebih baik, tetapi tidak menghapuskan halusinasi. Model boleh tersalah baca atau mengabaikan petikan, atau tersalah menggabungkan butiran yang betul; semak perkara penting pada sumber asal.
Di mana RAG digunakan?
Dalam enjin carian AI (Perplexity, ChatGPT Search, Claude dengan akses web), dalam sembang dokumen dalaman, dalam bot sokongan di atas pusat bantuan, dan dalam aplikasi membaca seperti Summio. Di mana sahaja jawapan perlu dilabuh pada sumber tertentu.