Apa itu RAG dalam AI?

Apa itu RAG dalam AI? RAG ialah singkatan bagi retrieval-augmented generation, iaitu penjanaan berbantukan carian. Seni bina ini mendapatkan bahan yang berkaitan daripada koleksi luaran dan membekalkannya kepada model generatif ketika menjawab permintaan. Respons model kemudian boleh menggunakan bukti terpilih dan tidak bergantung semata-mata pada pola yang dipelajari semasa latihan.

Oleh Ai Flowi · Diterbitkan 2026-10-11

Carian dan penjanaan ialah operasi yang berasingan. Sistem boleh menemukan petikan tetapi masih menghasilkan jawapan tanpa sokongan, atau menjana teks yang kemas selepas mendapatkan petikan yang salah. Oleh itu, RAG memerlukan semakan terhadap bukti yang dipilih serta dakwaan yang dibuat daripadanya.

Berkaitan: Cara chunking dokumen untuk RAG: uji sempadan bukti; RAG reranking: susun semula kedudukan petikan.

Seni bina carian dan penjanaan

Persediaan menjadikan kandungan sumber boleh dicari. Bergantung pada reka bentuk, proses ini boleh melibatkan pembahagian dokumen kepada petikan, pengekalan metadata dan penjanaan representasi untuk indeks. Ini berbeza daripada laluan penjawaban, yang menggunakan soalan untuk mendapatkan calon bahan daripada koleksi yang telah disediakan.

Apabila permintaan diterima, carian memilih calon bahan. Pembinaan konteks memilih calon yang akan dihantar kepada model dan cara melabelkannya. Penjanaan menghasilkan jawapan mengikut arahan tugas. Semakan seterusnya membandingkan jawapan dengan bukti yang dibekalkan dan soalan sebenar pengguna.

Persediaan: dokumen sumber → koleksi yang boleh dicari
Penjawaban: soalan → carian → petikan sumber terpilih
             → konteks model berlabel → jawapan yang dijana
             → semakan bukti dan keterpakaian

Anak panah menunjukkan tanggungjawab seni bina, bukannya resipi sambungan yang telah disahkan; gunakan panduan pangkalan pengetahuan untuk pemasukan data dan panduan chatbot pangkalan pengetahuan untuk pelaksanaan daripada jadual kepada jawapan.

Contoh rekaan penjawaban dasar

Anggap dasar bengkel rekaan menyatakan pelawat boleh menggunakan ruang kerja selepas induksi, dan kawasan peralatan berpagar hanya untuk kakitangan. Pelawat bertanya sama ada melengkapkan induksi membenarkan akses ke kawasan berpagar itu. Bukti yang berkaitan merangkumi kebenaran umum menggunakan ruang kerja serta sekatan kawasan berpagar yang lebih khusus.

Sasaran yang ditulis menolak inferens bahawa induksi sahaja memberikan akses ke kawasan berpagar. Ia bukan jawapan yang direkodkan. Ilustrasi ini menunjukkan sebab tajuk dokumen yang berkaitan tidak memadai: jawapan memerlukan syarat pengehad dalam dokumen itu.

Apakah perbezaan antara jawapan model sahaja, RAG tetap dan carian berasaskan ejen?

Jawapan model sahaja menggunakan permintaan yang diberikan tanpa peringkat carian luaran yang berasingan. Ini mungkin sesuai untuk mendraf daripada teks yang dibekalkan, tetapi tidak membuktikan akses kepada dasar dalaman yang berubah. Reka bentuk RAG tetap mengikuti urutan carian dan penjawaban yang ditentukan terlebih dahulu.

Carian berasaskan ejen membolehkan proses berpandukan model menentukan masa untuk mencari, memperhalus pertanyaan atau meminta pemerhatian lain dalam kawalan aplikasi. Ia menambah titik keputusan dan tidak secara automatik menjadikan bukti lebih boleh dipercayai. Kebenaran alat, syarat berhenti dan pemilihan sumber masih perlu ditangani secara jelas.

Komponen Agent menerangkan antara muka yang boleh menggunakan alat, tetapi kewujudannya tidak membuktikan sistem RAG berasaskan ejen berfungsi. Bagi takrif glosari, perbezaannya ialah pihak yang menentukan urutan carian, bukannya dakwaan bahawa persekitaran pelaksanaan gabungan tertentu telah lulus ujian.

Koleksi ialah sumber perubahan yang berasingan

Lihat penalaan halus untuk perbandingan antara parameter terlatih dengan konteks yang diperoleh melalui carian.

Bagi seni bina bengkel ini, soalan operasi ialah versi buku panduan yang dapat dicapai oleh laluan penjawaban. Buku panduan, koleksi yang disediakan dan permintaan penjawaban ialah artifak berasingan. Menggantikan buku panduan tidak membuktikan bahawa persediaan telah selesai, carian menggunakan koleksi yang dikehendaki atau petikan yang dipinda telah dimasukkan dalam permintaan ini.

Pemisahan itu juga menetapkan penyerahan antara persediaan dengan penjawaban. Bahagian persediaan perlu mengenal pasti versi yang dijadikannya boleh dicari; bahagian penjawaban perlu mengenal pasti versi yang digunakannya. Kegagalan antara tanggungjawab itu boleh berterusan walaupun setiap bahagian menghasilkan artifak yang kelihatan munasabah. Pastikan penyerahan itu dapat dilihat apabila menetapkan pihak yang membaiki masalah, dan jangan anggap seluruh reka bentuk sebagai satu panggilan model yang tidak dapat diperiksa.

Peringkat RAG yang tersedia dalam katalog

Panduan Knowledge Base mendokumentasikan persediaan carian yang digunakan pada peringkat pertama penjawaban.

Gunakan rujukan Prompt Template untuk menyusun permintaan dan rujukan Language Model untuk konfigurasi penjanaan.

Bagi soalan bengkel, simpan tiga artifak yang boleh diperiksa: hasil carian, konteks terpilih yang tepat dan jawapan. Jika sekatan kawasan berpagar terdapat dalam hasil carian tetapi tiada dalam konteks terpilih, mengubah pertanyaan carian menyasarkan peringkat yang salah. Jika sekatan itu muncul dalam kedua-dua artifak tetapi jawapan memberikan akses ke kawasan berpagar, pembaikan perlu dilakukan selepas pemilihan.

Jalankan semula satu peringkat dengan input tetap apabila mendiagnosis kegagalan. Bekalkan pakej bukti lengkap yang ditulis kepada langkah penjawaban untuk menilai sama ada penjanaan mematuhi sekatan. Periksa carian secara berasingan untuk soalan akses yang sama. Semakan ini mengasingkan dua kebergantungan yang boleh tersembunyi dalam demonstrasi menyeluruh yang kemas; ini ialah semakan yang dicadangkan, tanpa sebarang pelaksanaan dilaporkan di sini.

Sumber yang berubah memerlukan semakan persediaan dan carian yang sepadan. Katakan buku panduan rekaan dipinda sehingga induksi tidak lagi membenarkan kehadiran di bengkel. Jawapan berdasarkan petikan lama mungkin mematuhi konteksnya dengan tepat tetapi sudah lapuk. Sahkan versi koleksi yang boleh dicari sebelum menyalahkan arahan jawapan atau menganggap muat naik dokumen telah sampai ke laluan penjawaban.

didokumentasikan dalam katalog; belum diuji dalam produksi oleh Ai Flowi

Indeks katalog mengenal pasti peringkat ini; rujukan Language Model yang dipautkan meliputi akaun penyedia/kunci API yang anda bekalkan serta penjanaan yang dicaj secara berasingan.

Penilaian RAG dan batas kegagalan

Gunakan penilaian RAG untuk korpus soalan, label petikan dan prosedur penilaian carian berbanding jawapan.

Pakej bukti hanya perlu mengandungi bahan yang tersedia untuk permintaan ini; kejuruteraan konteks meliputi pemilihan dan batas kepercayaan.

Set hasil yang lebih besar boleh menambah notis bengkel yang tidak berkaitan tanpa mendapatkan semula sekatan yang terlepas. Semak sama ada petikan penentu ditemukan, bukan sekadar sama ada carian menghasilkan baris. Jika soalan berkaitan pengecualian dasar yang tiada dalam buku panduan, mendapatkan lebih banyak teks dasar umum tidak menjadikan soalan tentang pengecualian itu boleh dijawab.

Jika buku panduan bengkel asal membenarkan kehadiran selepas induksi tetapi pindaannya menarik balik kebenaran itu, kedua-dua versi tidak boleh digabungkan menjadi satu peraturan akses. Permintaan mesti mengenal pasti versi yang terpakai pada soalan pelawat. Jika pilihan itu tidak tersedia, output seni bina ialah keputusan versi sumber yang belum dipastikan, bukannya kebenaran yang disimpulkan daripada petikan yang mendapat kedudukan pertama.

Konsep berkaitan

Kejuruteraan konteks meliputi pemilihan bukti dan peruntukan konteks. Prompt engineering meliputi arahan jawapan. Asas bukti untuk LLM meliputi sokongan dakwaan, manakala halusinasi LLM menerangkan output tanpa sokongan atau yang direka-reka. Mendapatkan sumber melalui carian ialah peringkat yang berguna, tetapi jawapan masih perlu dinilai berdasarkan sumber itu.

Bacaan lanjut

Penjanaan berbantukan carian untuk tugas NLP yang memerlukan banyak pengetahuan.