RAG Adalah: Cara Kerja, Contoh, dan Kapan Dipakai

RAG Adalah: Pengertian Singkat

Analogi sederhananya: ujian buku terbuka. Model biasa menjawab murni dari ingatan, sedangkan model dengan RAG boleh membuka buku catatan dulu sebelum menjawab. Hasilnya lebih relevan, lebih mudah ditelusuri sumbernya, dan tidak perlu melatih ulang model setiap kali dokumen berubah.

Istilah ini dipopulerkan lewat makalah “Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks” oleh Patrick Lewis dan rekan-rekannya (dipresentasikan di NeurIPS 2020). Peneliti menggabungkan dua jenis memori: memori parametrik (pengetahuan yang tertanam di bobot model) dan memori non-parametrik (indeks dokumen yang bisa dicari). Konsep dasar itu kini menjadi salah satu pola paling umum dalam aplikasi LLM di dunia kerja.

Kenapa RAG Dibutuhkan?

LLM punya tiga keterbatasan yang langsung terasa saat dipakai untuk pekerjaan nyata.

RAG tidak menghapus halusinasi sepenuhnya, tetapi memberi model bahan yang bisa dirujuk. Jawaban dapat disertai kutipan sumber, sehingga pengguna atau tim QA bisa memeriksa dari mana klaim itu berasal.

Cara Kerja RAG Langkah demi Langkah

Alur RAG terdiri dari dua fase: persiapan data (dilakukan di awal dan saat dokumen berubah) dan pemrosesan pertanyaan (dilakukan setiap ada pengguna bertanya).

Fase 1: Menyiapkan Basis Pengetahuan

1. Kumpulkan dokumen. Sumbernya bisa PDF, halaman web, catatan rapat, tiket layanan pelanggan, atau tabel database. Bersihkan teks dari header, footer, dan duplikasi.
2. Pecah menjadi potongan (chunking). Dokumen panjang dibagi menjadi bagian-bagian kecil, misalnya per paragraf atau per subjudul, agar tiap potongan memuat satu gagasan yang utuh.
3. Ubah menjadi embedding. Setiap potongan dikonversi oleh model embedding menjadi deretan angka (vektor) yang mewakili maknanya. Potongan dengan makna serupa akan berdekatan dalam ruang vektor. Penjelasan resmi tentang embedding tersedia di dokumentasi Google Cloud.
4. Simpan di penyimpanan vektor. Vektor berikut teks aslinya dan metadata (judul, tanggal, sumber) disimpan di database vektor atau database biasa yang mendukung pencarian vektor.

Fase 2: Menjawab Pertanyaan

1. Pertanyaan diubah menjadi embedding dengan model yang sama.
2. Sistem mencari potongan terdekat (retrieval), biasanya beberapa hasil teratas berdasarkan kemiripan makna.
3. Potongan disisipkan ke prompt bersama instruksi, misalnya “Jawab hanya berdasarkan konteks berikut, dan katakan tidak tahu jika jawabannya tidak ada.”
4. LLM menyusun jawaban (generation), idealnya disertai rujukan ke potongan sumber.

Kerangka alurnya, dalam bentuk kode semu, kira-kira seperti ini:

Baca Juga:

Evaluasi LLM: Cara Mengukur Kualitas Output AI

pertanyaan = "Berapa hari cuti tahunan karyawan tetap?"

vektor_tanya = embed(pertanyaan)
potongan = cari_terdekat(vektor_tanya, top_k=4)

prompt = f"""Jawab hanya dari konteks. Jika tidak ada, katakan tidak tahu.
Konteks: {potongan}
Pertanyaan: {pertanyaan}"""

jawaban = llm(prompt)

Komponen Utama Sistem RAG

Contoh Penggunaan RAG di Dunia Nyata

RAG vs Fine-Tuning vs Prompt Biasa

Ketiganya sering dianggap saingan, padahal menjawab kebutuhan yang berbeda. RAG cocok untuk menambah pengetahuan yang sering berubah, sedangkan fine-tuning lebih cocok untuk mengubah gaya, format, atau perilaku model.

Ukuran model juga memengaruhi pilihan. Model kecil yang dipadukan dengan RAG kadang cukup untuk tanya-jawab dokumen, dan pembahasan kelebihannya ada di artikel model AI kecil vs besar.

Kelebihan dan Keterbatasan RAG

Kelebihan

• Pengetahuan mudah diperbarui tanpa melatih ulang model.
• Jawaban dapat disertai rujukan sumber sehingga lebih mudah diaudit.
• Data privat tetap berada di sistem Anda dan hanya potongan relevan yang dikirim ke model.
• Biayanya umumnya lebih terjangkau daripada melatih atau menyesuaikan model.

Keterbatasan

• Kualitas jawaban bergantung pada kualitas dokumen dan pencarian, bukan hanya pada model.
• Pertanyaan yang butuh penalaran lintas banyak dokumen sekaligus lebih sulit ditangani.
• Ada biaya tambahan: embedding, penyimpanan, dan konteks yang makin panjang di setiap permintaan.
• Risiko keamanan seperti prompt injection lewat isi dokumen. Daftar risiko umum tersedia di OWASP Top 10 untuk aplikasi LLM.

Tips Praktis Membuat RAG yang Andal

• Mulai dari dokumen yang Anda kenal isinya. Dengan begitu Anda bisa menilai jawaban benar atau tidak.
• Uji dengan daftar pertanyaan nyata. Siapkan 30 sampai 50 pertanyaan beserta jawaban acuan, lalu jalankan ulang setiap kali mengubah ukuran chunk, model, atau prompt.
• Perintahkan model untuk mengaku tidak tahu. Instruksi ini mengurangi jawaban karangan saat konteks tidak memadai.
• Simpan metadata. Judul, tanggal, dan sumber memudahkan penyaringan dan pencantuman kutipan.
• Jaga kebersihan data. Hapus versi lama dokumen agar model tidak mengutip aturan yang sudah tidak berlaku.

Jika Anda ingin melihat posisi RAG dalam perjalanan belajar AI engineering secara utuh, mulai dari backend, database, sampai evaluasi dan deploy, baca roadmap AI engineering dari backend.

FAQ

RAG adalah singkatan dari apa?

RAG adalah singkatan dari Retrieval-Augmented Generation, yaitu teknik “menghasilkan jawaban yang diperkaya hasil pencarian”. Sistem mencari informasi relevan dulu, lalu model bahasa menyusun jawaban berdasarkan informasi itu.

Apakah RAG bisa menghilangkan halusinasi AI?

Tidak sepenuhnya. RAG mengurangi risiko karena model punya rujukan, tetapi jawaban tetap bisa keliru jika dokumen sumber salah, pencarian mengambil potongan yang tidak relevan, atau model mengabaikan konteks. Karena itu evaluasi tetap diperlukan.

Baca Juga:

Structured Output LLM: Membuat Jawaban AI Berformat JSON

Apa bedanya RAG dengan fine-tuning?

RAG menambah pengetahuan lewat pencarian dokumen saat pertanyaan datang, sehingga cocok untuk data yang sering berubah. Fine-tuning menyesuaikan bobot model agar perilaku atau gayanya berubah. Keduanya bisa dikombinasikan, tetapi kebutuhan dan biayanya berbeda.

Apakah RAG butuh database vektor khusus?

Tidak selalu. Untuk data kecil sampai menengah, database relasional yang mendukung pencarian vektor bisa cukup. Database vektor khusus lebih relevan saat skala data besar atau kebutuhan pencarian semakin kompleks.

Apakah RAG bisa dipakai untuk dokumen berbahasa Indonesia?

Bisa, asalkan model embedding dan LLM yang dipilih mendukung bahasa Indonesia dengan baik. Uji dengan pertanyaan nyata, termasuk istilah teknis dan singkatan yang biasa dipakai di organisasi Anda.

Apakah data saya aman saat memakai RAG?

Data tetap berada di sistem Anda, tetapi potongan yang diambil dikirim ke model saat menjawab. Periksa kebijakan penyedia layanan, batasi akses dokumen sesuai hak pengguna, dan jangan memasukkan data sensitif tanpa perlindungan yang jelas.

Apakah perlu belajar matematika dulu untuk membuat RAG?

Tidak. Untuk membangun RAG dengan model yang sudah tersedia lewat API, Anda lebih membutuhkan kemampuan backend, pengolahan data, dan evaluasi. Pemahaman konsep kemiripan vektor sudah cukup sebagai bekal awal.

Kesimpulan