RAG (Retrieval-Augmented Generation) Tingkat Lanjut: HyDE, Reranking, dan Hybrid Search

Mengapa RAG Sederhana (Naive RAG) Sering Halusinasi?

Banyak tutorial pemula membuat sistem RAG dengan cara:

1. Potong teks dokumen ke dalam chunk 500 karakter.
2. Buat vektor embedding dengan model standar.
3. Cari 3 chunk terdekat dengan Cosine Similarity dan berikan ke LLM.

Hasilnya di dunia nyata sering mengecewakan: pencarian vektor sering melewatkan kata kunci spesifik (seperti kode part nomor mesin atau istilah hukum teknis), sehingga jawaban AI menjadi tidak akurat atau berhalusinasi.

3 Pilar Advanced RAG

1. Hybrid Search (Dense + Sparse Retrieval)

Gabungkan pencarian semantik vektor (Dense Embeddings) dengan pencarian teks berbasis frekuensi kata kunci (BM25 / Sparse). Metode ini menjamin kata kunci persis tidak akan terlewat.

2. HyDE (Hypothetical Document Embeddings)

Ketika user bertanya, minta LLM menghasilkan ‘jawaban hipotetis’ terlebih dahulu. Vektorisasi jawaban hipotetis tersebut untuk mencari dokumen di database, bukan pertanyaan user yang sering kali terlalu singkat.

3. Cross-Encoder Reranking

Gunakan model reranker (seperti Cohere Rerank atau BGE-Reranker) untuk menyaring kembali 50 hasil pencarian teratas menjadi 5 dokumen yang paling relevan secara kontekstual sebelum diteruskan ke model LLM utama.