RAG patterns 2026 — Beyond simple vector search 🔍
RAG đơn giản đã chết
Kiểu RAG 2023 (embed → vector store → top-k cosine → stuff context) gặp 4 vấn đề lớn:
- Miss relevant doc khi query phrasing khác
- Retrieve thừa noise → context window phí
- Không hiểu structure (table, code, graph)
- No multi-hop reasoning
5 pattern đáng dùng năm 2026
1. Hybrid search (BM25 + dense)
Kết hợp keyword (BM25) + semantic (dense embedding). Reciprocal Rank Fusion ghép kết quả. Cải thiện recall 15-30% so với dense thuần.
2. Re-ranking với cross-encoder
Retrieve top 100 candidates → re-rank top 10 với cross-encoder (Cohere Rerank, BGE Reranker). Tăng precision 25-40%.
3. Semantic chunking
Thay vì cắt mỗi 500 chars, chunk theo ngữ nghĩa (split khi embedding similarity giữa câu liên tiếp drop). Embedding cluster sạch hơn.
4. GraphRAG (Microsoft)
Build knowledge graph từ corpus, retrieve theo graph + text. Multi-hop reasoning tốt. Setup phức tạp nhưng câu trả lời "vì sao" và "liên quan đến" mạnh hơn nhiều.
5. ColBERT late-interaction
Fine-grained matching ở mức token thay vì doc-level embedding. Highest accuracy nhưng compute đắt. Dùng cho domain critical.
Stack production khuyên dùng
- Vector store: Qdrant hoặc Weaviate (self-host) / Pinecone (managed)
- Embedding: BGE-M3 (multilingual, miễn phí) hoặc text-embedding-3-large
- Re-ranker: Cohere Rerank 3 hoặc BGE Reranker v2-m3
- Orchestration: LangChain hoặc Haystack
Khi nào KHÔNG cần RAG
- Corpus < 50 docs → fit cả vào context window 200K của Claude
- Query luôn cần fresh data → dùng web search tool
- Compliance yêu cầu citation chính xác từng câu → dùng full-text search + LLM tóm tắt