Retrieval-augmented generation

Retrieval-augmented generation tìm source passage liên quan trước rồi yêu cầu generative model trả lời bằng context đó. Retrieval tăng grounding nhưng chunk, search, permission hoặc evaluation kém vẫn tạo answer không tin cậy.

Nhìn nhanh

Câu hỏi	Câu trả lời thực tế
Dùng khi nào?	Policy assistant search section được phép trong handbook, đưa top passage cho LLM và trả answer kèm link, đồng thời fallback khi evidence yếu.
Cần làm gì?	Tạo mười document ngắn và năm question, so answer có/không retrieval rồi xem passage đúng có vào prompt không.
Biết là đúng bằng cách nào?	Mỗi answer cite passage hỗ trợ, permission boundary được giữ, câu thiếu evidence biết từ chối và evaluation set cố định theo dõi regression.
Lỗi hay gặp?	Thêm nhiều retrieved text có thể làm chất lượng giảm; cần tối ưu relevance, chunk boundary, metadata filter và context budget cùng nhau.

flowchart LR
  A[Câu hỏi] --> B[Retrieval-augmented generation]
  B --> C[Ví dụ nhỏ]
  C --> D[Bằng chứng]

Điểm quan trọng của sơ đồ là không dừng ở định nghĩa: hãy nối khái niệm với một ví dụ nhỏ và bằng chứng có thể quan sát.

Ví dụ đã phân tích

Policy assistant search section được phép trong handbook, đưa top passage cho LLM và trả answer kèm link, đồng thời fallback khi evidence yếu.

Trước khi làm, hãy viết dấu hiệu thành công. Sau đó chỉ thay đổi một yếu tố, quan sát kết quả và ghi lại assumption. Với Retrieval-augmented generation, cách này giúp tách điều bạn biết khỏi điều bạn chỉ đang đoán.

Thực hành trong 20–30 phút

Mục tiêu: Tạo mười document ngắn và năm question, so answer có/không retrieval rồi xem passage đúng có vào prompt không.

1. Ghi lại trạng thái ban đầu và điều bạn dự đoán.
2. Thực hiện phiên bản nhỏ nhất, không thêm công cụ chưa cần thiết.
3. Thay đổi đúng một input hoặc constraint rồi chạy lại.
4. Lưu command, screenshot, output hoặc checklist làm bằng chứng.

Kết quả mong đợi: Mỗi answer cite passage hỗ trợ, permission boundary được giữ, câu thiếu evidence biết từ chối và evaluation set cố định theo dõi regression.

Sai ở đâu và sửa thế nào

Thêm nhiều retrieved text có thể làm chất lượng giảm; cần tối ưu relevance, chunk boundary, metadata filter và context budget cùng nhau.

Khi kết quả khác dự đoán, đừng đổi nhiều thứ cùng lúc. Kiểm tra input, version, environment, quyền truy cập và log trước; sau đó lặp lại từ ví dụ nhỏ nhất.

Định nghĩa hoàn thành

• Tôi giải thích được khái niệm bằng ngôn ngữ của mình.
• Tôi đã hoàn thành ví dụ nhỏ và giữ bằng chứng.
• Tôi biết một failure mode và cách kiểm tra nó.
• Người khác có thể làm lại mà không phải đoán bước còn thiếu.

Đi sâu hơn

Mở resource hoặc repository đi kèm ở cuối trang khi bạn cần implementation đầy đủ. Hãy kiểm tra version hiện hành trước khi dùng command trong dự án thật.