Phân biệt Data • Information • Knowledge • Decision • Action

R57-02 sử dụng khung DIKDA để phân biệt các tầng xử lý thông tin và hành động trong hệ thống AI doanh nghiệp.

Knowledge Graph và Hybrid RAG cho tri thức có căn cứ

RAG (Retrieval-Augmented Generation) kết hợp truy xuất thông tin với mô hình ngôn ngữ để tạo câu trả lời dựa trên nguồn dữ liệu được cung cấp. Knowledge Graph biểu diễn các thực thể và quan hệ giữa chúng, hỗ trợ khai thác những mối liên hệ mà tìm kiếm văn bản thông thường có thể bỏ sót.

R57-02 tập trung nghiên cứu cách kết hợp hai phương pháp này trong kiến trúc Hybrid RAG, với bốn thuộc tính quản trị quan trọng:

• Provenance – Nguồn gốc: xác định tài liệu, đoạn văn hoặc bản ghi làm căn cứ cho thông tin được truy xuất.
• Version – Phiên bản: phân biệt các phiên bản tài liệu và tránh sử dụng nội dung đã bị thay thế.
• Effective Date – Thời hạn hiệu lực: xác định thời điểm một quy định hoặc thông tin có giá trị áp dụng.
• Access Control – Phân quyền truy cập: bảo đảm người dùng và AI Agent chỉ truy xuất dữ liệu trong phạm vi được cấp quyền.

Đánh giá Grounded AI bằng chỉ số đo lường

Một câu trả lời trôi chảy không đồng nghĩa với câu trả lời chính xác. Vì vậy, R57-02 định hướng đánh giá độc lập hai thành phần: truy xuất và tạo câu trả lời.

Quản trị AI Agent và giới hạn hành động

AI Agent có thể sử dụng công cụ, gọi API và thực hiện chuỗi tác vụ. Khả năng này mở ra nhiều cơ hội tự động hóa nhưng cũng làm tăng rủi ro khi hệ thống truy cập sai dữ liệu hoặc thực hiện hành động ngoài ý muốn.

R57-02 định hướng nghiên cứu các cơ chế kiểm soát sau:

• Least Privilege: chỉ cấp quyền tối thiểu cần thiết cho từng Agent.
• Tool Authorization: xác định công cụ, API và thao tác được phép sử dụng; phân biệt quyền đọc với quyền ghi hoặc thực thi.
• Approval Workflow: yêu cầu phê duyệt trước các hành động có rủi ro cao.
• Audit Trail: lưu vết yêu cầu, công cụ được gọi, tham số liên quan, kết quả, quyết định phê duyệt và các thay đổi trạng thái để phục vụ kiểm tra.
• Rollback Capability: xây dựng cơ chế khôi phục phù hợp đối với các thao tác có thể hoàn tác.
• Kill Switch: có khả năng dừng hoặc vô hiệu hóa quyền thực thi của Agent khi phát hiện hành vi bất thường.

Human-in-the-Loop và trách nhiệm của con người

Human-in-the-Loop (HITL) là nguyên tắc đưa con người vào những điểm kiểm soát quan trọng trong quy trình AI. Trong R57-02, các điểm can thiệp có thể bao gồm:

• Xác nhận dữ liệu hoặc nguồn tri thức quan trọng.
• Phê duyệt đề xuất trước khi thực hiện hành động có rủi ro.
• Kiểm tra các trường hợp AI thiếu căn cứ, mâu thuẫn hoặc vượt phạm vi.
• Đánh giá kết quả và quyết định tiếp tục, điều chỉnh hoặc dừng workflow.