Quản trị AI thường được nói đến dưới dạng chính sách: nguyên tắc, hội đồng phê duyệt, phân loại rủi ro hoặc thẻ mô tả mô hình (model card). Các công cụ đó là cần thiết, nhưng quản trị chỉ thực sự có ý nghĩa khi được thể hiện trong hành vi của sản phẩm.
Một hệ thống được quản trị tốt phải biết điều gì đã được đo, điều gì chưa biết, nó được phép làm đến đâu, và phải để lại bằng chứng cho các quyết định quan trọng.
Bắt đầu từ thiết kế trạng thái dữ liệu
Một rủi ro AI ít được chú ý không phải là ảo giác của mô hình, mà là sự chắc chắn giả do phần mềm xung quanh mô hình tạo ra.
Hãy phân biệt bốn trạng thái:
- truy vấn thành công và đo được 0;
- truy vấn thành công nhưng không có bản ghi nào;
- hệ thống không có quyền truy cập;
- truy vấn thất bại.
Bốn trạng thái này khác nhau về nghiệp vụ. Nếu ứng dụng gộp chúng thành một màn hình “không có dữ liệu”, AI agent có thể suy luận “không tồn tại”, trong khi sự thật là “hệ thống chưa đo được”.
Với tiền, phân quyền, khách hàng và trạng thái vận hành, sự khác biệt này rất quan trọng.
Quyền ra quyết định phải rõ ràng
Mỗi quy trình có AI tham gia nên xác định ai, hoặc thành phần nào, được quyền:
- đề xuất;
- soạn thảo;
- phê duyệt;
- thực thi;
- hoàn tác;
- ghi đè quyết định.
Điều này không nên chỉ nằm trong văn bản chính sách. Nó phải được thể hiện trong cơ chế phân quyền, API và trạng thái của quy trình.
Cơ chế có con người tham gia kiểm soát phù hợp với những tác vụ có hậu quả lớn, mơ hồ hoặc khó hoàn tác. Nhưng việc con người rà soát không nên là một ô đánh dấu cho có. Người rà soát cần được cung cấp đủ bằng chứng để đưa ra quyết định thật.
Bằng chứng là một phần của sản phẩm
Nếu AI thay đổi một bản ghi kinh doanh, hệ thống nên lưu đủ ngữ cảnh để có thể tái dựng hành động đó về sau.
Tùy mức rủi ro, có thể gồm:
- danh tính người dùng hoặc danh tính hệ thống;
- nguồn dữ liệu;
- bằng chứng đã được truy xuất;
- đề xuất được đưa ra;
- trạng thái phê duyệt;
- công cụ hoặc hành động đã được gọi;
- thời điểm;
- mô hình và phiên bản;
- kết quả và luồng xử lý ngoại lệ.
Nhật ký truy vết không chỉ phục vụ việc tuân thủ. Nó giúp tìm lỗi, tăng niềm tin và giúp đội ngũ học hỏi để cải tiến sản phẩm.
Quản trị cả quy trình, không chỉ quản trị mô hình
Một mô hình có thể rất chính xác nhưng quy trình xung quanh vẫn nguy hiểm. Ví dụ:
- mô hình chọn đúng khách hàng nhưng phần mềm ghi nhầm tenant;
- AI đọc đúng hóa đơn nhưng webhook bị gửi lặp và tạo ra hai giao dịch;
- mô hình tốt nhưng dùng thông tin xác thực dịch vụ có quá nhiều quyền;
- câu trả lời đúng theo dữ liệu cũ, nhưng dữ liệu đó đã lỗi thời.
Vì vậy, rủi ro AI nằm trên toàn bộ vòng đời: dữ liệu, mô hình, công cụ, danh tính, quy trình, giao diện và giám sát.
Khung quản lý rủi ro AI của NIST (AI Risk Management Framework) hữu ích vì khuyến khích tổ chức quản trị (Govern), xác định bối cảnh (Map), đo lường (Measure) và xử lý (Manage) rủi ro trên toàn vòng đời, thay vì thu hẹp việc quản trị thành một biện pháp kiểm soát kỹ thuật.
Tăng mức tự chủ dựa trên bằng chứng
Doanh nghiệp không cần chọn ngay giữa “thủ công” và “tự động hoàn toàn”. Có thể tăng dần mức tự chủ:
- AI đề xuất, con người thực hiện.
- AI chuẩn bị hành động, con người phê duyệt.
- AI tự xử lý các trường hợp rủi ro thấp, con người xử lý ngoại lệ.
- AI tự hành động trong phạm vi chính sách rõ ràng và được theo dõi bằng chỉ số kết quả.
Mức tự chủ chỉ nên tăng khi độ tin cậy, khả năng kiểm soát và hiệu quả kinh tế đã được chứng minh, chứ không phải chỉ vì mô hình mới hơn.
Quản trị tốt có thể giúp đội ngũ nhanh hơn
Quản trị yếu khiến mỗi trường hợp ứng dụng AI trở thành một ngoại lệ phải xin ý kiến riêng. Quản trị tốt tạo ra các khuôn mẫu dùng lại được về danh tính, phân quyền, nhật ký truy vết, rà soát, đánh giá và triển khai.
Khi ranh giới đã rõ, đội ngũ sản phẩm thử nghiệm nhanh hơn chứ không chậm đi.
NAIT xem quản trị AI là một phần của thiết kế sản phẩm và kỹ thuật. Mục tiêu không phải bóp nghẹt thử nghiệm, mà là tạo điều kiện để những thử nghiệm tốt có thể trở thành năng lực vận hành thật, trong khi rủi ro vẫn được kiểm soát.