AiKiemSoat.com đi theo hướng làm công cụ và dịch vụ giữ cho AI chạy đúng: kiểm tra trước khi đưa vào dùng, giám sát trong lúc chạy, phát hiện nội dung giả và câu trả lời sai. Site đang ở giai đoạn định hướng.
Càng nhiều doanh nghiệp đưa AI vào trả lời khách, soạn hợp đồng, duyệt hồ sơ, càng cần một lớp kiểm soát đứng giữa. Tên này cũng dùng được theo chiều ngược lại: AI hỗ trợ kiểm soát nội bộ và kiểm soát chất lượng. Kiểm soát ở đây là kiểm soát máy và quy trình, không phải theo dõi con người.
AI sai theo những cách rất riêng
Một nhân viên mới làm sai thường lộ ra: lúng túng, hỏi lại, viết vụng. AI thì khác. Nó sai mà vẫn trôi chảy, tự tin, đúng giọng văn. Một chatbot ngân hàng có thể trả lời sai lãi suất bằng câu cú rất chuyên nghiệp. Một trợ lý soạn hợp đồng có thể bỏ sót một điều khoản mà bản nháp vẫn trông hoàn chỉnh.
Chính vì sai một cách trơn tru nên người dùng khó phát hiện bằng mắt thường. Kiểm tra vài câu thấy ổn rồi đưa vào chạy là cách làm phổ biến và cũng là cách dễ vỡ nhất: những câu hỏi lạ, câu hỏi gài, câu hỏi về chuyện hiếm mới là chỗ AI hay trật.
Ngoài sai vô tình còn có nội dung giả cố ý: ảnh ghép khuôn mặt, video giả người nổi tiếng quảng cáo thuốc, giọng nói giả người thân gọi điện vay tiền. Ở Việt Nam, những chiêu này đã đến tận điện thoại của người dân bình thường.
Kiểm soát AI vì vậy cần ba lớp: kiểm tra kỹ trước khi dùng, theo dõi liên tục khi đang dùng, và có công cụ nhận ra đồ giả. Không lớp nào đủ một mình.
AI Kiểm Soát nên làm những gì
Bộ kiểm tra trước khi đưa vào dùng. Hàng trăm câu hỏi thật, câu hỏi gài, câu hỏi hiếm theo đúng nghiệp vụ.
Chấm câu trả lời theo tiêu chí rõ. Đúng sự thật, đúng chính sách công ty, đúng giọng, không lộ dữ liệu.
Giám sát chatbot đang chạy. Lấy mẫu hội thoại mỗi ngày, gắn cờ câu trả lời đáng ngờ.
Cảnh báo khi chất lượng tụt. Sau mỗi lần cập nhật mô hình hay đổi dữ liệu.
Chặn dữ liệu nhạy cảm. Phát hiện số thẻ, số căn cước, thông tin sức khoẻ trước khi gửi ra ngoài.
Phát hiện ảnh, video, giọng nói giả. Công cụ kiểm tra cho toà soạn, ngân hàng, người dân.
Đối chiếu chứng từ bằng AI. Hoá đơn, phiếu chi, hợp đồng không khớp nhau thì báo.
Kiểm soát chất lượng sản phẩm bằng thị giác máy. Camera soi lỗi trên dây chuyền, người xác nhận lần cuối.
Nhật ký và báo cáo kiểm tra. Để doanh nghiệp chứng minh mình đã kiểm tra đầy đủ.
Tài liệu hướng dẫn an toàn AI. Viết cho doanh nghiệp nhỏ, ngắn và làm theo được.
Dịch vụ kiểm định độc lập. Bên thứ ba kiểm tra hệ thống AI trước khi ra mắt.
Ai được lợi nhiều nhất?
Doanh nghiệp có chatbot trả lời khách, nhất là ngân hàng, bảo hiểm, viễn thông, thương mại điện tử, được lợi ở chỗ phát hiện câu trả lời sai trước khi khách phàn nàn hay bị thiệt.
Nhà máy được lợi ở mảng kiểm soát chất lượng: camera soi lỗi không mỏi mắt sau tám tiếng, người kiểm tra tập trung vào những ca máy chưa chắc.
Phòng kế toán và kiểm toán nội bộ được lợi ở chỗ đối chiếu chứng từ nhanh, phát hiện chỗ lệch để kiểm tra kỹ.
Người dân được lợi ở mảng phát hiện đồ giả: biết cách kiểm tra một video, một cuộc gọi trước khi tin, trước khi chuyển tiền.
Giới hạn cần nói thẳng
Không công cụ nào phát hiện được mọi đồ giả. Kỹ thuật làm giả và kỹ thuật phát hiện tiến bộ cùng nhau, bên này đi trước một bước thì bên kia đuổi theo. Công cụ phát hiện nên đưa ra mức độ nghi ngờ, kèm lời khuyên kiểm tra thêm, chứ không phán chắc chắn thật hay giả.
Kiểm tra trước khi dùng không bảo đảm mãi mãi. Mô hình được cập nhật, dữ liệu thay đổi, khách hỏi những câu mới. Vì vậy giám sát liên tục quan trọng không kém kiểm tra ban đầu.
Kiểm soát không được biến thành theo dõi người. Công cụ đối chiếu chứng từ là để phát hiện sai sót trong hồ sơ, không phải để soi đời sống của nhân viên. Ranh giới này cần được viết rõ trong quy chế.
Với người dân, lời khuyên đơn giản vẫn hiệu quả nhất: nhận cuộc gọi vay tiền gấp thì gọi lại bằng số quen, hỏi một câu chỉ người thật mới biết. Công nghệ giúp được, nhưng thói quen kiểm tra mới là lá chắn chính.
Lộ trình phát triển hợp lý
Bước một: bộ kiểm tra chatbot theo ngành. Bắt đầu với bán lẻ và dịch vụ khách hàng.
Bước hai: giám sát hội thoại đang chạy. Lấy mẫu, gắn cờ, báo cáo tuần.
Bước ba: chặn dữ liệu nhạy cảm. Lớp lọc trước khi gửi dữ liệu ra ngoài.
Bước bốn: công cụ kiểm tra ảnh, video, giọng nói. Cho toà soạn và người dân.
Bước năm: thị giác máy cho kiểm soát chất lượng. Thử với một dây chuyền, một loại lỗi.
Song song: tài liệu an toàn AI. Ngắn, cụ thể, cho doanh nghiệp nhỏ.
Song song: hướng dẫn chống lừa đảo cho người dân. Viết dễ hiểu, chia sẻ được.
Đi cùng AI Quản Trị. Quy chế dùng AI và công cụ kiểm tra đi đôi.
Đi cùng Việt Nam ASI. Một bên nói nguyên lý an toàn, một bên làm công cụ.
Đi cùng AI Định Danh. Xác minh danh tính chống giả mạo khuôn mặt.
Dịch vụ kiểm định độc lập. Khi đã có đủ bộ kiểm tra và kinh nghiệm.
Câu hỏi thường gặp
Kiểm định AI là kiểm tra cái gì?
Kiểm tra xem hệ thống trả lời đúng tới đâu với câu hỏi thật, câu hỏi gài và câu hỏi hiếm; có làm lộ dữ liệu không; có trả lời trái chính sách công ty không. Kết quả nên được ghi thành báo cáo.
Chatbot đã kiểm tra kỹ rồi có cần giám sát nữa không?
Có. Mô hình được cập nhật, dữ liệu đổi, khách hỏi câu mới. Lấy mẫu hội thoại định kỳ giúp phát hiện chất lượng tụt trước khi khách phàn nàn.
Công cụ phát hiện video giả có chính xác tuyệt đối không?
Không. Nó chỉ cho biết mức độ nghi ngờ. Với nội dung quan trọng, nên kiểm tra thêm nguồn đăng và hỏi lại người trong cuộc.
Nhận cuộc gọi giọng người thân vay tiền gấp thì làm gì?
Đừng chuyển tiền ngay. Gác máy, gọi lại bằng số quen của người đó, hoặc hỏi một câu chỉ người thật mới biết.
AI Kiểm Soát có dùng để theo dõi nhân viên không?
Không. Định hướng là kiểm soát máy, chứng từ và chất lượng sản phẩm. Quy chế cần ghi rõ ranh giới này.
