Thiên kiến AI là khi một hệ thống AI đưa ra kết quả bất lợi một cách có hệ thống cho một nhóm người — phụ nữ, người lớn tuổi, người nói giọng địa phương, người ở tỉnh — dù không ai lập trình nó để phân biệt. Nguyên nhân phổ biến nhất là máy học từ dữ liệu quá khứ, mà quá khứ vốn đã có những lệch lạc của con người.
Ở Việt Nam, khi doanh nghiệp bắt đầu dùng AI để lọc hồ sơ ứng tuyển, chấm điểm khách vay, xếp ưu tiên chăm sóc khách hàng, câu hỏi "máy có công bằng không" không còn là chuyện học thuật. Bài này giải thích thiên kiến sinh ra thế nào, nó trông ra sao trong đời thực và người dùng AI có thể kiểm tra bằng cách đơn giản nào.
Thiên kiến đi vào AI bằng những đường nào?
Đường thứ nhất là dữ liệu lịch sử. Giả sử một công ty muốn AI chọn hồ sơ giống những nhân viên giỏi trước đây. Nếu nhiều năm qua công ty chủ yếu tuyển nam cho vị trí kỹ thuật, máy sẽ học rằng "giống người giỏi" nghĩa là có những đặc điểm hay gặp ở nam giới — câu lạc bộ thể thao nào, trường nào, cách viết hồ sơ ra sao — và hạ điểm hồ sơ nữ mà không cần biết giới tính.
Đường thứ hai là dữ liệu thiếu. Mô hình nhận dạng giọng nói học nhiều giọng phổ thông sẽ nghe giọng Nghệ Tĩnh, giọng Quảng, giọng miền Tây kém hơn. Ứng dụng tổng đài tự động dùng mô hình đó sẽ bắt người ở một số vùng phải nói lại nhiều lần, chuyển máy sai, rồi đánh dấu họ là "khách khó chịu" khi họ bực mình.
Đường thứ ba là biến thay thế. Doanh nghiệp xoá cột giới tính, tuổi để cho công bằng, nhưng máy vẫn suy ra được từ thứ khác: năm tốt nghiệp gợi ra tuổi, địa chỉ gợi ra vùng, khoảng trống trong quá trình làm việc gợi ra thời gian nghỉ sinh con. Bỏ cột không đủ để bỏ thiên kiến.
Đường thứ tư là mục tiêu đặt sai. Một hệ thống tối ưu "khách mang lại doanh thu cao nhất" sẽ dồn ưu đãi cho người vốn đã có nhiều, còn khách nhỏ ở tỉnh bị phục vụ chậm hơn. Máy làm đúng việc được giao; cái sai nằm ở việc giao.
Thiên kiến trông thế nào trong đời thực ở Việt Nam
Lọc hồ sơ loại người trên bốn mươi. Máy học rằng ứng viên thành công trước đây đa phần trẻ, nên hạ điểm người có quá trình làm việc dài.
Hạ điểm hồ sơ có khoảng trống. Phụ nữ nghỉ sinh, người nghỉ chăm cha mẹ bị coi là "thiếu ổn định".
Ưu tiên một số trường. Hồ sơ từ trường ở thành phố lớn được đẩy lên chỉ vì dữ liệu cũ nhiều người từ đó.
Chấm điểm tín dụng theo nơi ở. Người ở vùng xa có ít lịch sử giao dịch điện tử nên bị coi là rủi ro cao, dù trả nợ đều.
Tổng đài nghe giọng địa phương kém. Khách phải nhắc lại nhiều lần, bị chuyển sai bộ phận.
Nhận diện khuôn mặt kém với da sẫm, ánh sáng yếu. Công nhân ca đêm chấm công bằng khuôn mặt bị báo lỗi nhiều hơn.
Ảnh AI tạo ra theo khuôn mẫu. Hỏi "vẽ một giám đốc" ra toàn đàn ông mặc vest, "vẽ y tá" ra toàn phụ nữ.
Dịch máy gán giới. Câu trung tính được dịch thành "anh ấy là kỹ sư, cô ấy là thư ký".
Gợi ý việc làm theo giới. Nền tảng việc làm đẩy tin kế toán cho nữ, tin kỹ thuật cho nam.
Kiểm duyệt nội dung nhầm tiếng địa phương. Từ ngữ vùng miền bị máy hiểu là thô tục và gỡ bài.
Chatbot trả lời kém hơn với tiếng Việt không dấu. Người lớn tuổi gõ không dấu nhận câu trả lời kém chất lượng hơn.
Ví dụ: một xưởng may dùng AI sàng lọc ứng viên
Một xưởng may ở Bình Dương cần tuyển tổ trưởng chuyền, nhận hàng trăm hồ sơ mỗi đợt. Phòng nhân sự thử một công cụ chấm điểm hồ sơ bằng AI, dạy nó bằng hồ sơ của các tổ trưởng đang làm tốt. Sau vài tuần, họ nhận ra danh sách được đề xuất toàn người dưới ba mươi lăm, trong khi nhiều tổ trưởng giỏi nhất của xưởng lại ngoài bốn mươi.
Lần ngược lại mới thấy: hồ sơ của các tổ trưởng lớn tuổi trong dữ liệu mẫu được viết tay rồi chụp lại, máy đọc không ra nhiều thông tin, nên "người giỏi" trong mắt máy chủ yếu là nhóm trẻ có hồ sơ đánh máy đẹp. Máy không ghét người lớn tuổi; nó chỉ học từ cái nó đọc được.
Cách xưởng sửa khá đơn giản. Họ dùng AI để trích thông tin cơ bản và gom hồ sơ theo kinh nghiệm, chứ không để nó xếp hạng. Mỗi đợt, nhân sự rút ngẫu nhiên một số hồ sơ bị máy để cuối danh sách để đọc lại. Và họ đếm: trong số người được mời phỏng vấn, tỉ lệ các nhóm tuổi có lệch xa so với tỉ lệ người nộp hay không.
Bài học chung: AI hợp với việc gom, tóm tắt, sắp xếp thông tin; quyết định loại ai, chọn ai thì cần người, kèm một phép kiểm tra đếm được.
Cách kiểm tra thiên kiến mà doanh nghiệp nhỏ làm được
Đếm theo nhóm. So tỉ lệ được chọn của nam và nữ, các nhóm tuổi, các vùng với tỉ lệ của người nộp.
Thử hồ sơ cặp đôi. Tạo hai hồ sơ giống hệt, chỉ đổi tên nam thành tên nữ hoặc đổi năm sinh, xem điểm có khác không.
Đọc lại phần bị loại. Định kỳ rút ngẫu nhiên hồ sơ bị máy để cuối để người đọc.
Hỏi nhà cung cấp. Yêu cầu họ cho biết mô hình học từ dữ liệu nào, đã kiểm tra công bằng ra sao.
Ghi lại lý do quyết định. Mỗi lần loại hay chọn, người duyệt ghi lý do ngắn gọn.
Cho người bị ảnh hưởng quyền hỏi lại. Ứng viên, khách hàng có kênh yêu cầu xem xét lại bởi con người.
Thử với giọng nhiều vùng. Trước khi dùng tổng đài AI, nhờ nhân viên quê nhiều nơi gọi thử.
Thử với tiếng Việt không dấu, gõ sai. Xem chatbot còn hiểu không.
Không dùng AI cho quyết định cuối. Tuyển, sa thải, từ chối vay, từ chối điều trị cần người chịu trách nhiệm.
Xem lại sau mỗi lần cập nhật. Mô hình mới có thể lệch theo kiểu mới.
Hỏi chuyên gia khi rủi ro cao. Lĩnh vực tín dụng, bảo hiểm, y tế nên có tư vấn pháp lý và chuyên môn.
Những ngộ nhận về thiên kiến AI
"Máy thì khách quan hơn người". Máy nhất quán hơn, nhưng nhất quán theo cái lệch nó đã học, và lặp lại hàng nghìn lần.
"Bỏ cột giới tính là xong". Máy suy ra được từ dữ liệu khác.
"Thiên kiến chỉ là chuyện của nước ngoài". Dữ liệu tiếng Việt, thị trường Việt có lệch riêng: vùng miền, thành thị nông thôn, tuổi tác.
"Muốn công bằng thì phải chia đều". Công bằng có nhiều định nghĩa; chọn định nghĩa nào là quyết định của con người, cần nói rõ.
"Mô hình lớn thì hết thiên kiến". Mô hình lớn học từ nhiều dữ liệu hơn, cũng học nhiều định kiến hơn, chỉ khó thấy hơn.
"Không ai phàn nàn tức là ổn". Người bị loại thường không biết mình bị loại vì máy.
"Sửa một lần là xong". Dữ liệu mới, mục tiêu mới đều có thể tạo lệch mới.
"Thiên kiến chỉ đến từ dữ liệu". Cách đặt mục tiêu, cách chọn ngưỡng cũng tạo thiên kiến.
"Người duyệt cuối là đủ an toàn". Nếu người duyệt chỉ bấm đồng ý theo máy, lớp kiểm tra đó chỉ có trên giấy.
"Nói ra thiên kiến là làm mất uy tín". Công khai cách kiểm tra lại giúp khách và ứng viên tin hơn.
"Không dùng AI thì không có thiên kiến". Con người cũng thiên kiến; AI làm nó hiện rõ, và đó là cơ hội để sửa.
Câu hỏi thường gặp
Thiên kiến AI có phải do người lập trình cố ý không?
Rất hiếm khi cố ý. Phần lớn đến từ dữ liệu quá khứ, dữ liệu thiếu một số nhóm, hoặc mục tiêu đặt chưa kỹ, và người làm không kiểm tra theo từng nhóm.
Ứng viên bị AI loại thì có quyền hỏi lý do không?
Người bị ảnh hưởng nên được biết có dùng hệ thống tự động và có cách yêu cầu con người xem xét lại. Mức độ quyền cụ thể tuỳ quy định hiện hành, trường hợp tranh chấp nên hỏi luật sư.
Doanh nghiệp nhỏ có cần lo chuyện thiên kiến không?
Có, vì doanh nghiệp nhỏ thường dùng công cụ có sẵn mà không biết nó học từ đâu. Một phép đếm đơn giản theo nhóm tuổi, giới, vùng mỗi đợt tuyển là đủ để phát hiện chỗ lệch lớn.
Chatbot trả lời có định kiến về vùng miền thì làm sao?
Đừng dùng câu trả lời đó cho việc gì quan trọng, báo lỗi cho nhà cung cấp, và khi viết câu lệnh hãy yêu cầu rõ trả lời trung lập, dựa trên thông tin cụ thể thay vì khái quát.
Có cách nào loại bỏ hoàn toàn thiên kiến không?
Gần như không, vì định nghĩa công bằng cũng có nhiều cách. Mục tiêu thực tế là phát hiện, giảm, ghi lại và để con người chịu trách nhiệm cho quyết định cuối.