AI bịa thông tin vì cách nó được tạo ra: mô hình ngôn ngữ học để viết ra câu nghe hợp lý nhất, không phải câu đúng nhất. Chỗ nào dữ liệu nhiều và nhất quán thì "nghe hợp lý" trùng với "đúng". Chỗ nào dữ liệu mỏng, mâu thuẫn hay câu hỏi quá cụ thể, mô hình vẫn viết tiếp trơn tru bằng thứ trông giống thật. Giới làm AI gọi hiện tượng này là ảo giác.
Ảo giác nguy hiểm ở chỗ nó không có dấu hiệu bên ngoài. Câu bịa và câu đúng có cùng giọng điệu, cùng độ tự tin, có khi còn kèm tên sách, số điều khoản, đường dẫn nghe rất thuyết phục. Người đọc vội rất dễ tin.
Bài này đi vào cơ chế sinh ra ảo giác, những loại câu hỏi dễ làm AI bịa nhất, dấu hiệu nhận biết, và cách hỏi để giảm sai. Không có cách nào xoá hẳn ảo giác, nhưng có cách để nó không lừa được bạn.
Cơ chế: vì sao cỗ máy đoán chữ lại bịa?
Nhớ lại cách mô hình ngôn ngữ làm việc: nó đoán mảnh chữ tiếp theo dựa trên khuôn mẫu đã học. Khi bạn hỏi "Ai là tác giả cuốn sách X", mô hình không mở thư viện ra tra. Nó viết tiếp câu trả lời theo khuôn "tác giả cuốn sách là" cộng với những gì nó nhớ được về chữ X. Nhớ rõ thì đúng. Nhớ mờ thì nó vẫn phải viết tiếp một cái tên, và cái tên nghe hợp lý nhất được chọn.
Cái khó là mô hình không có sẵn một cái công tắc "mình không biết". Trong dữ liệu huấn luyện, câu hỏi thường đi với câu trả lời, hiếm khi đi với câu "không rõ". Giai đoạn dạy làm trợ lý lại thưởng cho câu trả lời đầy đủ, hữu ích. Cả hai cùng đẩy mô hình về phía trả lời bằng được.
Thêm một nguyên nhân nữa: kiến thức trong mô hình được nén lại, giống bản đồ vẽ tay của một người đã đi qua thành phố nhiều lần. Đường lớn vẽ đúng, hẻm nhỏ thì vẽ đại theo cảm giác. Thông tin hiếm, như tên một ngôi chùa ở huyện xa hay một quy định chỉ áp dụng ở một tỉnh, chính là những con hẻm nhỏ đó.
Cuối cùng là chuyện ngữ cảnh. Nếu câu hỏi của bạn có sẵn một tiền đề sai, như "hãy giải thích quy định mới về việc cấm bán bánh mì sau 9 giờ tối", mô hình thường không cãi lại tiền đề mà cố giải thích một quy định không hề tồn tại. Nó được dạy để giúp, và giúp ở đây nghĩa là viết tiếp theo hướng bạn đã mở.
Những loại câu hỏi dễ làm AI bịa nhất
Hỏi nguồn trích dẫn. Yêu cầu "cho mình năm bài báo khoa học về...", AI có thể đưa ra tên tác giả, tên tạp chí, năm xuất bản hoàn toàn không có thật.
Hỏi số hiệu văn bản pháp luật. Số nghị định, số điều khoản, mức phạt cụ thể là chỗ AI rất hay nhầm hoặc bịa. Luôn tra văn bản gốc và hỏi luật sư.
Hỏi số liệu thống kê. Tỷ lệ phần trăm, quy mô thị trường, số người dùng. Con số tròn trịa và tự tin chưa chắc là thật.
Hỏi về người ít nổi tiếng. Tiểu sử một giáo viên, một doanh nhân địa phương. AI có thể ghép thông tin của người cùng tên.
Hỏi chuyện vừa xảy ra. Sự kiện sau mốc dữ liệu, mô hình không có tra cứu sẽ đoán theo những gì "thường xảy ra".
Hỏi chi tiết địa phương. Giờ mở cửa của một quán, đường đi trong một xã, lịch phiên chợ. Dữ liệu ít, dễ bịa.
Hỏi liều thuốc, cách chữa bệnh. Sai ở đây gây hại thật. Chỉ dùng AI để hiểu khái niệm, còn liều lượng phải hỏi bác sĩ hoặc dược sĩ.
Câu hỏi có tiền đề sai. Hỏi về một sự việc không có thật, AI thường "chiều" theo thay vì phản bác.
Yêu cầu tóm tắt tài liệu không đính kèm. Bảo AI tóm tắt một cuốn sách hay báo cáo mà không đưa nội dung, nó có thể viết ra nội dung nghe hợp lý mà sai.
Phép tính dài trong đầu. Cộng nhiều khoản, đổi đơn vị lằng nhằng. Mô hình có thể ra số sai mà trình bày rất gọn gàng.
Đường dẫn trang web. Địa chỉ trang do AI tự viết ra có thể không tồn tại hoặc trỏ tới trang khác.
Câu hỏi về chính nó. Hỏi AI "bạn được huấn luyện bằng dữ liệu nào, đến ngày nào" chưa chắc nhận được câu trả lời chính xác.
Dấu hiệu nhận biết một câu trả lời có thể đang bịa
Quá cụ thể mà không có nguồn. Số liệu lẻ đến hàng thập phân, tên người đầy đủ, ngày tháng chính xác nhưng không chỉ ra lấy từ đâu.
Hỏi lại thì đổi đáp án. Mở cuộc trò chuyện mới hỏi lại, nếu chi tiết quan trọng thay đổi thì mô hình đang đoán.
Nguồn không mở được. Bấm vào đường dẫn ra trang lỗi, hoặc tên sách không tìm thấy ở đâu khác.
Trả lời trơn tru câu hỏi rất ngách. Câu hỏi càng hiếm mà câu trả lời càng đầy đủ, càng nên nghi.
Không nhắc tới ngoại lệ. Chuyện thật thường có "tuỳ trường hợp", "trừ khi". Câu trả lời tuyệt đối gọn gàng đôi khi là dấu hiệu đơn giản hoá quá mức.
Gật đầu với mọi tiền đề. Bạn cố tình đưa một thông tin sai mà AI vẫn xác nhận, thì đừng tin những câu xác nhận khác của nó.
Trộn đúng với sai. Bốn ý đầu đúng làm bạn tin ý thứ năm. Kiểm từng ý quan trọng, không kiểm theo cảm giác chung.
Lời lẽ giống văn bản chính thức. Câu văn mô phỏng giọng công văn, có "theo quy định tại" nhưng không có văn bản gốc nào đi kèm.
Tên tổ chức nghe hơi lạ. Ghép từ các từ quen thuộc nhưng tra thì không có tổ chức nào như vậy.
Con số không khớp nhau. Tổng các phần không bằng con số tổng mà chính AI vừa đưa ra.
Tự nhận đã kiểm tra. Câu "mình đã xác minh" không có nghĩa là đã xác minh, trừ khi ứng dụng có công cụ tra cứu và hiện nguồn.
Cách hỏi để giảm ảo giác khi dùng hằng ngày
Cách hiệu quả nhất là đưa tài liệu vào trước rồi mới hỏi. Thay vì "quy định nghỉ phép năm của công ty mình thế nào", hãy dán nội quy công ty vào rồi hỏi "theo văn bản trên, nhân viên làm đủ một năm được nghỉ mấy ngày". Mô hình đọc được thứ cần đọc thì ít phải đoán, và bạn kiểm lại cũng dễ.
Cách thứ hai là cho phép AI nói không biết. Viết thẳng vào câu hỏi: "nếu không chắc, hãy nói không chắc, đừng đoán". Nghe đơn giản nhưng có tác dụng rõ, vì bạn đang mở cho mô hình một lối ra mà bình thường nó ít dùng. Kèm thêm yêu cầu "tách riêng phần nào là thông tin chắc chắn, phần nào là suy luận".
Cách thứ ba là hỏi câu trung tính. Thay vì "vì sao uống nước chanh buổi sáng giúp giảm cân", hãy hỏi "uống nước chanh buổi sáng có tác dụng gì với cân nặng, có bằng chứng không". Câu hỏi gài sẵn kết luận sẽ nhận được lý lẽ bênh vực kết luận đó.
Cách thứ tư là dùng AI cho đúng phần việc. Để AI giải thích một khái niệm, gợi ý hướng tìm hiểu, sắp xếp lại thông tin bạn đã có. Còn việc xác nhận sự thật, như văn bản pháp luật hiện hành, liều thuốc, thông số kỹ thuật, thì đi tới nguồn gốc: trang chính thức, người có chuyên môn, tài liệu của nhà sản xuất.
Cuối cùng, hãy hình thành thói quen kiểm chéo những chi tiết sẽ được dùng để ra quyết định hoặc sẽ đăng lên cho người khác đọc. Một bài đăng bán hàng có số liệu bịa, một bài tập nộp thầy có trích dẫn không tồn tại, đều có thể kéo theo hậu quả mà AI không chịu thay bạn.
Người làm sản phẩm AI đang giảm ảo giác bằng cách nào?
Tra cứu trước khi trả lời. Hệ thống tìm tài liệu liên quan trong kho dữ liệu rồi đưa vào câu lệnh, buộc mô hình bám vào đó.
Hiện nguồn cho người dùng. Mỗi ý kèm chỗ lấy, để người đọc tự mở ra kiểm.
Giới hạn phạm vi. Chatbot của cửa hàng chỉ trả lời về sản phẩm, câu hỏi ngoài lề thì từ chối thay vì đoán.
Dạy mô hình nói không biết. Trong giai đoạn huấn luyện, thưởng cho câu trả lời thừa nhận không chắc khi thật sự không chắc.
Dùng công cụ tính toán. Phép tính được chuyển sang máy tính thật thay vì để mô hình tự đoán kết quả.
Kiểm tra chéo bằng mô hình thứ hai. Một bước khác đọc lại câu trả lời và đối chiếu với nguồn để bắt chỗ không khớp.
Hạ mức ngẫu nhiên. Với việc cần chính xác, chỉnh cho mô hình chọn chữ ổn định thay vì sáng tạo.
Đo bằng bộ câu hỏi kiểm thử. Chuẩn bị sẵn câu hỏi có đáp án, chạy định kỳ để biết hệ thống có đang tệ đi.
Có người duyệt ở khâu quan trọng. Câu trả lời liên quan sức khoẻ, tiền bạc được chuyển cho nhân viên xem lại.
Ghi nhật ký để sửa. Lưu những ca trả lời sai mà người dùng báo, dùng làm dữ liệu cải tiến.
Nói rõ giới hạn với người dùng. Một dòng nhắc "thông tin có thể sai, hãy kiểm tra" không đủ, nhưng vẫn cần thiết.
Câu hỏi thường gặp
Ảo giác AI có bao giờ hết hẳn không?
Với cách mô hình ngôn ngữ đang hoạt động, rất khó xoá hẳn vì nó vốn đoán chữ theo xác suất. Các kỹ thuật tra cứu và kiểm tra chéo giảm được đáng kể, nên người dùng vẫn cần thói quen kiểm lại chi tiết quan trọng.
Chatbot có tra cứu mạng thì có còn bịa không?
Vẫn có thể, chỉ là ít hơn. Mô hình có thể đọc nhầm kết quả, chọn nguồn kém tin cậy hoặc diễn giải sai. Hãy mở nguồn được dẫn và đọc đoạn liên quan.
Làm sao biết một trích dẫn AI đưa ra là thật?
Tìm tên tài liệu đó trên công cụ tìm kiếm, thư viện số hoặc trang của nơi xuất bản. Nếu không tìm thấy ở đâu ngoài câu trả lời của AI, coi như không có thật.
Có nên dùng AI để soạn hồ sơ pháp lý không?
Có thể dùng để hiểu thuật ngữ và sắp xếp ý, nhưng không nên dựa vào AI cho số hiệu văn bản, thời hạn hay mức phạt. Hồ sơ chính thức cần luật sư hoặc người có chuyên môn kiểm tra.
Vì sao AI xin lỗi rồi lại sai tiếp?
Lời xin lỗi cũng chỉ là chữ được đoán ra cho hợp tình huống, không có nghĩa mô hình đã tra lại. Nếu nó không có nguồn đúng để dựa vào, câu sửa có thể lại là một đoán khác.