Huấn luyện là giai đoạn dạy mô hình: cho nó đọc khối dữ liệu khổng lồ, để nó tự điều chỉnh hàng tỉ con số bên trong cho tới khi đoán đúng nhiều hơn. Việc này cần hàng nghìn chip chạy nhiều tuần, tốn kém và làm một lần cho mỗi phiên bản. Suy luận là giai đoạn mô hình đã học xong được đem ra dùng: bạn hỏi, nó trả lời. Mỗi lượt suy luận tốn ít hơn rất nhiều, nhưng lặp lại vô số lần mỗi ngày.
Phân biệt được hai giai đoạn này giải đáp nhiều thắc mắc thường gặp: vì sao AI không biết tin hôm qua, vì sao "dạy AI về công ty mình" thường không cần huấn luyện gì cả, vì sao tinh chỉnh khác với đưa tài liệu. Bài này giải thích bằng ví dụ người học nghề, rồi đi tới câu hỏi thực tế cho doanh nghiệp.
Học nghề bốn năm và hành nghề mỗi ngày
Hình dung một người học nghề may. Bốn năm đầu là học: cắt hỏng, may lệch, bị thầy sửa, làm lại, cho tới khi tay quen. Đó là huấn luyện. Sau đó là hành nghề: mỗi ngày khách mang vải tới, người thợ đo, cắt, may, giao hàng. Đó là suy luận. Học nghề tốn rất nhiều thời gian và công sức dồn một chỗ; hành nghề thì mỗi đơn hàng tốn ít, nhưng làm cả đời.
Với mô hình AI, huấn luyện diễn ra thế này: mô hình nhận một đoạn văn bị che bớt chữ, đoán chữ tiếp theo, so với chữ đúng, rồi điều chỉnh các con số bên trong một chút theo hướng đoán đúng hơn. Lặp lại việc đó trên khối văn bản khổng lồ, nhiều lượt. Những con số được điều chỉnh gọi là trọng số, và tập trọng số cuối cùng chính là "kiến thức" của mô hình, giống như tay nghề nằm trong đôi tay người thợ.
Suy luận thì không điều chỉnh gì cả. Mô hình giữ nguyên trọng số, chỉ dùng chúng để tính câu trả lời cho câu hỏi của bạn. Đây là lý do mô hình không "học" từ cuộc trò chuyện với bạn theo nghĩa thay đổi kiến thức bên trong. Nó nhớ được những gì bạn nói trong cuộc trò chuyện đang diễn ra vì nội dung đó được đưa lại vào mỗi lượt, nhưng hết cuộc trò chuyện thì mô hình vẫn y như cũ, trừ khi nhà cung cấp có tính năng ghi nhớ riêng hoặc dùng dữ liệu để huấn luyện phiên bản sau.
Cũng vì vậy mà mô hình có "ngày cắt dữ liệu": nó chỉ biết những gì có trong dữ liệu huấn luyện, thu thập tới một thời điểm nào đó. Hỏi nó giá vàng hôm nay hay kết quả trận bóng tối qua, nếu không có công cụ tra cứu mạng đi kèm, nó hoặc nói không biết, hoặc tệ hơn là đoán. Người thợ may học nghề xong vẫn không tự biết mốt mới năm nay nếu không ai kể.
Huấn luyện và suy luận khác nhau ở những điểm nào
Mục đích. Huấn luyện để tạo ra kiến thức; suy luận để dùng kiến thức đó trả lời.
Trọng số. Huấn luyện thay đổi trọng số; suy luận giữ nguyên.
Lượng tính toán mỗi lần. Huấn luyện cực lớn, dồn trong một khoảng thời gian; mỗi lượt suy luận nhỏ.
Tần suất. Huấn luyện làm một lần cho mỗi phiên bản; suy luận diễn ra liên tục mỗi ngày.
Phần cứng. Huấn luyện mô hình lớn cần cụm rất nhiều chip nối với nhau; suy luận có thể chạy trên ít chip hơn, thậm chí trên điện thoại với mô hình nhỏ.
Dữ liệu cần. Huấn luyện cần khối dữ liệu khổng lồ; suy luận chỉ cần câu hỏi của bạn và tài liệu bạn đưa kèm.
Ai làm. Huấn luyện mô hình nền là việc của các tổ chức lớn; suy luận thì ai cũng làm khi dùng AI.
Thời gian. Huấn luyện tính bằng tuần, tháng; suy luận tính bằng giây.
Rủi ro khi sai. Huấn luyện sai dữ liệu thì cả mô hình lệch; suy luận sai thì một câu trả lời sai.
Tổng chi phí theo thời gian. Với mô hình được dùng rất nhiều, tổng chi phí suy luận cộng dồn có thể vượt cả chi phí huấn luyện.
Cách cải thiện. Muốn mô hình biết thêm kiến thức nền phải huấn luyện lại; muốn trả lời đúng hơn cho từng việc thường chỉ cần đưa ngữ cảnh tốt hơn lúc suy luận.
Doanh nghiệp muốn "dạy AI về công ty mình": có cần huấn luyện không?
Đây là câu hỏi rất hay gặp. Một công ty du lịch ở Hội An muốn trợ lý AI trả lời khách đúng về tour, giá, lịch khởi hành, chính sách huỷ. Câu đầu tiên chủ công ty hỏi thường là "mình cần huấn luyện AI bao lâu". Câu trả lời ngắn: phần lớn trường hợp không cần huấn luyện gì cả.
Cách phổ biến và rẻ nhất là đưa tài liệu lúc suy luận. Tài liệu tour, bảng giá, chính sách được lưu trong một kho; khi khách hỏi, hệ thống tìm đoạn tài liệu liên quan, đưa kèm câu hỏi cho mô hình, và mô hình trả lời dựa trên đoạn đó. Người trong ngành gọi là truy xuất tăng cường. Ưu điểm lớn: đổi giá tour thì chỉ cần sửa tài liệu, không phải dạy lại mô hình. Đây cũng là lý do dữ liệu sạch quan trọng đến vậy: tài liệu cũ lẫn tài liệu mới thì trợ lý trích nhầm.
Cách thứ hai là tinh chỉnh: lấy một mô hình có sẵn, huấn luyện thêm một chút bằng vài trăm đến vài nghìn ví dụ của riêng mình. Tinh chỉnh hợp với việc dạy mô hình một kiểu trả lời, một giọng văn, một định dạng cố định, ví dụ luôn trả lời khách theo đúng khung ba phần của công ty, hay phân loại phản hồi khách theo đúng nhóm công ty dùng. Tinh chỉnh không phải cách tốt để nạp kiến thức hay thay đổi như giá cả, vì mỗi lần đổi lại phải tinh chỉnh lại.
Cách thứ ba, huấn luyện mô hình từ đầu, gần như không bao giờ hợp lý với doanh nghiệp vừa và nhỏ. Nó cần dữ liệu khổng lồ, hạ tầng đắt và đội ngũ chuyên sâu, trong khi mô hình có sẵn đã biết tiếng Việt và kiến thức chung.
Quy tắc dễ nhớ: kiến thức hay thay đổi thì đưa tài liệu; cách làm, giọng văn cố định thì cân nhắc tinh chỉnh; còn huấn luyện từ đầu thì để cho tổ chức có nguồn lực lớn.
Chọn cách nào cho việc của bạn
Trả lời khách về sản phẩm, giá, chính sách. Đưa tài liệu lúc suy luận; cập nhật tài liệu là xong.
Trợ lý nội bộ cho nhân viên mới. Đưa sổ tay quy trình, nội quy; đánh dấu rõ bản đang hiệu lực.
Viết mô tả sản phẩm đúng giọng thương hiệu. Thử đưa mẫu và hướng dẫn giọng trước; chỉ tinh chỉnh khi lời dặn không đủ.
Phân loại phản hồi khách theo nhóm riêng. Đưa ví dụ trong lời dặn; nếu khối lượng lớn và cần ổn định thì tinh chỉnh mô hình nhỏ.
Trích thông tin từ hoá đơn, hợp đồng theo mẫu cố định. Mô hình có sẵn kèm ví dụ thường đủ; tinh chỉnh khi mẫu rất đặc thù.
Soi lỗi sản phẩm bằng camera. Thường cần huấn luyện thêm mô hình thị giác với ảnh lỗi của chính xưởng mình.
Nhận dạng giọng nói giọng địa phương. Tinh chỉnh bằng ghi âm có lời chép của vùng đó cho kết quả tốt hơn rõ.
Hỏi tin tức thời sự. Không huấn luyện được kịp; cần công cụ tra cứu mạng đi kèm.
Tư vấn chuyên môn y tế, pháp lý. Đưa tài liệu chính thống làm căn cứ, và luôn có người có nghề kiểm.
Dự báo doanh số từ số liệu bán hàng. Đây là bài toán học máy khác, huấn luyện mô hình dự báo nhỏ từ dữ liệu của bạn.
Không chắc nên chọn gì. Bắt đầu bằng đưa tài liệu và lời dặn tốt; đo kết quả; chỉ tiến lên tinh chỉnh khi thật sự cần.
Những hiểu lầm hay gặp
Trò chuyện nhiều thì AI học được công ty mình. Trong một cuộc trò chuyện nó nhớ ngữ cảnh, nhưng trọng số không đổi; cuộc sau lại bắt đầu từ đầu trừ khi có tính năng ghi nhớ.
Tinh chỉnh là cách nạp dữ liệu mới. Tinh chỉnh dạy cách làm tốt hơn là dạy kiến thức; kiến thức hay đổi nên để ở tài liệu.
Huấn luyện càng lâu càng giỏi. Huấn luyện quá mức trên dữ liệu nhỏ làm mô hình thuộc lòng, gặp câu mới lại kém.
Mô hình biết mọi thứ trên mạng. Nó chỉ biết những gì có trong dữ liệu huấn luyện tới ngày cắt.
Mô hình cũ thì vô dụng. Kiến thức nền vẫn dùng tốt; chỉ cần đưa thông tin mới qua tài liệu hoặc công cụ tra cứu.
Suy luận miễn phí. Mỗi lượt đều tốn tính toán và điện; dịch vụ miễn phí là do nhà cung cấp gánh hoặc thu cách khác.
Câu trả lời dài hơn không tốn thêm. Mô hình sinh từng mảnh chữ, câu trả lời càng dài càng tốn tính toán.
Dán cả kho tài liệu vào là tốt nhất. Tài liệu thừa làm loãng ngữ cảnh, mô hình dễ trích nhầm đoạn không liên quan.
Tinh chỉnh xong là dùng mãi. Khi mô hình nền có bản mới, có thể phải tinh chỉnh lại.
Mô hình tự sửa lỗi sau khi bị chê. Nó có thể sửa trong cuộc trò chuyện đó, nhưng không tự sửa trọng số của mình.
Mô hình nhỏ luôn kém. Với việc hẹp và đã tinh chỉnh, mô hình nhỏ có thể làm tốt mà nhanh và rẻ hơn.
Câu hỏi thường gặp
Vì sao AI không biết tin tức mới nhất?
Vì kiến thức của mô hình đến từ dữ liệu huấn luyện thu thập tới một thời điểm, và suy luận không thay đổi kiến thức đó. Muốn có tin mới thì cần công cụ tra cứu mạng đi kèm, và vẫn nên kiểm nguồn.
Tinh chỉnh mô hình là gì?
Là huấn luyện thêm một mô hình có sẵn bằng một lượng nhỏ ví dụ của riêng bạn để nó làm một việc cụ thể theo đúng cách bạn muốn. Nó rẻ hơn huấn luyện từ đầu rất nhiều nhưng vẫn cần dữ liệu ví dụ sạch và người hiểu kỹ thuật.
Doanh nghiệp nhỏ có cần huấn luyện AI riêng không?
Phần lớn không cần. Đưa tài liệu chuẩn của công ty cho mô hình có sẵn lúc trả lời thường đã giải quyết được việc chăm sóc khách hay hỗ trợ nhân viên.
Dữ liệu mình nhập vào chatbot có được dùng để huấn luyện không?
Tuỳ chính sách từng nhà cung cấp và từng gói dịch vụ; có nơi cho tắt, có nơi mặc định không dùng với gói doanh nghiệp. Đọc kỹ điều khoản trước khi nhập dữ liệu nhạy cảm.
Vì sao cùng một câu hỏi, AI trả lời mỗi lần một khác?
Lúc suy luận, mô hình chọn chữ tiếp theo có yếu tố ngẫu nhiên để câu văn tự nhiên hơn. Với việc cần nhất quán, có thể giảm độ ngẫu nhiên hoặc đưa khung trả lời cố định.