GPU là bộ xử lý đồ hoạ, ban đầu sinh ra để vẽ hình cho trò chơi điện tử, gồm hàng nghìn lõi nhỏ làm cùng lúc một phép tính đơn giản. AI cần GPU vì phần việc nặng nhất của AI là nhân những bảng số khổng lồ với nhau, và đó đúng là kiểu việc chia nhỏ ra cho hàng nghìn lõi làm song song được. CPU trong máy tính của bạn chỉ có vài đến vài chục lõi, mỗi lõi rất giỏi việc phức tạp, nhưng làm phép nhân bảng số thì giống một người giỏi toán đi tính tay cả một kho sổ sách.
Bài này giải thích bằng ví dụ đời thường vì sao GPU hợp với AI, vì sao bộ nhớ trên card mới thường là giới hạn thật, và câu hỏi thực tế nhất: bạn, cửa hàng của bạn hay trường của bạn có cần mua GPU để dùng AI không.
CPU là đầu bếp giỏi, GPU là cả bếp ăn công nghiệp
Hình dung một nhà hàng có một đầu bếp chính rất giỏi. Anh nấu được mọi món, xử lý được mọi yêu cầu khó, đổi món giữa chừng không sao. Đó là CPU: ít lõi, mỗi lõi mạnh và linh hoạt, hợp với những việc có nhiều nhánh rẽ như chạy hệ điều hành, mở trình duyệt, tính sổ sách.
Giờ hình dung một bếp ăn công nghiệp phục vụ cả khu công nghiệp: hàng trăm người đứng thành dãy, mỗi người chỉ làm một động tác đơn giản như nhặt rau, xếp cơm vào hộp, nhưng làm cùng một lúc. Đó là GPU. Không ai trong dãy giỏi như đầu bếp chính, nhưng khi việc là "xếp mười nghìn hộp cơm giống nhau", cả dãy làm nhanh hơn một đầu bếp giỏi gấp rất nhiều lần.
Bên trong một mô hình AI, phần lớn công việc là nhân ma trận: lấy một bảng số đầu vào, nhân với một bảng trọng số đã học, cộng lại, rồi làm tiếp với lớp sau. Mỗi ô kết quả là một phép nhân và cộng đơn giản, và các ô không cần chờ nhau. Đó chính là việc "xếp mười nghìn hộp cơm", chia cho hàng nghìn lõi là xong nhanh.
Ngày nay, những chip chuyên cho AI còn có thêm những khối tính riêng cho phép nhân ma trận, và hỗ trợ tính với con số ít chữ số hơn để chạy nhanh hơn mà vẫn đủ chính xác cho AI. Điện thoại và máy tính xách tay đời mới cũng có bộ xử lý thần kinh nhỏ, thường gọi là NPU, để chạy những tính năng AI nhẹ như làm mờ phông nền khi gọi video hay nhận dạng chữ trong ảnh mà không cần gửi lên mạng.
Vậy CPU có chạy AI được không? Được, với mô hình nhỏ hoặc khi bạn chấp nhận chờ. Một mô hình nhỏ phân loại email, nhận dạng chữ trên hoá đơn, chạy bằng CPU vẫn ổn. Mô hình ngôn ngữ lớn trò chuyện với bạn thì chạy bằng CPU sẽ ra từng chữ chậm rãi, đủ để thử nghiệm nhưng khó dùng thật hằng ngày.
Những thông số GPU quan trọng với AI, nói cho dễ hiểu
Bộ nhớ trên card. Đây thường là thông số quan trọng nhất. Mô hình phải nằm vừa trong bộ nhớ của card mới chạy nhanh được; không vừa thì phải chia nhỏ hoặc chạy chậm hẳn.
Tốc độ đọc bộ nhớ. AI đọc trọng số liên tục; bộ nhớ đọc chậm thì lõi tính phải đứng chờ, giống bếp có nhiều người nhưng rau chuyển tới chậm.
Số lõi tính. Nhiều lõi thì làm song song được nhiều, nhưng chỉ có ý nghĩa khi bộ nhớ theo kịp.
Khối tính chuyên cho ma trận. Chip đời mới có khối riêng cho phép nhân ma trận, chạy AI nhanh hơn hẳn so với lõi thường.
Độ chính xác số. AI không cần số quá nhiều chữ số; tính với số gọn hơn giúp nhanh và tiết kiệm bộ nhớ, đổi lại sai số nhỏ.
Điện năng tiêu thụ. Card mạnh ăn điện nhiều và toả nhiệt lớn, cần nguồn điện và tản nhiệt tương xứng.
Khả năng ghép nhiều card. Mô hình lớn phải chia trên nhiều card, và tốc độ nối giữa các card quyết định có chạy mượt hay không.
Phần mềm hỗ trợ. Phần cứng mạnh mà thư viện phần mềm không hỗ trợ tốt thì vẫn khó dùng; đây là điều người mới hay bỏ qua.
Card chơi game và card trung tâm dữ liệu. Card chơi game rẻ hơn, bộ nhớ ít hơn, hợp thử nghiệm; card trung tâm dữ liệu bộ nhớ lớn, chạy liên tục bền hơn.
Tiếng ồn và nhiệt. Đặt máy chạy AI trong phòng làm việc không có điều hoà ở Sài Gòn mùa nóng là vừa ồn vừa dễ quá nhiệt.
Độ bền khi chạy liên tục. Chạy AI cả ngày khác chơi game vài giờ; linh kiện cần chịu tải lâu.
Vì sao bộ nhớ, chứ không phải tốc độ, thường là giới hạn thật
Một mô hình ngôn ngữ về bản chất là một tệp chứa rất nhiều con số, gọi là tham số hay trọng số. Mỗi lần mô hình viết ra một chữ, nó phải đọc qua gần như toàn bộ những con số đó. Nếu tệp này lớn hơn bộ nhớ trên card, nó phải để một phần ở bộ nhớ máy tính thường và chuyển qua lại, mỗi lần chuyển là một lần chờ.
Một bạn sinh viên ngành công nghệ ở Đà Nẵng tải một mô hình ngôn ngữ mở về chạy thử trên máy tính có card chơi game. Mô hình nhỏ chạy mượt, trả lời gần như tức thì. Bạn đổi sang mô hình lớn hơn, kỳ vọng thông minh hơn, thì máy chạy ì ạch, mỗi câu trả lời chờ rất lâu. Card không yếu đi, chỉ là mô hình không còn vừa bộ nhớ.
Có một cách giảm kích thước mô hình gọi là lượng tử hoá: lưu mỗi con số bằng ít chữ số hơn. Giống như ghi giá tiền làm tròn đến nghìn đồng thay vì ghi đến từng đồng, sổ gọn đi nhiều mà phần lớn trường hợp vẫn đủ dùng. Mô hình lượng tử hoá vừa card nhỏ hơn, chạy nhanh hơn, đổi lại có thể kém đi chút ít ở những câu khó, và với tiếng Việt thì đôi khi kém rõ hơn vì tiếng Việt vốn đã là phần mô hình học ít.
Ngoài trọng số, khi trò chuyện mô hình còn phải giữ phần ghi nhớ của cuộc trò chuyện. Cuộc trò chuyện càng dài, tài liệu dán vào càng nhiều thì phần ghi nhớ này càng phình ra và cũng chiếm bộ nhớ card. Đây là lý do một máy chạy tốt câu hỏi ngắn lại chậm hẳn khi bạn dán một bản hợp đồng dài.
Hiểu điều này giúp tránh một sai lầm phổ biến khi mua máy: chọn card nhiều lõi, xung nhịp cao nhưng bộ nhớ nhỏ. Với AI, một card hơi chậm mà bộ nhớ lớn thường dùng được nhiều việc hơn một card nhanh mà bộ nhớ nhỏ.
Bạn có cần mua GPU để dùng AI không?
Người dùng phổ thông: không cần. Trò chuyện với chatbot, nhờ viết, nhờ dịch, mọi tính toán nặng diễn ra trên máy chủ của nhà cung cấp.
Học sinh, sinh viên học AI: card tầm trung là đủ. Đủ để chạy mô hình nhỏ, học cách huấn luyện và tinh chỉnh; nhiều trường và dịch vụ còn cho thuê giờ máy.
Cửa hàng nhỏ: thường không cần. Dùng dịch vụ có sẵn rẻ và đỡ lo bảo trì hơn nhiều so với tự nuôi máy.
Phòng khám, văn phòng luật có dữ liệu nhạy cảm: cân nhắc. Chạy mô hình nhỏ trên máy riêng giúp dữ liệu không rời khỏi văn phòng, nhưng cần người hiểu kỹ thuật.
Xưởng sản xuất cần soi lỗi sản phẩm bằng camera: có thể cần. Máy đặt tại chỗ, xử lý ảnh liên tục, không phụ thuộc mạng.
Người làm video, ảnh bằng AI thường xuyên: có thể cần. Tạo ảnh, xử lý video tại chỗ nhanh và chủ động hơn.
Doanh nghiệp muốn huấn luyện mô hình riêng từ đầu: thường không nên. Rất tốn kém; tinh chỉnh mô hình có sẵn hoặc thuê hạ tầng theo giờ hợp lý hơn.
Trước khi mua: thử thuê theo giờ. Chạy thử đúng việc mình cần trên máy thuê, biết cần bao nhiêu bộ nhớ rồi mới quyết định mua.
Tính cả tiền điện và làm mát. Máy chạy AI cả ngày làm hoá đơn điện tăng và phòng nóng lên rõ.
Tính người vận hành. Máy không tự cập nhật phần mềm, không tự sửa khi hỏng; cần người lo.
Hỏi kỹ nơi bán về bảo hành khi chạy liên tục. Một số điều kiện bảo hành không tính đến việc chạy tải nặng cả ngày.
Những hiểu lầm hay gặp về GPU và AI
GPU càng mạnh thì AI càng thông minh. Sai. GPU quyết định chạy nhanh hay chậm; độ thông minh nằm ở mô hình và dữ liệu.
Có GPU là tự làm được AI riêng. Phần cứng chỉ là một phần; cần dữ liệu tốt, kiến thức và thời gian.
Máy tính có NPU chạy được mọi mô hình. NPU trong máy cá nhân hợp tính năng nhẹ, mô hình lớn vẫn cần card có bộ nhớ lớn hoặc máy chủ.
Card chơi game không dùng cho AI được. Dùng được cho học tập và mô hình vừa phải; giới hạn chính là bộ nhớ.
Chạy AI trên máy riêng thì luôn an toàn hơn. An toàn hơn về chuyện dữ liệu không rời văn phòng, nhưng máy không được cập nhật bảo mật thì lại thành điểm yếu.
Mua một lần là xong. Mô hình mới ra liên tục và lớn dần; máy hôm nay vừa, vài năm sau có thể chật.
Thuê đám mây luôn đắt hơn. Với nhu cầu không đều, thuê theo giờ thường rẻ hơn để một máy đắt tiền nằm không phần lớn thời gian.
Nhiều card cũ cộng lại bằng một card mới. Không hẳn; chia mô hình qua nhiều card cũ chậm vì phải trao đổi dữ liệu liên tục.
Điện thoại chạy AI là nhờ mạng. Một số tính năng chạy ngay trên máy nhờ bộ xử lý thần kinh, một số gửi lên máy chủ; tuỳ tính năng.
Chip AI chỉ dùng cho chatbot. Chúng chạy cả nhận dạng ảnh, giọng nói, dự báo, khuyến nghị sản phẩm.
Nhiệt độ không quan trọng. Ở khí hậu nóng ẩm, quá nhiệt làm card tự giảm tốc và linh kiện xuống cấp nhanh.
Câu hỏi thường gặp
Laptop không có card rời có chạy AI được không?
Chạy được các dịch vụ AI qua mạng như bình thường, vì việc nặng nằm trên máy chủ. Chạy mô hình ngay trên máy thì chỉ hợp với mô hình rất nhỏ hoặc tính năng nhẹ có sẵn trong hệ điều hành.
Vì sao chip AI hay bị nói là khan hiếm?
Vì nhu cầu huấn luyện và vận hành mô hình lớn tăng nhanh, trong khi sản xuất chip tiên tiến cần dây chuyền rất phức tạp và ít nơi làm được. Mức khan hiếm cụ thể thay đổi theo thời điểm, nên cần theo dõi nguồn tin cập nhật.
NPU trong điện thoại khác GPU thế nào?
NPU là khối nhỏ chuyên cho các phép tính AI, tiết kiệm pin, hợp với việc nhẹ như xử lý ảnh chụp, nhận dạng giọng nói ngắn. GPU linh hoạt hơn và mạnh hơn nhiều nhưng tốn điện hơn.
Trường cấp ba muốn dạy AI có cần phòng máy GPU không?
Không bắt buộc. Phần lớn nội dung nhập môn dạy được bằng máy tính thường và dịch vụ trực tuyến; phòng máy GPU chỉ cần khi học sinh đi sâu vào huấn luyện mô hình.
Mua card đồ hoạ cũ để học AI có nên không?
Có thể là lựa chọn tiết kiệm, nhưng hãy ưu tiên card còn nhiều bộ nhớ và kiểm kỹ tình trạng, vì card từng chạy tải nặng liên tục có thể đã xuống cấp. Nên thử chạy thật trước khi trả tiền.