Đưa mô hình AI trăm tỷ tham số về góc bàn làm việc

Hai chiếc Mac Studio nối với nhau trên một góc bàn làm việc vừa chạy mượt một mô hình 816 tỷ tham số. Con số này không đến từ một thử nghiệm ép xung trong phòng thí nghiệm trường đại học, mà là thông tin phát hành chính thức cho Muse Spark Open - mô hình trọng số mở vừa được Meta bắt tay cùng Apple tối ưu hóa. Hai cỗ máy trang bị chip M5 Ultra chia sẻ chung 1TB bộ nhớ hợp nhất qua bộ công cụ MLX, tự sửa lỗi ứng dụng iOS và dựng phim trên DaVinci Resolve hoàn toàn cục bộ, không gửi một gói tin nào ra ngoài Internet.

Sự kiện này đánh dấu một bước chuyển mà giới kỹ thuật cần nhìn nhận nghiêm túc: ranh giới giữa cụm máy chủ đám mây nghìn tỷ và góc bàn làm việc của kỹ sư đang bị kéo lại gần hơn bao giờ hết. Khi chi phí thuê hạ tầng điện toán đám mây đè nặng lên bảng cân đối kế toán và nỗi lo lộ lọt dữ liệu kìm chân các dự án đưa AI vào vận hành thực tế, việc sở hữu và tự chạy mô hình lớn tại chỗ không còn là câu chuyện viển vông.

Lựa chọn phần cứng: Cụm máy chủ đám mây hay máy trạm để bàn?

Nhiều năm qua, quy trình đưa mô hình ngôn ngữ lớn vào doanh nghiệp gần như mặc định: gọi API của các nhà cung cấp lớn, hoặc thuê cụm GPU H100 với hóa đơn hàng chục nghìn USD mỗi tháng. Với các mô hình từ vài trăm tỷ tham số trở lên, phương án chạy trên phần cứng doanh nghiệp tự trang bị gần như bị gạt phắt khỏi bàn thảo luận vì chi phí đầu tư thiết bị quá lớn và bài toán tản nhiệt, điện năng phức tạp.

Việc Meta đưa Spark Open chạy trên kiến trúc bộ nhớ hợp nhất của Mac Studio đem lại một phép tính kinh tế khác. Spark Open đạt 39 điểm trên bảng xếp hạng trí tuệ của Artificial Analysis, vượt qua các mô hình trọng số mở hiện có tại phương Tây. Dù con số này vẫn xếp sau một số đại diện từ Trung Quốc như GLM 5.3 (45 điểm), Kimi K3 (44 điểm) hay Qwen3.8 (40 điểm) - nhất là ở năng lực viết mã nguồn - nhưng việc một mô hình 816 tỷ tham số có thể chạy trên hai máy trạm để bàn nhỏ gọn đã thay đổi hoàn toàn bài toán triển khai tại chỗ.

Kiến trúc bộ nhớ hợp nhất (unified memory) cho phép CPU và GPU dùng chung một không gian nhớ khổng lồ mà không vấp phải nút thắt cổ chai băng thông PCIe truyền thống giữa RAM máy chủ và VRAM đồ họa. Với những doanh nghiệp có dữ liệu nhạy cảm như ngân hàng, y tế hay các cơ quan chính phủ, việc đặt hai máy trạm ngay trong phòng máy nội bộ để xử lý công việc nhạy cảm đem lại mức độ an toàn mà không một bản cam kết bảo mật đám mây nào bì kịp.

Nút thắt dữ liệu bản địa và bài học từ 2,8 nghìn tỷ token của Ấn Độ

Chạy được mô hình trên máy trạm chỉ giải quyết được nửa đầu của bài toán: năng lực tính toán. Nửa còn lại - cũng là phần khiến nhiều dự án nội địa hóa tại Việt Nam đuối sức - nằm ở chất lượng dữ liệu huấn luyện. Nếu chỉ lấy mô hình gốc nói tiếng Anh rồi tinh chỉnh (fine-tune) bằng vài nghìn mẫu dữ liệu dịch thô, mô hình sẽ phản hồi ngô nghê, sai lệch ngữ cảnh văn hóa và nhanh chóng bộc lộ khiếm khuyết trong các tác vụ phức tạp.

Ấn Độ vừa đưa ra một lời giải mẫu mực cho bài toán này. NVIDIA và tổ chức AI4Bharat vừa công bố tập dữ liệu Nemotron-pretraining-Indic-v1 với quy mô xấp xỉ 2,8 nghìn tỷ token, bao phủ 22 ngôn ngữ chính thức của quốc gia này. Đây là các ngôn ngữ mẹ đẻ của gần 1,4 tỷ dân. Điểm đáng chú ý nhất không nằm ở con số 2,8 nghìn tỷ token, mà nằm ở quy trình sinh và lọc dữ liệu tăng tốc hoàn toàn bằng GPU được họ mở mã nguồn công khai.

Quy trình này giải quyết ba việc then chốt:

• Tự động chuyển đổi tài liệu nguồn sang ngôn ngữ bản địa theo ngữ cảnh tự nhiên thay vì dịch từng từ theo nghĩa đen.
• Dùng mô hình chuyên biệt để đánh giá chất lượng văn bản theo thang điểm khắt khe, loại bỏ rác mạng và lỗi ngữ pháp ngay trên luồng xử lý.
• Tự động sửa chữa các câu văn què cụt, đảm bảo định dạng văn bản bản địa chuẩn xác trước khi đưa vào tập huấn luyện tiếp tục (continued pretraining).

Nhìn về bài toán tiếng Việt, cộng đồng công nghệ trong nước vẫn đang loay hoay giữa hai thái cực: hoặc dùng lại tập dữ liệu Common Crawl nhiều rác, hoặc dịch máy hàng loạt từ các bộ dữ liệu tiếng Anh mà thiếu khâu thẩm định tự động ở quy mô lớn. Cách làm của AI4Bharat và NVIDIA chứng minh rằng nếu không đầu tư bài bản vào đường ống xử lý dữ liệu bản địa, chúng ta sẽ mãi phụ thuộc vào mô hình nền tảng của nước ngoài với vốn từ vựng và tư duy ngoại lai.

Đưa mô hình vào thực tế: Khung quản trị quan trọng hơn prompt hay

Sau khi có mô hình mạnh và dữ liệu tốt, bài toán khó nhất của kỹ sư hệ thống mới thực sự bắt đầu: làm sao để mô hình vận hành ổn định trong môi trường chịu sự giám sát ngặt nghèo của pháp luật?

Kinh nghiệm từ Itaú Unibanco - ngân hàng lớn nhất Brazil - là một trường hợp đáng để các kỹ sư doanh nghiệp tham khảo. Hoạt động trong lĩnh vực tài chính ngân hàng vốn nổi tiếng khắt khe về bảo mật và tuân thủ, Itaú không vội vàng tung ra một chatbot tự do. Thay vào đó, họ xây dựng song song hai thành phần: giao diện tương tác thông minh ia.i cho người dùng cuối và nền tảng quản trị IARA cho nội bộ.

IARA đóng vai trò như một trạm kiểm soát trung tâm. Mọi câu lệnh, luồng dữ liệu khách hàng và kết quả phản hồi đều phải đi qua các bộ lọc kiểm soát rủi ro, bảo vệ dữ liệu định danh và lưu vết kiểm toán (audit trail). Nhờ có tầng quản trị này, ngân hàng mới có thể tự tin áp dụng chiến lược ưu tiên AI trên diện rộng cho hàng chục triệu khách hàng lẫn nhân viên mà không vi phạm các quy định bảo mật ngân hàng ngặt nghèo.

Nhiều đội ngũ kỹ thuật tại Việt Nam hiện nay thường dồn phần lớn thời gian để tối ưu prompt hoặc tinh chỉnh RAG (Retrieval-Augmented Generation), nhưng lại bỏ quên tầng quản trị hệ thống. Khi một mô hình trả lời sai một điều khoản vay tín dụng hoặc làm lộ số dư tài khoản của khách hàng, cái giá phải trả không đơn thuần là một lỗi phần mềm (bug) có thể vá vào ngày hôm sau, mà là giấy phép hoạt động và uy tín của cả tổ chức.

Hướng đi thực tế cho kỹ sư công nghệ trong nước

Bức tranh công nghệ hiện tại đang gửi đi một tín hiệu rõ ràng: thời kỳ thử nghiệm mô hình theo kiểu gọi API đơn giản để làm tính năng biểu diễn đã qua. Thị trường bắt đầu đòi hỏi những giải pháp chạy thật, chịu tải thật và an toàn tuyệt đối.

Với các kỹ sư và kiến trúc sư hệ thống tại Việt Nam, đây là thời điểm thích hợp để điều chỉnh trọng tâm công việc. Thay vì chờ đợi ngân sách triệu đô để dựng cụm GPU máy chủ, các nhóm nghiên cứu hoàn toàn có thể tận dụng kiến trúc máy trạm bộ nhớ lớn để chạy thử nghiệm các mô hình mở từ 70 tỷ đến vài trăm tỷ tham số ngay trong mạng nội bộ. Việc này giúp tiết kiệm chi phí thử nghiệm và bảo vệ tài sản trí tuệ của công ty.

Song song với đó, việc xây dựng các công cụ làm sạch và kiểm định dữ liệu tiếng Việt chuyên sâu theo hướng tự động hóa - học hỏi từ mô hình đường ống dữ liệu của NVIDIA - cần được ưu tiên hơn việc cố gắng huấn luyện một mô hình từ đầu. Cuối cùng, hãy bắt tay vào viết các bộ lọc kiểm soát hành vi mô hình (guardrails) và hệ thống ghi vết kiểm toán ngay từ dòng mã đầu tiên của dự án. Một hệ thống AI bền vững trong doanh nghiệp không nằm ở việc nó trả lời hoa mỹ đến đâu, mà nằm ở việc nó biết dừng lại đúng lúc trước những dữ liệu nhạy cảm.