Khi AI bước vào vận hành: Lối đi không cần đổi trọng số mô hình

Một mô hình GPT-4.1 cũ kỹ, không có cơ chế suy luận phức tạp, kết hợp với khung tác nhân ReAct cơ bản, vừa vươn lên dẫn đầu bảng xếp hạng τ²-bench trong tác vụ dịch vụ khách hàng ngành bán lẻ. Kết quả này đến từ nghiên cứu ALTK-Evolve của nhóm IBM Research. Điều đáng nói là họ không hề can thiệp vào trọng số mô hình, không fine-tuning, cũng không cần đến những mô hình suy luận thế hệ mới nhất. Cùng thời điểm, một đối tác nhượng quyền của chuỗi Schlotzsky’s và Cinnabon ghi nhận mức giảm 94% thời gian đối soát tiền mặt và 95% thời gian cập nhật giá thực đơn chỉ bằng cách thiết lập luồng xử lý dữ liệu với ChatGPT Work, giải phóng tiềm năng tới 100.000 USD dòng tiền lưu động.

Những chuyển động này đặt ra một câu hỏi thực tế cho giới kỹ thuật: bấy lâu nay chúng ta có đang dồn quá nhiều nguồn lực vào việc chạy đua mô hình nền tảng mới nhất, trong khi lời giải cho bài toán vận hành lại nằm ở chỗ khác?

Bộ nhớ quy trình thay thế việc tinh chỉnh mô hình

Khuynh hướng phổ biến của nhiều nhóm kỹ thuật khi gặp bài toán khó là tìm cách fine-tune mô hình hoặc chờ đợi một phiên bản mô hình lớn hơn. Tuy nhiên, thí nghiệm của IBM với ALTK-Evolve cho thấy một hướng đi thực dụng hơn nhiều: bổ sung bộ nhớ quy trình (learned memory) theo dạng tài liệu hướng dẫn (playbook).

Hệ thống ghi nhận lại các tương tác trong quá khứ, tự rút ra các nguyên tắc xử lý tình huống rồi nạp ngược lại vào ngữ cảnh của tác nhân khi gặp trường hợp tương tự. Tác nhân ReAct dựa trên GPT-4.1 sau khi được trang bị bộ quy tắc này đã vượt qua các đối thủ sừng sỏ trên bảng đánh giá τ²-bench - vốn là thước đo đòi hỏi sự tuân thủ nghiêm ngặt các chính sách dịch vụ khách hàng.

Sự cải thiện này không đến miễn phí. Bản chất kỹ thuật ở đây là sự đánh đổi về tài nguyên tính toán: hiệu năng cao hơn đòi hỏi tiêu tốn nhiều token hơn trong mỗi lượt gọi API, chứ không làm tăng số lượt tương tác qua lại giữa hệ thống và người dùng. Khi tác nhân phải đọc một tập quy tắc chi tiết trước khi đưa ra quyết định, chi phí suy luận trên mỗi prompt sẽ tăng lên. Nhưng bù lại, độ chính xác tăng vọt mà không cần chuẩn bị tập dữ liệu huấn luyện công phu hay chịu rủi ro quên kiến thức cũ vốn rất phổ biến khi can thiệp vào trọng số mô hình.

Cách tiếp cận này giải thích lý do vì sao một doanh nghiệp nhượng quyền F&B như đơn vị vận hành Schlotzsky’s có thể tự động hóa khâu đối soát tiền mặt và định giá lại sản phẩm nhanh chóng. Họ không cần đào tạo mô hình riêng cho ngành nhà hàng. Giá trị thực tế nằm ở việc chuẩn hóa quy trình nội bộ thành các chỉ dẫn ngữ cảnh đủ rõ ràng để mô hình xử lý dữ liệu bảng biểu và đưa ra kết quả nhất quán.

Khi bài toán quyết định cần nhiều hơn một câu trả lời đúng

Dù bộ nhớ quy trình giúp giải quyết bài toán nghiệp vụ thông thường, việc giao quyền ra quyết định tự động cho AI trong các tác vụ nhạy cảm lại vấp phải một rào cản vô hình khác: tính ổn định của quyết định.

Allen Institute for AI vừa công bố FairStress - bộ tiêu chuẩn đánh giá được tích hợp vào công cụ Olmo-eval - nhằm đo lường tính công bằng nhân khẩu học của các mô hình ngôn ngữ lớn vượt ra ngoài câu trả lời cuối cùng. Các phương pháp đánh giá thông thường chỉ kiểm tra xem khi hoán đổi danh tính (giới tính, sắc tộc, xuất thân) của hai ứng viên có năng lực tương đương trong hồ sơ tuyển dụng hay duyệt vay, mô hình có chọn cùng một người hay không.

Thực tế phức tạp hơn nhiều. FairStress kiểm tra sâu hơn vào độ bền đối xứng (symmetric robustness) trong suốt quá trình cân nhắc của mô hình. Dữ liệu thực nghiệm chỉ ra rằng, ngay cả khi kết quả cuối cùng có vẻ bình đẳng, cấu trúc lập luận và mức độ tự tin của mô hình vẫn dao động mạnh chỉ vì vài chi tiết nhân khẩu học bị thay đổi.

Điều này gián tiếp cảnh báo các kỹ sư đang xây dựng tác nhân tự động: một tác nhân có thể đạt điểm số rất cao trong các bài kiểm tra nghiệp vụ khép kín, nhưng khi đưa vào môi trường thực tế với dữ liệu người dùng đa dạng, logic nội tại của nó có thể bị bẻ cong theo những cách rất khó nhận biết nếu chỉ nhìn vào kết quả trả về.

Nền móng bảo mật mong manh dưới chân các tác nhân

Một hệ thống tác nhân AI hoàn chỉnh không thể đứng biệt lập. Nó phải gọi API, tải thư viện, truy vấn cơ sở dữ liệu và tương tác với môi trường bên ngoài. Và chính tại tầng hạ tầng cơ bản nhất, một sự cố nghiêm trọng vừa xuất hiện nhắc nhở chúng ta về sự mỏng manh của chuỗi cung ứng phần mềm.

Khóa riêng tư của 8 chứng chỉ trung gian thuộc nhà cung cấp chứng thực số eMudhra đã bị lộ lọt. Điều nguy hiểm là các chứng chỉ này liên kết trực tiếp về các chứng chỉ gốc (root CA) được tin cậy mặc định bởi các hệ điều hành và trình duyệt phổ biến như Mozilla, Microsoft, Apple và Google Chrome.

Hệ quả kỹ thuật lập tức lan sang môi trường của các kỹ sư:

Các kho phân phối Linux phải cập nhật khẩn cấp gói ca-certificates.
Trình quản lý gói Python uv phải phát hành bản vá 0.13.4 để loại bỏ danh sách chứng chỉ nhiễm độc.
Công cụ pip phải nâng lên phiên bản 26.2.2.
Thư viện xử lý chứng chỉ cốt lõi certifi buộc phải ra mắt bản cập nhật 2026.10.19.

Nếu một kỹ sư đang vận hành một tác nhân tự động thu thập dữ liệu hoặc gửi lệnh thanh toán qua mạng, nhưng môi trường chạy mã nguồn (runtime) chưa kịp cập nhật các bản vá chứng chỉ nói trên, toàn bộ lưu lượng HTTPS của tác nhân đó có nguy cơ bị tấn công xen giữa (man-in-the-middle). Kẻ tấn công có thể can thiệp vào dữ liệu đầu vào của mô hình hoặc đánh chặn các phản hồi API mà không để lại bất kỳ cảnh báo bảo mật nào trên giao diện ứng dụng.

Lựa chọn thực tế cho kỹ sư phần mềm

Sự đan xen giữa ba câu chuyện trên cho thấy một hướng đi rõ ràng cho các nhóm kỹ thuật đang ứng dụng AI tại Việt Nam:

Thứ nhất, hãy ngừng ưu tiên việc fine-tune mô hình cục bộ trừ khi thật sự bắt buộc. Thay vì tốn kém tài nguyên tính toán và nhân lực gán nhãn dữ liệu, việc thiết kế một kiến trúc tác nhân có khả năng tự tích lũy hướng dẫn (playbook) và đưa vào ngữ cảnh đúng lúc mang lại tỷ suất hoàn vốn cao hơn nhiều. Chấp nhận chi phí token đầu vào cao hơn trên mỗi truy vấn thường vẫn rẻ hơn rất nhiều so với việc duy trì hạ tầng huấn luyện và phục vụ mô hình tùy chỉnh.

Thứ hai, khi xây dựng các tác nhân tham gia vào khâu phê duyệt hoặc đánh giá con người, việc kiểm thử đơn thuần bằng các cặp input-output mẫu là không đủ an toàn. Cần đưa kỹ thuật kiểm thử hoán đổi đối xứng (như cách FairStress đang làm) vào quy trình kiểm thử tự động (CI/CD) để phát hiện sớm các thiên lệch tiềm ẩn trước khi đưa ra người dùng cuối.

Sau cùng, một tác nhân thông minh không thể bù đắp cho một hạ tầng mạng lỏng lẻo. Tự động hóa ở tầng ứng dụng phải luôn đi kèm với kỷ luật cập nhật ở tầng hệ thống. Các kỹ sư cần rà soát lại ngay các container base image, phiên bản pip, uv và danh sách CA nội bộ trong hệ thống của mình. Đôi khi, lỗ hổng chí mạng khiến một hệ thống AI sụp đổ không nằm ở prompt hay thuật toán, mà nằm ở một chứng chỉ mạng bị bỏ quên từ nhiều tháng trước.