Khi mô hình AI ngừng nói dối về kết quả

Mọi kỹ sư từng tích hợp tác tử AI (AI agent) vào quy trình thực tế đều ít nhất một lần gặp tình cảnh này: mô hình thông báo đã cập nhật đơn hàng thành công, văn bản phản hồi rất mượt mà, nhưng khi truy vấn lại cơ sở dữ liệu thì không có bản ghi nào được tạo. Lời khẳng định của mô hình và trạng thái thực tế của hệ thống hoàn toàn lệch pha.

Armin Ronacher, tác giả của framework Flask, từng nói một câu đáng suy ngẫm: ngành công nghệ đã tạo ra quá nhiều phần mềm cẩu thả trong ba mươi năm qua, và giờ đây vũ trụ đang trừng phạt chúng ta vì những sai lầm đó. Khi đem các mô hình ngôn ngữ lớn vốn có tính bất định đặt lên trên những hạ tầng phần mềm mong manh, điểm yếu của cả hai bên lập tức lộ rõ. Muốn AI hoạt động bền bỉ trong doanh nghiệp, chúng ta buộc phải thay đổi cách tiếp cận: chuyển từ việc tin vào câu trả lời dạng chữ sang việc kiểm tra sự thay đổi cụ thể trên hệ thống.

Đo lường bằng dữ liệu thực thay vì câu chữ

Vấn đề cốt lõi của việc đánh giá tác tử hiện nay nằm ở chỗ chúng ta quá phụ thuộc vào phản hồi văn bản. Một mô hình có thể giải thích logic rất thuyết phục, viết truy vấn SQL nhìn có vẻ chuẩn xác, nhưng chỉ cần sai một khóa ngoại hoặc vi phạm ràng buộc dữ liệu là toàn bộ tác vụ sụp đổ.

Cách tiếp cận mới được nhóm nghiên cứu của Microsoft công bố trong dự án ThinkingBox giải quyết trực diện điểm mù này. Thay vì đọc chuỗi lập luận của mô hình để chấm điểm, họ để tác tử thao tác trực tiếp trên môi trường thử nghiệm và chỉ đánh giá trạng thái cuối cùng của cơ sở dữ liệu. Kết quả thực thi trong cơ sở dữ liệu - đúng hay sai, khớp bao nhiêu trường - được dùng làm tín hiệu phần thưởng (reward) cho quá trình huấn luyện tăng cường (RL) thông qua thuật toán GRPO.

Kết quả trên mô hình mã nguồn mở Qwen3.8-27B chỉ ra một chuyển dịch đáng chú ý. Chỉ sau 50 bước huấn luyện GRPO với tín hiệu thưởng từ cơ sở dữ liệu, tỷ lệ thành công trung bình tăng từ 51,70% lên 60,78%. Đáng kể hơn, số lượng tác vụ đạt độ ổn định tuyệt đối - tức hoàn thành chính xác ở cả 20 lần thử nghiệm liên tiếp - đã nhảy vọt từ 38 lên 107 tác vụ.

Con số này cho thấy một điều mà giới kỹ thuật thường bỏ quên: việc mô hình làm đúng một lần không quan trọng bằng việc nó làm đúng liên tục. Trong môi trường doanh nghiệp, một tác vụ chạy mười lần mà hỏng hai lần thì vẫn là một quy trình hỏng. Tín hiệu thưởng dựa trên trạng thái cơ sở dữ liệu đã kéo tác tử về với thực tế khách quan, buộc nó phải chọn những đường đi dẫn đến kết quả ghi nhận được, thay vì chỉ cố tạo ra câu trả lời nghe vừa tai người đọc.

Chiếc khung bọc ngoài quyết định độ bền của hệ thống

Khi năng lực cốt lõi của các mô hình nền tảng dần tiệm cận nhau, lợi thế cạnh tranh của sản phẩm AI không còn nằm ở việc chọn mô hình nào lớn nhất. Điểm mấu chốt nằm ở hạ tầng phục vụ (serving harness) bao quanh nó.

Hạ tầng này bao gồm việc quản lý bộ nhớ, lập lịch thực thi, cô lập môi trường và xử lý các điểm nghẽn lưu trữ. Một bài phân tích gần đây trên MIT Technology Review cũng chỉ ra rằng chi phí lưu trữ và độ trễ xuất phát từ dữ liệu ngữ cảnh trong quá trình suy luận đang âm thầm ăn mòn ngân sách vận hành của doanh nghiệp, chứ không chỉ riêng tiền thuê chip GPU. Nếu không có một kiến trúc bọc ngoài đủ vững, việc nhồi nhét ngữ cảnh kinh doanh vào một mô hình khổng lồ chỉ tạo ra sự lãng phí.

Gắn liền với hạ tầng là vấn đề giao thức kết nối. Anthropic vừa chuyển giao chuẩn Agent Skills cho Quỹ Trí tuệ Nhân tạo Tác tử (Agentic AI Foundation - AAIF), trực thuộc Linux Foundation. Đây cũng chính là tổ chức đang tiếp nhận giao thức ngữ cảnh mô hình (Model Context Protocol - MCP) mà Anthropic đồng sáng lập cùng OpenAI và Block.

Động thái đưa Agent Skills và MCP về một tổ chức trung lập cho thấy các đơn vị phát triển hàng đầu đã nhận ra: kỷ nguyên của những plugin đóng kín đã hết thời. Tác tử không thể làm việc độc lập nếu thiếu một chuẩn chung để gọi công cụ, đọc schema cơ sở dữ liệu và tương tác với các API nội bộ. Khi các giao thức này trở thành chuẩn mở của ngành, gánh nặng tương thích của kỹ sư phần mềm sẽ giảm đi đáng kể. Chúng ta không cần viết lại mã kết nối mỗi khi đổi từ nhà cung cấp mô hình này sang nhà cung cấp khác.

Kết hợp nhiều mô hình nhỏ thay vì phụ thuộc một mô hình lớn

Một xu hướng thực dụng khác đang nổi lên trong thiết kế hệ thống là kỹ thuật phối hợp (ensemble) các mô hình chuyên biệt, thay vì cố gắng tìm một mô hình vạn năng duy nhất.

Bộ giải pháp Granite Timeseries Ensemble từ IBM Research minh họa rất rõ cho triết lý này trong bài toán chuỗi thời gian. Dữ liệu công nghiệp thường có độ mượt nhất định, trong khi dữ liệu bán lẻ lại biến động mạnh theo mùa vụ. Một mô hình đơn lẻ hiếm khi xử lý tốt cả hai dạng tín hiệu trên các khung thời gian dài ngắn khác nhau. Thay vì bắt người dùng phải huấn luyện lại hoặc tinh chỉnh trọng số phức tạp, giải pháp của IBM kết hợp bốn mô hình Granite mã nguồn mở thông qua phương pháp thống kê như Probabilistic Ensemble hoặc IQR Ensemble.

Hệ thống trả về các dự báo trung vị và phân vị mà không cần huấn luyện lại bất kỳ trọng số nào. Cách làm này vừa giảm rủi ro dự báo sai lệch từ một mô hình cá lẻ, vừa giúp đội ngũ kỹ thuật triển khai nhanh với chi phí tính toán thấp hơn nhiều so với việc duy trì một mô hình nguyên khối cồng kềnh.

Lối đi thực tế cho kỹ sư phần mềm

Nhìn vào các dịch chuyển trên, có thể rút ra một định hướng rõ ràng cho các nhóm kỹ thuật tại Việt Nam đang xây dựng sản phẩm dựa trên AI:

• Ngừng kiểm thử tác tử bằng mắt thường: Hãy viết kiểm thử tự động (integration test) dựa trên việc truy vấn lại trạng thái cơ sở dữ liệu sau khi tác tử chạy xong. Nếu dữ liệu trong bảng không đổi đúng như kỳ vọng, tác vụ đó phải bị tính là thất bại, bất kể văn bản mô hình trả về có vẻ hoàn hảo đến đâu.
• Xây dựng ranh giới kiểm soát chặt chẽ: Áp dụng các tiêu chuẩn mở như MCP và Agent Skills để chuẩn hóa giao tiếp giữa mô hình và các dịch vụ nội bộ. Không cấp quyền trực tiếp vào cơ sở dữ liệu chính; mọi thao tác phải đi qua các hàm API có xác thực, có giới hạn thời gian chạy và được cô lập trong môi trường tạm thời.
• Tận dụng phối hợp mô hình cục bộ: Với các tác vụ chuyên biệt như phân tích chuỗi thời gian, trích xuất thông tin hay phân loại nghiệp vụ, hãy ưu tiên kết hợp các mô hình chuyên biệt mã nguồn mở thay vì phụ thuộc hoàn toàn vào một API thương mại đắt đỏ.

Thời kỳ thần thánh hóa năng lực tự thân của các mô hình ngôn ngữ lớn đang dần qua đi. Giá trị thực tế của một hệ thống AI lúc này phụ thuộc vào kỷ luật kỹ thuật phần mềm truyền thống: thiết kế kiến trúc chuẩn mực, cơ chế kiểm tra dữ liệu nghiêm ngặt và quy trình xử lý lỗi minh bạch. Mô hình thông minh đến đâu cũng chỉ là một khối tính toán; chiếc khung vững chắc do kỹ sư dựng lên mới là thứ giữ cho hệ thống không sụp đổ khi đưa vào vận hành thực tế.