Kỹ sư OpenAI cảnh báo: Dùng "đàn" AI agent chỉ làm tốn tiền token chứ không tăng chất lượng

Lời cảnh tỉnh từ nhà phát triển OpenAI Codex

Eric Provencher, lập trình viên thuộc nhóm phát triển Codex tại OpenAI, vừa lên tiếng cảnh báo cộng đồng công nghệ về xu hướng lạm dụng các mô hình đa tác tử (agentic workflows). Trong các bài đăng trên mạng xã hội X, ông cho rằng việc triển khai các "đàn" AI agent (agent swarms) chạy song song thường tạo ra sự lãng phí tài nguyên khổng lồ mà gần như không mang lại bất kỳ giá trị gia tăng nào về mặt chất lượng.

Cái bẫy "thuế điều phối" và câu chuyện đốt 20.000 USD cho một tệp mã nguồn

Theo Provencher, việc vận hành nhiều hơn hai sub-agent (agent phụ) cùng lúc gần như chắc chắn sẽ "đốt" một lượng lớn token vô ích. Vấn đề nằm ở chỗ các agent không hề tin tưởng lẫn nhau, dẫn đến tình trạng chúng liên tục "kiểm tra chéo bài tập về nhà của nhau" thay vì tập trung xử lý công việc.

Provencher gọi hiện tượng này là "thuế điều phối" (coordination tax). Ông nhấn mạnh rằng việc duy trì quá nhiều luồng xử lý song song là cực kỳ phức tạp, hệ thống rất dễ rơi vào vòng luẩn quẩn và tiêu tốn tài nguyên cho các bước xác thực dư thừa.

Để chứng minh cho nhận định của mình, Provencher dẫn chứng một trường hợp thực tế khi một dự án tiêu tốn tới 20.000 USD tiền token chỉ để tái cấu trúc (refactor) duy nhất một tệp Python bằng cách huy động 1.393 agent Fable. Ông nhận định rằng một agent Astra đơn lẻ hoàn toàn có thể hoàn thành công việc đó với chi phí chỉ bằng một phần rất nhỏ. Dù mô hình bầy đàn agent có thể tạo cảm giác tiết kiệm thời gian, nhưng chi phí phát sinh từ token thực chất lại là một "cái bẫy".

Nguyên nhân gây lãng phí và giải pháp thay thế

Phân tích sâu hơn về kỹ thuật, Provencher chỉ ra rằng chi phí token bị đội lên còn do các prompt hệ thống (system prompts) bị lặp lại liên tục trên từng sub-agent. Bên cạnh đó, khi không được cung cấp đầy đủ ngữ cảnh, các agent này thường xuyên thực hiện các lệnh gọi công cụ (tool calls) trùng lặp. Ông đồng tình rằng "sự trùng lặp nỗ lực chắc chắn là vấn đề nghiêm trọng nhất".

Để giải quyết tình trạng này, Provencher gợi ý các nhà phát triển nên chuyển sang cơ chế ủy quyền tác vụ cho các luồng (thread) riêng biệt. Các luồng này sẽ chỉ gửi thông báo ngược lại cho agent chính sau khi đã hoàn thành xong nhiệm vụ, thay vì bắt agent chính phải liên tục thăm dò trạng thái (polling). Nhà phát triển này cũng thẳng thắn thừa nhận OpenAI vẫn cần phải nghiên cứu và cung cấp các giải pháp tối ưu hơn để giải quyết triệt để bài toán điều phối agent trong tương lai.