Cuộc chạy đua AI của doanh nghiệp: Mua cơ sở hạ tầng nhanh hơn khả năng kiểm soát chi phí

Tốc độ đầu tư vượt xa khả năng kiểm soát

Một nghiên cứu mới của VentureBeat trên 107 doanh nghiệp lớn (từ 100 nhân viên trở lên) vừa phơi bày một mâu thuẫn đáng lo ngại trong cách các tổ chức tiếp cận công nghệ AI: họ đang mua cơ sở hạ tầng xử lý AI với tốc độ quá nhanh so với khả năng đo lường và kiểm soát chi phí thực tế. Hiện tượng này được nhận xét là "khoảng cách tính toán AI" — một bất cân đối nguy hiểm giữa tốc độ đầu tư và mức độ minh bạch về chi phí. Điều này là lời cảnh báo rõ ràng rằng mặc dù các doanh nghiệp rất quan tâm tới AI, nhưng chiến lược triển khai của họ vẫn còn thiếu sự chuẩn bị và quản lý chi phí kỹ lưỡng.

Hiện trạng: Chủ yếu vẫn là giai đoạn thử nghiệm

Một trong những phát hiện đáng chú ý nhất là mức độ trưởng thành của triển khai AI trong các doanh nghiệp còn rất sơ khai. Chỉ 21% số công ty được khảo sát đang chạy AI ở quy mô production đầy đủ, trong khi 76% vẫn đang ở giai đoạn thử nghiệm hoặc chỉ chạy một số ứng dụng AI nhất định. Bất chấp mức độ trưởng thành thấp này, kế hoạch chi tiêu của họ lại phát triển nhanh chóng — một tín hiệu cho thấy chi phí AI sắp tăng vọt, nhưng các tổ chức hiện chưa có cơ sở hạ tầng hoặc quy trình quản lý chi phí sẵn sàng.

Về lựa chọn nhà cung cấp, hiện tại các doanh nghiệp chủ yếu dựa vào những người chơi quen thuộc — các công ty công nghệ siêu khổng lồ và các API cung cấp mô hình. Google Cloud dẫn đầu với 48%, và khi cộng gộp các nền tảng đám mây chung (Google, Microsoft, AWS, Oracle) cùng các API mô hình chính (Gemini, OpenAI, Anthropic), họ chiếm gần như 100% số lượng triển khai hiện tại. Những nhà cung cấp GPU chuyên biệt mới nổi — CoreWeave, Lambda, Crusoe, Nebius và những người khác — hiện gần như không được sử dụng. Chỉ 6% doanh nghiệp chạy cluster GPU riêng tại chỗ, và 4% sử dụng stack open-source tùy chỉnh.

Thế nhưng, trong 12 tháng tới, 45% kế hoạch đánh giá các nền tảng đám mây chuyên biệt cho AI — một bước ngoặt lớn so với thực trạng hiện tại. Thậm chí cao hơn: 64% có kế hoạch chuyển hoặc thêm nhà cung cấp cơ sở hạ tầng trong vòng 12 tháng, và 38% có ý định làm như vậy trong vòng 3 tháng tới.

Thách thức chi phí và hiệu suất: GPU chạy nửa tải nhưng chi phí vẫn bí ẩn

Vấn đề trở nên rõ ràng khi nhìn vào hiệu quả sử dụng tài nguyên hiện tại. Tới 83% doanh nghiệp báo cáo mức độ sử dụng GPU đạt 50% hoặc thấp hơn — một con số đáng lo ngại cho những khoản đầu tư lớn. Điều này có nghĩa là phần lớn cơ sở hạ tầng GPU đang chạy "mát lạnh", không được tận dụng hết công suất. Tệ hơn nữa, chỉ 44% doanh nghiệp có thể chính xác theo dõi chi phí AI của mình. Phần lớn đang "mù tối" về chi phí tính toán thực tế.

Khi các doanh nghiệp quyết định thay đổi hoặc thêm nhà cung cấp, tiêu chí của họ không phải là giá token rẻ nhất. Thay vào đó, 41% ưu tiên khả năng tích hợp với hệ thống hiện tại, 35% nhấn mạnh tổng chi phí sở hữu (TCO), còn chỉ 8% quyết định dựa trên giá cost per million tokens. Điều này cho thấy các doanh nghiệp nhận thức được rằng chi phí tổng thể có nhiều khía cạnh hơn là giá công khai.

Một rủi ro khác mà hầu hết chưa chủ động xử lý là sự chuyển dịch từ tính toán GPU sang bandwidth bộ nhớ khi inference (suy luận) mở rộng quy mô. Chỉ khoảng 1/5 doanh nghiệp hoặc biết về điều này hoặc đang chủ động đối ứng.

Bài học cho thị trường toàn cầu

Nghiên cứu này phản ánh trạng thái "non nớt" của thị trường AI toàn cầu. Ngay cả các doanh nghiệp có quy mô và nguồn lực nhất định cũng chưa có "best practice" rõ ràng về cách quản lý chi phí AI hay lựa chọn đúng nhà cung cấp. Tỷ lệ churn intent cao (38% trong 3 tháng) cho thấy sự chưa hài lòng về giá trị và hiệu suất hiện tại, nhưng thiếu hướng dẫn rõ ràng cho hướng đi tiếp theo.

Với độc giả Việt Nam, đây là tín hiệu quan trọng: các startup và doanh nghiệp địa phương muốn áp dụng AI không nên chỉ theo "trend" mà cần xây dựng khả năng theo dõi chi phí từ bước đầu. Nếu thậm chí những tổ chức lớn cũng đang vật lộn với visibility chi phí, thì việc có một chiến lược quản lý chi phí rõ ràng từ khi triển khai sẽ trở thành lợi thế cạnh tranh đáng kể.