SkyPilot hợp tác Hugging Face: chạy AI trên cloud bất kỳ mà không tốn phí chuyển dữ liệu

Hợp tác giải quyết vấn đề cước phí chuyển dữ liệu

SkyPilot và Hugging Face vừa công bố hợp tác chặt chẽ để đưa lưu trữ Hub thành một backend lưu trữ hạng nhất trong SkyPilot, cho phép các nhóm AI chạy công việc compute (huấn luyện, phục vụ model, phát triển) trên bất kỳ đám mây nào mà không cần lo lắng về chi phí chuyển dữ liệu ra ngoài. Bài toán này từ lâu đã cản trở các đội làm việc với AI: mô hình và tập dữ liệu thường nằm trong bucket lưu trữ của một cloud, còn GPU khả dụng lại nằm trên cloud khác, buộc họ phải trả phí egress (thường khoảng $0,09/GB từ AWS) chỉ để đọc dữ liệu của chính họ.

Cách hoạt động và các tính năng cụ thể

Cách triển khai rất đơn giản: người dùng chỉ cần gắn kho Hugging Face Bucket hoặc bất kỳ repo mô hình/tập dữ liệu nào vào tác vụ SkyPilot bằng một URL hf:// duy nhất và token HF_TOKEN đã có. Ví dụ, để huấn luyện mô hình Qwen3.5-4B, file cấu hình YAML có thể chỉ định:

`` /base-model: source: hf://Qwen/Qwen3.5-4B store: hf mode: MOUNT /data: source: hf://datasets/my-org/my-dataset@main store: hf mode: MOUNT ``

Khi đó, SkyPilot sẽ tìm GPU khả dụng trên 20+ đám mây, Kubernetes, Slurm hoặc on-prem, rồi chạy công việc đó ở nơi có GPU sẵn. Dữ liệu lại được đọc từ cùng một bucket Hugging Face, không cần sao chép per-cloud và không phát sinh phí egress. Backend gắn kết sử dụng FUSE (hf-mount), làm cho bucket hoặc repo xuất hiện như một đường dẫn cục bộ, tương tự như các backend khác của SkyPilot (gcsfuse, blobfuse2, rclone). Khi code thực hiện một lệnh read(), driver chỉ lấy đúng những byte cần thiết từ backend Xet, giảm thiểu dữ liệu truyền qua mạng. SkyPilot giữ một cache trên đĩa, nên lần đọc tiếp theo sẽ nhanh hơn. Vì đọc là lazy (lười biếng), một tiến trình có thể bắt đầu xử lý một file lớn trước khi toàn bộ file được tải xuống, giữ cho GPU bận rộn ngay lập tức thay vì chờ sao chép hoàn toàn trước — đặc biệt quan trọng ở epoch đầu tiên khi chưa có cache nào.

Bối cảnh ngành và hiệu ứng chi phí

Vấn đề egress đã trở thành nút thắt thực tế cho các đội AI. Object storage thường là regional và per-cloud, nên khi GPU nằm ở data center của vendor khác, đội phải giữ bản sao dữ liệu ở mỗi vendor hoặc chịu chi phí kéo dữ liệu qua. AWS S3 tính phí khoảng $23/TB mỗi tháng cộng với chi phí egress, trong khi Hugging Face Storage chỉ tính $12-18/TB mỗi tháng mà KHÔNG tính phí egress hay CDN. Vì vậy, cách tiếp cận truyền thống buộc các đội phải "ghim" từng công việc vào vendor nơi dữ liệu nằm, bỏ bê dung lượng GPU dự trữ hoặc committed ở vendor khác — lãng phí cơ sở hạ tầng đã trả tiền. Hiện nay, nhiều đội lớn giữ dung lượng dự trữ trên nhiều vendor cùng một lúc (một block ở hyperscaler, một cluster ở neocloud, có thể cả một giá ở on-prem) nhưng không dùng hết do ràng buộc về vị trí dữ liệu.

Ý nghĩa và tác động

Giải pháp này cho phép các nhóm AI chọn compute linh hoạt hơn, giảm chi phí chạy trực tiếp. Hugging Face loại bỏ phí egress ở phía đọc — vốn là nơi chi phí tập trung nhất trong AI: một tập dữ liệu được stream qua nhiều epoch, hoặc trọng số mô hình kéo xuống mỗi node huấn luyện hoặc phục vụ mới. Phí ghi thì vẫn tính từ cloud nơi compute chạy (như bất kỳ kho ngoài), nhưng cho hầu hết công việc AI, read chiếm ưu thế. Một điểm khác: SkyPilot đã chạy thử trên AWS, GCP, và Lambda cùng một YAML, chỉ thay đổi tham số --infra, và cả ba đều đọc-ghi cùng bucket mà không vấn đề. Với Hugging Face đã là platform hàng đầu cho mô hình mã nguồn mở, không cần di chuyển dữ liệu và tài khoản lưu trữ mới — tích hợp trực tiếp vào workflow hiện tại của đội.