SkyPilot hợp tác Hugging Face: chạy AI trên cloud bất kỳ mà không phát sinh chi phí chuyển dữ liệu

Hợp tác giải quyết vấn đề cước phí chuyển dữ liệu

SkyPilot và Hugging Face vừa công bố hợp tác chặt chẽ để đưa lưu trữ Hub thành một backend lưu trữ hạng nhất trong SkyPilot, cho phép các nhóm AI chạy công việc compute (huấn luyện, phục vụ mô hình, phát triển) trên bất kỳ đám mây nào mà không cần lo lắng về chi phí truyền dữ liệu ra ngoài. Bài toán này từ lâu đã cản trở các đội làm việc với AI: mô hình và tập dữ liệu thường nằm trong bucket lưu trữ của một cloud, còn GPU khả dụng nằm ở cloud khác, buộc họ phải trả phí egress (thường khoảng $0,09/GB từ AWS) chỉ để đọc dữ liệu của chính họ.

Cách hoạt động và các tính năng cụ thể

Cách triển khai rất đơn giản: người dùng chỉ cần gắn Bucket Hugging Face hoặc bất kỳ repo mô hình/tập dữ liệu nào vào công việc SkyPilot bằng một URL hf:// duy nhất và token HF_TOKEN đã có. Ví dụ, để huấn luyện mô hình Qwen3.5-4B, file cấu hình YAML có thể chỉ định:

`` /base-model: source: hf://Qwen/Qwen3.5-4B store: hf mode: MOUNT /data: source: hf://datasets/my-org/my-dataset@main store: hf mode: MOUNT ``

Khi đó, SkyPilot sẽ tìm GPU khả dụng trên 20+ đám mây, Kubernetes, Slurm hoặc on-prem, rồi chạy công việc đó ở nơi có GPU sẵn. Dữ liệu được đọc từ cùng một bucket Hugging Face, không cần sao chép cho mỗi cloud và không phát sinh phí egress. Backend gắn kết này sử dụng FUSE (hf-mount), làm cho bucket hoặc repo xuất hiện như một đường dẫn cục bộ, tương tự như các backend khác của SkyPilot (gcsfuse, blobfuse2, rclone). Khi code thực hiện một lệnh read(), driver chỉ lấy đúng những byte cần thiết từ backend này, giảm thiểu dữ liệu truyền qua mạng. SkyPilot giữ một cache trên đĩa, nên lần đọc tiếp theo sẽ nhanh hơn. Vì đọc là lazy (tải theo yêu cầu), một tiến trình có thể bắt đầu xử lý một file lớn trước khi toàn bộ file được tải xuống, giữ cho GPU bận rộn ngay lập tức thay vì chờ sao chép hoàn toàn — đặc biệt quan trọng ở epoch đầu tiên khi chưa có cache nào.

Bối cảnh ngành và hiệu ứng chi phí

Vấn đề egress đã trở thành nút thắt thực tế cho các đội AI. Object storage thường là regional và dành riêng cho từng cloud, nên khi GPU nằm ở data center của vendor khác, đội phải giữ bản sao dữ liệu ở mỗi vendor hoặc chịu chi phí truyền dữ liệu qua. AWS S3 tính phí khoảng $23/TB mỗi tháng cộng với chi phí egress, trong khi Hugging Face Storage chỉ tính $12-18/TB mỗi tháng mà không tính phí egress hay CDN. Vì vậy, cách tiếp cận truyền thống buộc các đội phải "ghim" từng công việc vào vendor nơi dữ liệu nằm, để không sử dụng dung lượng GPU dự trữ hoặc committed ở vendor khác — lãng phí cơ sở hạ tầng đã trả tiền. Hiện nay, nhiều đội lớn giữ dung lượng dự trữ trên nhiều vendor cùng một lúc (một khối ở hyperscaler, một cluster ở neocloud, có thể cả một cụm ở on-prem) nhưng không dùng hết do ràng buộc về vị trí dữ liệu.