📄️ Tổng quan dịch vụ GPU trên Kubernetes FPT Cloud
FPT Cloud cung cấp Kubernetes sử dụng GPU NVIDIA có các tính năng chính sau:
📄️ Cài đặt và khởi tạo Cluster Kubernetes sử dụng GPU
⚠️ **Lưu ý:**
📄️ Thay đổi Worker Group sử dụng GPU
**Yêu cầu:**
📄️ Triển khai ứng dụng sử dụng GPU trên Kubernetes
Kubernetes quản lý và sử dụng resources GPU tương tự như sử dụng resources CPU. Tùy vào cấu hình GPU lựa chọn cho Worker
📄️ Hướng dẫn sử dụng GPU Telemetry
FPT Cloud sử dụng Nvidia GPU Telemetry tích hợp với kube-prometheus-stack là bộ công cụ theo dõi và giám sát
📄️ Hướng dẫn sử dụng Autoscaler với GPU
**· Autoscale mức container:**
📄️ Hướng dẫn sử dụng các chế độ GPU sharing
Các chế độ GPU sharing cho phép GPU vật lý được chia sẻ bởi nhiều container nhằm mục đích tối ưu hóa mức độ sử dụng GPU.
📄️ Tăng thêm Worker Group sử dụng GPU
**Yêu cầu:**
📄️ Hướng dẫn cài đặt GPU Driver trên Kubernetes
Người dùng có thể tự cài đặt GPU Driver mong muốn trên cụm FPT Kubernetes Engine tích hợp GPU.
📄️ Hướng dẫn cấu hình Auto Scale sử dụng GPU Custom Metric
Kubernetes hỗ trợ tự động auto scale dựa trên các custom metrics như GPU metrics bằng cách kết hợp với Prometheus. Bài v
📄️ Hướng dẫn cấu hình Auto Scale sử dụng KEDA và Prometheus
Hướng dẫn cấu hình Auto Scale sử dụng KEDA và Prometheus
📄️ FPT Kubernetes Engine với GPU
FPT Kubernetes Engine with GPU trên FPT Cloud hỗ trợ GPU NVIDIA với quản lý tài nguyên tự động.