FPT Kubernetes Engine with GPU | FPT Cloud Documentation

📄️ Tổng quan dịch vụ GPU trên Kubernetes FPT Cloud

FPT Cloud cung cấp Kubernetes sử dụng GPU NVIDIA có các tính năng chính sau:

⚠️ **Lưu ý:**

**Yêu cầu:**

Kubernetes quản lý và sử dụng resources GPU tương tự như sử dụng resources CPU. Tùy vào cấu hình GPU lựa chọn cho Worker

FPT Cloud sử dụng Nvidia GPU Telemetry tích hợp với kube-prometheus-stack là bộ công cụ theo dõi và giám sát

**· Autoscale mức container:**

Các chế độ GPU sharing cho phép GPU vật lý được chia sẻ bởi nhiều container nhằm mục đích tối ưu hóa mức độ sử dụng GPU.

**Yêu cầu:**

Người dùng có thể tự cài đặt GPU Driver mong muốn trên cụm FPT Kubernetes Engine tích hợp GPU.

Kubernetes hỗ trợ tự động auto scale dựa trên các custom metrics như GPU metrics bằng cách kết hợp với Prometheus. Bài v

Hướng dẫn cấu hình Auto Scale sử dụng KEDA và Prometheus

FPT Kubernetes Engine with GPU trên FPT Cloud hỗ trợ GPU NVIDIA với quản lý tài nguyên tự động.