Tạo container qua giao diện
Mỗi tenant chỉ được có tối đa 10 container. Nếu bạn đã đạt giới hạn này, hãy xóa container không dùng để tạo container mới.
1. Chọn GPU Container trong menu bên và nhấp nút "Create New Container"
2. Đặt tên container trong trường Container Name
3. Chọn GPU Instance (hiện hỗ trợ NVIDIA GPU H100 và H200)
4. Template
Bạn có thể chọn sử dụng template có sẵn hoặc dùng image của riêng mình. FPT khuyến nghị sử dụng template có sẵn để triển khai nhanh hơn.
a. Template có sẵn: nhấp "Change Template" và chọn template
b. Template tùy chỉnh: mang image của riêng bạn bằng tính năng "Custom Template"
5. Truy cập container
a. Ports
Tính năng này tăng tính linh hoạt cho ứng dụng container, cho phép một container phục vụ nhiều chức năng trên các cổng khác nhau.
Hỗ trợ cả HTTP và TCP port, tối đa 10 port mỗi loại cho mỗi container.
b. SSH
Thêm SSH key để cho phép truy cập từ xa vào container. Mỗi container hỗ trợ tối đa 10 SSH key. Các key này sẽ được đưa vào container khi chạy, cho phép bạn SSH vào container bằng bất kỳ key nào đã cung cấp.
Hiện tại, GPU Container phiên bản v1.1.2 chỉ có template Ubuntu đã bao gồm cấu hình SSH. Nếu bạn muốn kết nối SSH trong các template khác, hãy cài đặt OpenSSH-server trước.
Để thêm SSH key:
- Đảm bảo bạn đã tạo cặp SSH key trên máy tính. Nếu chưa có, chạy lệnh sau trên terminal:
ssh-keygen -t ed25519 -C YOUR_EMAIL@DOMAIN.COM
- Để lấy SSH public key, chạy lệnh:
cat ~/.ssh/id_ed25519.pub
Kết quả sẽ có dạng:
ssh-ed25519 AAAAC4NzaC1lZDI1JTE5AAAAIGP+L8hnjIcBqUb8NRrDiC32FuJBvRA0m8jLShzgq6BQ YOUR_EMAIL@DOMAIN.COM
6. Cài đặt nâng cao (Tùy chọn)
Mục này bao gồm:
- Persistent Disk: Chỉ định dung lượng lưu trữ để lưu trữ trọng số huấn luyện, model, v.v. Đọc thêm về Storage tại đây/.
- Environment Variables: Các cặp key-value được đưa vào container khi chạy.
- Startup Command: Lệnh và tham số chạy khi container khởi động.
7. Nhấp "Create New Container" để tạo và khởi động container
8. Nạp tiền
Trong trường hợp số dư không đủ để tạo container mới, làm theo hướng dẫn tại: Nạp tiền.


