Câu hỏi thường gặp
1. Tôi có thể tạo API key và dùng nó với các mô hình như thế nào?
Bạn có thể tạo API key tại My Account → My API Keys. Key này cần thiết để gọi các mô hình qua inference API.
2. Giá sử dụng mô hình được tính như thế nào?
Giá được tính dựa trên số lượng input token và output token. Bạn có thể xem chi tiết tại Product Information → Pricing hoặc trong Billing Management bên trong My Account.
3. Rate limit khi sử dụng mô hình là bao nhiêu?
Mỗi mô hình có rate limit riêng (ví dụ: số yêu cầu mỗi giây hoặc số token mỗi giây). Bạn có thể xem thông tin này tại Product Information → Rate Limit.
4. Marketplace có hỗ trợ autoscaling cho các model endpoint không?
Có. Các endpoint có thể được cấu hình autoscaling dựa trên lưu lượng truy cập, tối ưu chi phí trong khi vẫn duy trì ổn định khi lưu lượng tăng đột biến.