Ollama Use Cases

Hướng dẫn này giúp bạn chạy suy luận mô hình deepseek-r1:1.5b bằng Ollama và OpenWebUI với NVIDIA GPU H100 được hỗ trợ.

1. Bước 1: Tạo GPU Container sử dụng template Ollama-OpenWebUI

2. Bước 2: Tạo tài khoản root cho OpenWebUI

3. Bước 3: Trong hướng dẫn này, chúng ta sẽ dùng mô hình deepseek-r1:1.5b làm ví dụ. Bạn có thể tự do chọn mô hình khác phù hợp với nhu cầu.

4. Bước 4: Sau khi kéo mô hình thành công, gửi một prompt để kiểm tra mô hình