メインコンテンツまでスキップ

Ollama Use Cases

このガイドでは、サポートされているNVIDIA GPU H100を使用してOllamaとOpenWebUIでdeepseek-r1:1.5bモデルの推論を実行する方法を説明します。

  1. ステップ1: Ollama-OpenWebUIテンプレートを使用してGPU Containerを作成します

Alt text

Alt text

  1. ステップ2: OpenWebUIのrootユーザーを作成します

Alt text

  1. ステップ3: このチュートリアルでは、deepseek-r1:1.5bモデルを例として使用します。ニーズに最も合った別のモデルを自由に選択してください。

Alt text

  1. ステップ4: プルが成功したら、モデルをテストするためにプロンプトを送信します

Alt text