メインコンテンツまでスキップ

用語と定義

用語定義
ModelAIモデルとも呼ばれ、人間の知性をシミュレートするよう設計されたコンピュータープログラム
Model ServingFPT Cloud が提供する Kubernetes プラットフォーム上で AI モデルのデプロイと運用を可能にする Platform as a Service(PaaS)製品
Model Typeデプロイするモデルの種類(画像の有無を含む)
Imageデプロイ用のコンテナとしてアプリケーションをパッケージ化するためのテンプレート
Image Sourceデプロイイメージのソースの種類:Private/Public
Image Registryデプロイイメージがホストされているアドレス
Image Tagデプロイイメージのタグ
Clusterモデルをデプロイするための Kubernetes クラスター
Instance処理能力の単位
Instance Replica単一モデルに処理能力を提供する同一インスタンスの数
Resource Type Flavor処理能力リソースの種類(CPU/RAM/DISK/GPU)
Deployment StrategyKubernetes 上のデプロイメント戦略(Recreate/Rolling Update)
Startup Command起動コマンドまたは初期化コマンド
Environment Variable設定が必要な環境変数
Nodes Selectorモデルをデプロイするワーカーノードのラベル選択
Tagsデプロイされたモデルのラベル
Services TypeKubernetes 上のデプロイされたモデルの外部接続の種類(Load Balancer/ClusterIP/Ingress)
Traffic Typeデータ接続の種類(Public/Private)
Port外部接続およびコンテナの入口用ポート(TCP)
GPU Sharing ModeGPU を分割するために使用される仮想化の種類(MIG/MPS/Time-slice)