メインコンテンツへスキップ

Documentation Index

Fetch the complete documentation index at: https://docs.wandb.ai/llms.txt

Use this file to discover all available pages before exploring further.

Web UIでServerless Inferenceサービスを使用する方法を説明します。UIを使用する前に、前提条件を完了してください。

​
Inference サービスにアクセスする

Inference サービスには、次の 3 つの場所からアクセスできます。 https://wandb.ai/inference にアクセスしてください。

​
Inference タブから

  1. https://wandb.ai/ で W&B アカウントにアクセスします
  2. 左サイドバーから Inference を選択します
  3. 利用可能なモデルとその情報が表示されるページが開きます
Playground で Inference モデルを使用する

​
Playground タブから

  1. 左サイドバーで Playground を選択します。Playground のチャット UI が表示されます
  2. LLM のドロップダウンリストで Serverless Inference にカーソルを合わせます。右側に利用可能なモデルのドロップダウンが表示されます
  3. モデルのドロップダウンでは、次の操作ができます:
Playground の Inference モデルのドロップダウン

​
Playgroundでモデルを試す

モデルを選択したら、Playgroundでテストできます。実行できる操作は次のとおりです。

​
複数のモデルを比較する

Playground では、Inference のモデルを並べて比較できます。Compare ビューには 2 つの場所からアクセスできます。

​
Inferenceタブから

  1. 左サイドバーから Inference を選択します。利用可能なモデルのページが表示されます
  2. モデルカード上の任意の場所 (モデル名を除く) をクリックして選択します。カードの枠線が青色に変わります
  3. 比較したい各モデルについて、この操作を繰り返します
  4. 選択したいずれかのカードで Playground で N 個のモデルを比較 をクリックします。N には選択したモデル数が表示されます
  5. 比較ビューが開きます
これで、モデルを比較したり、Playground でモデルを試す のすべての機能を利用したりできます。
Playground で比較する複数のモデルを選択

​
Playground タブから

  1. 左サイドバーから Playground を選択します。Playground のチャット UI が表示されます
  2. LLM のドロップダウンリストで Serverless Inference にカーソルを合わせます。右側にモデルのドロップダウンが表示されます
  3. ドロップダウンから Compare を選択します。Inference タブが表示されます
  4. モデルカード上の任意の場所 (モデル名を除く) をクリックして選択します。カードの枠線が青色になります
  5. 比較したい各モデルに対してこれを繰り返します
  6. 選択したいずれかのカードで Playground で N 個のモデルを比較 をクリックします。比較ビューが開きます
これで、モデルを比較し、Playground でモデルを試す のすべての機能を利用できます。

​
請求と利用状況の情報を確認する

組織管理者は、W&B UI でクレジット残高、利用履歴、今後の請求額を確認できます。
  1. UI の W&B Billing ページにアクセスする
  2. 右下にある Inference の請求情報カードを検索する
  3. ここから次の操作を行えます:
    • View usage をクリックして、一定期間の利用状況を確認する
    • 今後の Inference の請求額を確認する (有料プランの場合)
モデルごとの料金の詳細は、Inference pricing pageを参照してください。

​
次のステップ

  • 利用可能なモデルを確認して、ニーズに最適なものを見つけてください
  • プログラムで利用するには、APIをお試しください
  • コードサンプルは使用例を参照してください