これが発生する理由
- モデル ID が正しくない: リクエスト内のモデル名またはパスのつづりが誤っているか、形式が正しくありません。
- モデルを W&B Inference で利用できない: 他のプロバイダでホストされているすべてのモデルが、W&B Inference API 経由で利用できるわけではありません。リクエストしているモデルは、まだ追加されていない可能性があります。
- 誤ったベース URL を使用している: 別のプロバイダのエンドポイントを指定しているにもかかわらず、W&B APIキーを使用している場合、モデル ID は正しく解決されません。
- モデルが削除された: 以前は利用可能だったモデルが、非推奨になったか削除された可能性があります。
できること
-
モデル ID を確認する
- 正確なモデル識別子を 利用可能なモデル で確認してください。
- モデル ID では大文字と小文字が区別され、通常は
provider/model-name形式です (例:meta-llama/Llama-3.3-70B-Instruct) 。
-
ベース URL を確認する
- W&B Inference のベース URL は
https://api.inference.wandb.ai/v1です。クライアントがこのホストを使用していることを確認し、Multi-tenant Cloud API ホスト (https://api.wandb.ai) や他のプロバイダのエンドポイントは使用しないでください。使用状況のトラッキングのために、一部のクライアントでは list models API リファレンス に示されているように、team/projectに設定した省略可能なOpenAI-Projectヘッダーも送信します。
- W&B Inference のベース URL は
-
新しいモデルへのアクセスをリクエストする
- 必要なモデルが現在サポートされていない場合は、W&B サポート に連絡して追加を依頼してください。
サーバー エラー