プロンプト

Weights & Biases Promptsは、LLM搭載アプリケーションの開発のために作られたLLMOpsツールのスイートです。 W&Bプロンプトを使って、LLMの実行フローを可視化・検査し、LLMの入力と出力を解析し、中間結果を表示、プロンプトやLLMチェーン設定を安全に保管・管理できます。

W&B Promptsは、W&B実験 および W&Bテーブル と補完し合い、LLM開発者が確信を持って開発・実験する際のすべての道具が揃うようになります。

使い方

W&Bでは、トレース と呼ばれるツールが現在サポートされています。トレースを使うことで、LLMチェーンの入力・出力、実行フロー、アーキテクチャー、および中間結果を追跡および可視化することができます。

トレースは、LLMチェーニング、プラグイン、またはパイプライニングのユースケースで使用します。独自のLLMチェーニング実装を使用するか、LangChainなどのLLMライブラリが提供するW&Bインテグレーションを使用できます。

トレースには、次の3つの主要なコンポーネントがあります。

• トレーステーブル：チェーンの入力と出力の概要。
• トレースタイムライン：チェーンの実行フローを表示し、コンポーネントタイプに従って色分けされています。
• モデルアーキテクチャ：チェーンの構造と、チェーンの各コンポーネントを初期化するために使用されたパラメータの詳細を表示します。

トレーステーブル

トレーステーブルでは、チェーンの入力と出力の概要が提供されます。また、トレーステーブルは、チェーン内のトレースイベントの構成やチェーンが成功して実行されたかどうか、チェーンの実行時に返されたエラーメッセージに関する情報も提供します。

チェーンのインスタンスに対するトレースタイムラインを表示するには、テーブルの左側の行番号をクリックしてください。

トレースタイムライン

トレースタイムラインビューは、チェーンの実行フローを表示し、コンポーネントの種類に応じて色分けされています。トレースイベントを選択すると、そのトレースの入力、出力、およびメタデータが表示されます。

エラーが発生するトレースイベントは赤で枠が示されています。赤で色付けされたトレースイベントをクリックすると、エラーメッセージが表示されます。

モデルアーキテクチャー

モデルアーキテクチャービューでは、チェーンの構造と各コンポーネントを初期化するために使用されるパラメータの詳細が提供されます。トレースイベントをクリックして、そのイベントに関する詳細情報を表示してください。

はじめ方

• W&Bプロンプトを初めて使う場合は、クイックスタートガイドを参照してください。

• Google Colab Jupyterノートブックを使って、どのように動作するか試してみてください。