DSPy

セルフホスト型DSPyプログラムを使用して予測を実行

DSPyは、言語モデルをプロンプトではなくプログラミングするためのオープンソースフレームワークです。DSPyを使用すると、Python関数、構造化モジュール、宣言的シグネチャを使用して、解釈可能でモジュール式のLLM駆動エージェントを構築でき、言語モデルアプリケーションの構成、デバッグ、信頼性の高いデプロイが容易になります。

SimでDSPyを使用すると、次のことができます:

  • カスタム予測の実行: セルフホスト型DSPyサーバーに接続し、さまざまな自然言語タスクの予測エンドポイントを呼び出します。
  • Chain of ThoughtとReAct推論: 段階的推論、マルチターン対話、アクション-観察ループのための高度なDSPyモジュールを活用します。
  • ワークフローとの統合: LLM予測と推論を、Simの自動化やエージェントルーチンの一部として自動化します。
  • カスタムエンドポイントとコンテキストの提供: カスタム認証、エンドポイント、入力フィールド、コンテキストを使用して、独自のDSPy駆動APIを柔軟に呼び出します。

これらの機能により、Simエージェントは、質問応答、文書分析、意思決定支援などのタスクに対して、モジュール式で解釈可能なLLMベースのプログラムにアクセスできます。モデル、データ、ロジックの制御は常にあなたが保持します。

使用方法

セルフホスト型DSPyプログラムと統合して、LLM駆動の予測を実行します。Predict、Chain of Thought、ReActエージェントをサポートします。DSPyは、言語モデルをプロンプトではなくプログラミングするためのフレームワークです。

ツール

dspy_predict

セルフホスト型DSPyプログラムエンドポイントを使用して予測を実行

入力

パラメータ必須説明
baseUrlstringはいDSPyサーバーのベースURL (例: https://your-dspy-server.com\)
apiKeystringいいえ認証用のAPIキー (サーバーで必要な場合)
endpointstringいいえAPIエンドポイントパス (デフォルトは /predict)
inputstringはいDSPyプログラムに送信する入力テキスト
inputFieldstringいいえDSPyプログラムが期待する入力フィールドの名前 (デフォルトは "text")
contextstringいいえDSPyプログラムに提供する追加のコンテキスト
additionalInputsjsonいいえリクエストボディに含める追加のキーと値のペア

出力

パラメータ説明
answerstringDSPyプログラムからのメイン出力/回答
reasoningstring回答の背後にある推論または根拠(利用可能な場合)
statusstringDSPyサーバーからのレスポンスステータス(成功またはエラー)
rawOutputjsonDSPyプログラムからの完全な生出力(result.toDict())

dspy_chain_of_thought

セルフホスト型DSPy ChainOfThoughtプログラムエンドポイントを使用してChain of Thought予測を実行

入力

パラメータ必須説明
baseUrlstringはいDSPyサーバーのベースURL(例:https://your-dspy-server.com)
apiKeystringいいえ認証用のAPIキー(サーバーで必要な場合)
endpointstringいいえAPIエンドポイントパス(デフォルトは/predict)
questionstringはいChain of Thought推論を使用して回答する質問
contextstringいいえ質問に回答するために提供する追加のコンテキスト

出力

パラメータ説明
answerstringChain of Thought推論を通じて生成された回答
reasoningstring回答に至った段階的な推論
statusstringDSPyサーバーからのレスポンスステータス(成功またはエラー)
rawOutputjsonDSPyプログラムからの完全な生出力(result.toDict())

dspy_react

マルチステップ推論とアクションのために、セルフホスト型DSPy ReActプログラムエンドポイントを使用してReActエージェントを実行

入力

パラメータ必須説明
baseUrlstringはいDSPyサーバーのベースURL(例:https://your-dspy-server.com)
apiKeystringいいえ認証用のAPIキー(サーバーで必要な場合)
endpointstringいいえAPIエンドポイントパス(デフォルトは/predict)
taskstringはいReActエージェントが取り組むタスクまたは質問
contextstringいいえタスクに提供する追加のコンテキスト
maxIterationsnumberいいえ推論の最大反復回数(デフォルトはサーバー設定)

出力

パラメータ説明
answerstringReActエージェントからの最終的な回答または結果
reasoningstringエージェントからの全体的な推論の要約
trajectoryarray思考、アクション、観察のステップバイステップの軌跡
thoughtstringこのステップでの推論の思考
toolNamestring呼び出されたツール/アクションの名前
toolArgsjsonツールに渡された引数
observationstringツール実行からの観察/結果
statusstringDSPyサーバーからのレスポンスステータス(successまたはerror)
rawOutputjsonDSPyプログラムからの完全な生の出力(result.toDict())

On this page

Start building today
Trusted by over 100,000 builders.
The open-source platform to build AI agents and run your agentic workforce.
Get started