DSPy

使用自托管的 DSPy 程序运行预测

DSPy 是一个开源框架,用于通过编程(而非提示)来操作语言模型。DSPy 让你能够通过 Python 函数、结构化模块和声明式签名,构建可解释、模块化的 LLM 智能体,便于组合、调试和可靠部署语言模型应用。

在 Sim 中使用 DSPy,你可以:

  • 运行自定义预测:连接你的自托管 DSPy 服务器,调用预测端点,完成多种自然语言任务。
  • 链式思维与 ReAct 推理:利用先进的 DSPy 模块,实现逐步推理、多轮对话和行动-观察循环。
  • 集成到你的工作流:将 LLM 预测和推理自动化,作为任何 Sim 自动化或智能体流程的一部分。
  • 自定义端点与上下文:灵活调用你自有的 DSPy API,支持自定义认证、端点、输入字段和上下文。

这些功能让你的 Sim 智能体能够访问模块化、可解释的 LLM 程序,适用于问答、文档分析、决策支持等任务——你始终掌控模型、数据和逻辑。

使用说明

集成你的自托管 DSPy 程序,实现 LLM 驱动的预测。支持 Predict、Chain of Thought 和 ReAct 智能体。DSPy 是用于编程(而非提示)语言模型的框架。

工具

dspy_predict

使用自托管的 DSPy 程序端点运行预测

输入

参数类型必填说明
baseUrlstringDSPy 服务器的基础 URL(如 https://your-dspy-server.com)
apiKeystring用于认证的 API key(如服务器需要)
endpointstringAPI 端点路径(默认为 /predict)
inputstring发送给 DSPy 程序的输入文本
inputFieldstringDSPy 程序期望的输入字段名(默认为 "text")
contextstring提供给 DSPy 程序的额外上下文
additionalInputsjson请求体中包含的其他键值对

输出

参数类型描述
answerstringDSPy 程序的主要输出/答案
reasoningstring答案背后的推理或理由(如有)
statusstring来自 DSPy 服务器的响应状态(success 或 error)
rawOutputjsonDSPy 程序的完整原始输出(result.toDict())

dspy_chain_of_thought

使用自托管的 DSPy ChainOfThought 程序端点运行 Chain of Thought 预测

输入

参数类型是否必填描述
baseUrlstringDSPy 服务器的基础 URL(例如:https://your-dspy-server.com)
apiKeystring用于身份验证的 API key(如服务器需要)
endpointstringAPI 端点路径(默认为 /predict)
questionstring需要用 chain of thought 推理来回答的问题
contextstring用于回答问题的额外上下文

输出

参数类型描述
answerstring通过 chain of thought 推理生成的答案
reasoningstring得出答案的逐步推理过程
statusstring来自 DSPy 服务器的响应状态(success 或 error)
rawOutputjsonDSPy 程序的完整原始输出(result.toDict())

dspy_react

使用自托管的 DSPy ReAct 程序端点运行 ReAct agent,实现多步推理与操作

输入

参数类型必填说明
baseUrlstringDSPy 服务器的基础 URL(例如:https://your-dspy-server.com)
apiKeystring用于身份验证的 API key(如果服务器需要)
endpointstringAPI 端点路径(默认为 /predict)
taskstringReAct agent 需要处理的任务或问题
contextstring提供给任务的额外上下文信息
maxIterationsnumber最大推理迭代次数(默认为服务器设置)

输出

参数类型说明
answerstringReAct agent 返回的最终答案或结果
reasoningstringagent 的整体推理总结
trajectoryarray每一步的思考、操作和观察的轨迹
thoughtstring当前步骤的推理思路
toolNamestring调用的工具/操作名称
toolArgsjson传递给工具的参数
observationstring工具执行后的观察/结果
statusstringDSPy 服务器的响应状态(success 或 error)
rawOutputjsonDSPy 程序的完整原始输出(result.toDict())

On this page

Start building today
Trusted by over 100,000 builders.
The open-source platform to build AI agents and run your agentic workforce.
Get started