DSPy

Exécutez des prédictions en utilisant des programmes DSPy auto-hébergés

DSPy est un framework open-source pour programmer — plutôt que de prompter — des modèles de langage. DSPy vous permet de créer des agents modulaires et interprétables alimentés par des LLM en utilisant des fonctions Python, des modules structurés et des signatures déclaratives, facilitant ainsi la composition, le débogage et le déploiement fiable d'applications de modèles de langage.

Avec DSPy dans Sim, vous pouvez :

  • Exécuter des prédictions personnalisées : connectez votre serveur DSPy auto-hébergé et invoquez des points de terminaison de prédiction pour une variété de tâches de traitement du langage naturel.
  • Raisonnement Chain of Thought et ReAct : exploitez des modules DSPy avancés pour un raisonnement étape par étape, des dialogues multi-tours et des boucles action-observation.
  • Intégrer à vos workflows : automatisez les prédictions et le raisonnement LLM dans le cadre de toute automatisation ou routine d'agent Sim.
  • Fournir des points de terminaison et du contexte personnalisés : appelez de manière flexible vos propres API alimentées par DSPy avec une authentification, des points de terminaison, des champs d'entrée et un contexte personnalisés.

Ces fonctionnalités permettent à vos agents Sim d'accéder à des programmes modulaires et interprétables basés sur des LLM pour des tâches telles que la réponse aux questions, l'analyse de documents, l'aide à la décision, et plus encore — où vous gardez le contrôle du modèle, des données et de la logique.

Instructions d'utilisation

Intégrez-vous avec vos programmes DSPy auto-hébergés pour des prédictions alimentées par LLM. Prend en charge les agents Predict, Chain of Thought et ReAct. DSPy est le framework pour programmer — et non prompter — des modèles de langage.

Outils

dspy_predict

Exécutez une prédiction en utilisant un point de terminaison de programme DSPy auto-hébergé

Entrée

ParamètreTypeRequisDescription
baseUrlstringOuiURL de base du serveur DSPy (par exemple, https://your-dspy-server.com\)
apiKeystringNonClé API pour l'authentification (si requise par votre serveur)
endpointstringNonChemin du point de terminaison API (par défaut /predict)
inputstringOuiLe texte d'entrée à envoyer au programme DSPy
inputFieldstringNonNom du champ d'entrée attendu par le programme DSPy (par défaut "text")
contextstringNonContexte supplémentaire à fournir au programme DSPy
additionalInputsjsonNonPaires clé-valeur supplémentaires à inclure dans le corps de la requête

Sortie

ParamètreTypeDescription
answerstringLa sortie/réponse principale du programme DSPy
reasoningstringLe raisonnement ou la justification derrière la réponse (si disponible)
statusstringStatut de la réponse du serveur DSPy (succès ou erreur)
rawOutputjsonLa sortie brute complète du programme DSPy (result.toDict())

dspy_chain_of_thought

Exécuter une prédiction Chain of Thought en utilisant un point de terminaison de programme DSPy ChainOfThought auto-hébergé

Entrée

ParamètreTypeRequisDescription
baseUrlstringOuiURL de base du serveur DSPy (par exemple, https://your-dspy-server.com\)
apiKeystringNonClé API pour l'authentification (si requise par votre serveur)
endpointstringNonChemin du point de terminaison API (par défaut /predict)
questionstringOuiLa question à répondre en utilisant le raisonnement en chaîne de pensée
contextstringNonContexte supplémentaire à fournir pour répondre à la question

Sortie

ParamètreTypeDescription
answerstringLa réponse générée par le raisonnement en chaîne de pensée
reasoningstringLe raisonnement étape par étape qui a conduit à la réponse
statusstringStatut de la réponse du serveur DSPy (succès ou erreur)
rawOutputjsonLa sortie brute complète du programme DSPy (result.toDict())

dspy_react

Exécuter un agent ReAct en utilisant un endpoint de programme DSPy ReAct auto-hébergé pour le raisonnement et l'action en plusieurs étapes

Entrée

ParamètreTypeRequisDescription
baseUrlstringOuiURL de base du serveur DSPy (par exemple, https://your-dspy-server.com\)
apiKeystringNonClé API pour l'authentification (si requise par votre serveur)
endpointstringNonChemin de l'endpoint API (par défaut /predict)
taskstringOuiLa tâche ou question sur laquelle l'agent ReAct doit travailler
contextstringNonContexte supplémentaire à fournir pour la tâche
maxIterationsnumberNonNombre maximum d'itérations de raisonnement (par défaut selon le paramétrage du serveur)

Sortie

ParamètreTypeDescription
answerstringLa réponse finale ou le résultat de l'agent ReAct
reasoningstringLe résumé global du raisonnement de l'agent
trajectoryarrayLa trajectoire étape par étape des pensées, actions et observations
thoughtstringLa pensée de raisonnement à cette étape
toolNamestringLe nom de l'outil/action appelé
toolArgsjsonArguments passés à l'outil
observationstringL'observation/résultat de l'exécution de l'outil
statusstringStatut de la réponse du serveur DSPy (succès ou erreur)
rawOutputjsonLa sortie brute complète du programme DSPy (result.toDict())

On this page

Start building today
Trusted by over 100,000 builders.
The open-source platform to build AI agents and run your agentic workforce.
Get started