DSPy : programmer plutôt que rédiger des prompts

Le problème que DSPy veut résoudre

Quand on construit une application avec un grand modèle de langage, on passe souvent des heures à retoucher des prompts fragiles : une phrase change, un modèle est mis à jour, et tout se dégrade. DSPy, lancé au Stanford NLP fin 2022 puis développé par une large communauté open source, propose une autre méthode : écrire du code Python modulaire et laisser des algorithmes trouver la meilleure façon de s’adresser au modèle. C’est une forme automatisée d’ingénierie de prompt.

Trois notions à comprendre

• Les signatures : vous déclarez les entrées et sorties d’une étape (par exemple « un ticket client » en entrée, « urgence » et « équipe » en sortie), sans écrire le prompt.
• Les modules : des stratégies interchangeables pour exécuter une signature, comme Predict (réponse directe), ChainOfThought (raisonnement par chaîne de pensée) ou ReAct (raisonnement avec outils).
• Les optimiseurs : à partir d’exemples et d’une métrique, ils ajustent automatiquement les instructions et les exemples fournis au modèle (MIPROv2, BootstrapFewShot, GEPA…), voire les poids du modèle par affinage.

Usages typiques

DSPy s’applique aussi bien à un classifieur simple qu’à un pipeline de RAG en plusieurs étapes ou à une boucle d’agent. Cas fréquents : passer à un modèle moins cher sans perdre en qualité, fiabiliser une extraction d’informations, ou rendre un système reproductible quand on change de fournisseur. Les appels aux modèles passent par une couche compatible avec de nombreux fournisseurs, ce qui facilite ces changements.

Comment démarrer

On installe le paquet dspy avec pip (Python 3.10 ou plus récent), on configure le modèle à utiliser, puis on écrit une première signature et on l’exécute avec un module. L’étape suivante consiste à réunir un petit jeu d’exemples et une métrique pour lancer un optimiseur. Les tutoriels officiels suivent exactement ce chemin.

Forces et limites

Forces : approche rigoureuse et mesurable, indépendance vis-à-vis du modèle, appui sur des travaux de recherche publiés.

Limites : la courbe d’apprentissage est réelle, car il faut penser en signatures et en métriques ; l’optimisation consomme beaucoup d’appels au modèle ; et DSPy n’apporte ni interface, ni hébergement, ni orchestration multi-agents prête à l’emploi.

Alternatives

LangChain et LangGraph pour orchestrer des agents, Pydantic AI pour des sorties typées, Haystack pour des pipelines RAG de production.