Haystack : le framework de deepset pour le RAG et les agents

Un pionnier de la recherche augmentée par l’IA

Haystack existe depuis 2019, bien avant la vague des assistants conversationnels : il est né pour la recherche de réponses dans de grandes collections de documents. Le framework a été entièrement repensé avec la version 2 en mars 2024, puis la version 3 est sortie en juillet 2026. deepset GmbH, son éditeur, le présente aujourd’hui comme une plateforme d’orchestration open source pour des agents et applications de niveau production.

Composants et pipelines

Le principe central est simple : chaque tâche (découper un document, calculer des embeddings, interroger une base vectorielle, appeler un modèle, formater une réponse) est un composant. On relie ces composants dans un pipeline, un graphe déterministe dont on connaît chaque étape. C’est la façon classique de construire un système de RAG : retrouver les bons passages, puis demander au modèle de répondre à partir d’eux.

Pour les demandes moins prévisibles, le composant Agent confie au modèle le choix des étapes. Un agent peut être emballé comme outil d’un autre agent, ce qui permet un système multi-agents de type coordinateur et spécialistes. Les outils peuvent provenir de serveurs MCP grâce à l’intégration officielle.

Démarrer

On installe le paquet haystack-ai (Python 3.11 ou plus récent), puis on suit les tutoriels officiels : un premier pipeline de questions-réponses sur quelques documents, puis un agent avec outils. Les pipelines sont sérialisables, ce qui facilite leur déploiement en conteneur ou sur Kubernetes.

Forces et limites

Forces : longue maturité, architecture explicite et testable, nombreuses intégrations, indépendance vis-à-vis du fournisseur de modèles et du cloud.

Limites : la logique par composants demande un temps d’apprentissage ; les changements de version majeure imposent des migrations ; et l’interface visuelle n’existe que dans l’offre payante de deepset.

Alternatives

LlamaIndex est le concurrent le plus direct sur le RAG, LangChain offre un écosystème plus large, LangGraph un contrôle fin des agents, et DSPy une approche fondée sur l’optimisation automatique des prompts.