Les limites de l'apprentissage profond : ce que les modèles font mal, analyse de François Chollet et d'autres chercheurs

L’apprentissage profond peut produire des performances élevées tout en restant fragile lorsque les règles changent, que des compétences doivent se combiner ou qu’une réponse exige une vérification indépendante. François Chollet analyse cette difficulté en distinguant la compétence acquise de l’efficacité à apprendre une tâche nouvelle ; d’autres chercheurs étudient les raccourcis statistiques, la causalité ou les architectures capables de planifier. Ces travaux documentent des difficultés et proposent des pistes, sans démontrer que tous les réseaux de neurones rencontreraient une barrière définitive.

De quelles limites parle-t-on exactement ?

L’apprentissage profond apprend des représentations à partir de données, en ajustant les paramètres de réseaux de neurones. Il ne se réduit ni aux assistants conversationnels ni à la prédiction de texte : les modalités, objectifs et architectures diffèrent. Une critique d’un modèle de langage ne s’applique donc pas automatiquement à tout le domaine.

Il faut séparer plusieurs niveaux. Une architecture peut permettre de représenter une solution, mais son entraînement peut échouer à la découvrir. Une solution peut être apprise, mais demander trop de données ou de calcul. Enfin, un système peut réussir fréquemment sans offrir la fiabilité nécessaire à son usage.

Le mot limite recouvre ainsi des constats différents :

• une erreur observée sur une tâche et un protocole précis ;
• une faiblesse récurrente dans plusieurs conditions ;
• un coût qui rend la méthode peu pratique ;
• une impossibilité démontrée sous des hypothèses explicites.

Passer du premier niveau au dernier exige une justification. Un problème raté par un assistant ne prouve pas une impossibilité mathématique. Inversement, montrer qu’un réseau pourrait théoriquement calculer une fonction ne prouve pas qu’un entraînement réaliste la lui fera apprendre.

Cette page traite surtout des limites de généralisation et de fiabilité. Elle complète le dossier AGI et recherche, où les questions de mesure sont séparées des prévisions. Les exemples pratiques ci-dessous sont des situations hypothétiques destinées à préciser les critères d’évaluation, sans constituer des résultats expérimentaux.

François Chollet : distinguer compétence et intelligence

Dans On the Measure of Intelligence, publié en novembre 2019, François Chollet propose de définir l’intelligence par l’efficacité d’acquisition de compétences. Son analyse demande de tenir compte des connaissances préalables, de l’expérience disponible et de la difficulté de généralisation. Un score élevé renseigne sur une compétence ; il ne suffit pas, isolément, à mesurer la capacité d’apprendre.

La distinction change l’interprétation d’une démonstration. Un système qui réussit après une préparation considérable et un système qui découvre la règle avec peu d’exemples peuvent obtenir la même réponse. Leur résultat final masque alors des différences dans les ressources nécessaires et dans l’adaptation demandée.

Cette approche n’exige pas un apprentissage sans connaissances préalables. Elle demande de rendre ces connaissances explicites autant que possible. Pour comparer des systèmes, il faut examiner ce qui leur était fourni, ce qu’ils avaient déjà rencontré et ce qu’ils ont effectivement dû découvrir.

L’article On the Measure of Intelligence expliqué simplement présente cette proposition plus progressivement. La conséquence pratique est de mesurer le transfert autant que le résultat : conserver les éléments familiers, modifier une règle pertinente, puis observer comment le système s’adapte.

Cette définition constitue un cadre de recherche, pas une définition universellement adoptée de l’intelligence. Elle ne fournit pas non plus, à elle seule, une preuve d’impossibilité concernant l’apprentissage profond. Elle impose surtout une précaution : ne pas confondre l’étendue des compétences déjà acquises avec la facilité à en acquérir de nouvelles.

Généraliser au-delà des ressemblances familières

La généralisation désigne la capacité à réussir au-delà des exemples d’entraînement. Il existe toutefois plusieurs degrés de nouveauté. Traiter une autre photographie dans des conditions familières n’impose pas le même transfert qu’appliquer une règle à une combinaison d’objets jamais rencontrée.

Un découpage aléatoire des données peut laisser des ressemblances fortes entre entraînement et test. Le modèle est alors évalué sur de nouveaux exemples, mais pas nécessairement sur une nouvelle structure de problème. Pour éprouver un transfert plus exigeant, on peut réserver des environnements, des familles de tâches ou des combinaisons entières à l’évaluation.

Robert Geirhos et ses coauteurs décrivent, dans Shortcut Learning in Deep Neural Networks, initialement publié en 2020, des règles de décision qui réussissent dans les évaluations habituelles mais se transfèrent mal lorsque les conditions deviennent plus difficiles. Ce phénomène de raccourci statistique permet de comprendre pourquoi un bon score peut coexister avec une fragilité pratique.

Imaginez un classificateur de documents qui associe un fond de page à une catégorie. Il pourrait réussir sur les archives disponibles puis échouer après un changement de scanner. Pour examiner cette hypothèse, vous conserveriez le contenu tout en modifiant le fond, puis feriez l’expérience inverse.

La leçon concerne le protocole : faites varier ce qui ne devrait pas changer la réponse. Il faut aussi tester les modifications qui devraient la changer. Un modèle robuste doit ignorer certaines différences et rester sensible à d’autres ; la simple stabilité des réponses ne suffit donc pas.

Composer des compétences et maintenir un raisonnement

Savoir résoudre les parties d’un problème ne garantit pas de résoudre leur combinaison. Un assistant peut retrouver séparément des informations utiles, puis les relier de manière incorrecte. L’évaluation doit distinguer la disponibilité des connaissances, la décomposition de la tâche et la construction de la réponse finale.

Ofir Press et ses coauteurs étudient cette différence dans Measuring and Narrowing the Compositionality Gap in Language Models, soumis en 2022. Sur les modèles examinés, ils observent un écart entre la réussite aux sous-questions et celle à la question composée. Ils montrent aussi que des méthodes de décomposition explicite peuvent réduire cet écart.

Ces résultats historiques ne décrivent pas automatiquement les modèles disponibles en octobre 2026. Ils fournissent une méthode d’analyse qui reste pertinente : vérifier les sous-résultats, leur assemblage et l’effet d’une aide structurée. Une amélioration apportée par le protocole révèle autant une capacité exploitable qu’une dépendance à cette assistance.

La difficulté devient opérationnelle dans une tâche longue. Une hypothèse initiale erronée peut orienter les étapes suivantes, même si chacune paraît localement cohérente. Pour tester un agent, il est donc utile de conserver des points de contrôle sur les données, les hypothèses et l’état du travail.

Un calculateur ou un interpréteur peut sécuriser une opération précise. Il ne valide pas le choix de l’opération ni la pertinence des données fournies. Les moyens de contrôle doivent porter à la fois sur les étapes et sur l’objectif final, avec un critère de réussite défini avant l’exécution.

Corrélation, causalité et modèles du monde

Prédire une observation et prévoir l’effet d’une intervention sont des problèmes différents. Une association entre deux variables ne suffit pas à déterminer ce qui arriverait si l’on modifiait volontairement l’une d’elles. Cette distinction concerne notamment les systèmes utilisés pour recommander des actions.

Dans Towards Causal Representation Learning, publié en 2021, Bernhard Schölkopf, Yoshua Bengio et leurs coauteurs relient la causalité aux difficultés de transfert et de généralisation. Ils soulignent également le problème de découvrir des variables causales pertinentes à partir d’observations, plutôt que de supposer ces variables déjà disponibles.

Exemple hypothétique : des délais élevés et des réclamations peuvent apparaître ensemble dans des archives commerciales. Cette observation ne suffit pas à prédire l’effet d’un changement d’organisation. Il faut notamment examiner les facteurs communs, les mécanismes supposés et les conditions dans lesquelles les données ont été produites.

Un modèle de langage peut aider à formuler ces hypothèses ou expliquer un raisonnement causal. Cela ne lui donne pas accès aux interventions qui manquent dans le dossier. Une réponse persuasive ne remplace ni l’identification du mécanisme ni les données permettant de départager des explications concurrentes.

Les modèles du monde constituent une piste voisine : apprendre des représentations permettant d’anticiper les conséquences d’actions. L’enjeu dépasse la génération d’une description plausible. Pour planifier, un système doit disposer de prédictions suffisamment fiables aux horizons pertinents et détecter lorsque ses représentations cessent d’être adaptées à la situation.

Dire le vrai et reconnaître son incertitude

La qualité rédactionnelle ne constitue pas un certificat de vérité. Lorsqu’un système produit une référence, un calcul ou une explication, la question utile est de savoir comment l’assertion peut être contrôlée. Une hallucination devient particulièrement difficile à repérer lorsqu’elle s’insère dans un ensemble par ailleurs correct.

Il faut toutefois éviter d’affirmer que les modèles seraient incapables d’évaluer leurs réponses. Dans Language Models Mostly Know What They Know, publié en 2022, Saurav Kadavath et ses coauteurs obtiennent des résultats encourageants d’autoévaluation et de calibration dans certains formats. Ils constatent aussi des difficultés de calibration sur de nouvelles tâches.

La calibration décrit la correspondance entre une confiance annoncée et la fréquence réelle de réussite. Elle se mesure sur un ensemble de cas ; elle ne garantit pas qu’une réponse particulière soit correcte. Une méthode calibrée dans un contexte ne doit donc pas être considérée comme validée dans tous les autres.

Pour un usage documentaire, vous pouvez exiger des passages justificatifs et vérifier qu’ils soutiennent précisément l’affirmation. Pour un calcul, vous pouvez contrôler les entrées et refaire l’opération indépendamment. Pour une information absente, l’abstention doit être une issue acceptable du processus.

Demander au système de se relire peut faire partie du dispositif. Pour une décision importante, prévoyez également une vérification qui apporte une information distincte : source primaire, test exécutable, contrainte formelle ou examen humain. Répéter la même question ne constitue pas, à lui seul, une validation indépendante.

Ce que l’augmentation d’échelle établit et laisse ouvert

Les critiques de l’apprentissage profond doivent être confrontées aux résultats favorables à l’augmentation des ressources. Dans Scaling Laws for Neural Language Models, publié en janvier 2020, Jared Kaplan et ses coauteurs décrivent des relations empiriques entre la perte de prédiction, la taille des modèles, les données et le calcul d’entraînement.

Ces observations soutiennent l’intérêt d’étudier des méthodes capables d’exploiter davantage de ressources. Leur portée reste celle des mesures et conditions examinées. Une amélioration de la prédiction ne démontre pas automatiquement une fiabilité opérationnelle, une capacité causale ou une adaptation efficace à toute tâche nouvelle.

Il serait tout aussi excessif de transformer un échec ancien en plafond permanent. Les données, les objectifs d’entraînement, les architectures et les procédures d’inférence peuvent évoluer. Toute affirmation sur une incapacité actuelle doit donc identifier le système évalué, les aides autorisées et la date du constat.

Le désaccord peut porter sur la nature des changements nécessaires. Une position consiste à chercher des améliorations au sein de méthodes neuronales plus générales. Une autre privilégie l’ajout de mécanismes explicites de recherche, de représentation ou de vérification. Ces orientations ne s’excluent pas toujours dans une réalisation technique.

La loi d’échelle doit ainsi être lue comme une relation empirique liée à une mesure, et non comme une promesse universelle. Pour arbitrer un choix pratique, comparez le gain obtenu à ressources fixées, puis examinez si ce gain concerne les erreurs qui vous importent réellement.

Des chercheurs qui ne proposent pas la même solution

Les diagnostics se recoupent partiellement, mais les programmes de recherche diffèrent. François Chollet place l’efficacité d’acquisition de nouvelles compétences au centre de sa proposition. Les travaux sur les représentations causales interrogent davantage les mécanismes qui permettraient de transférer des connaissances lorsque les conditions changent.

Yann LeCun présente une autre orientation dans A Path Towards Autonomous Machine Intelligence, publié en juin 2022. Ce texte de position propose notamment des modèles du monde prédictifs, des représentations abstraites et une planification hiérarchique. Il décrit un programme de recherche fondé sur l’apprentissage, plutôt qu’une démonstration de système général achevé.

Approche	Question centrale	Piste étudiée	Validation nécessaire
Cadre de Chollet	Avec quelle efficacité acquérir une compétence nouvelle ?	Mesurer l’expérience, les connaissances préalables et le transfert	Réussite sur des tâches inédites sous ressources explicites
Représentations causales	Quels mécanismes restent pertinents lorsque les conditions changent ?	Apprendre des variables et relations causales	Prédictions confrontées à des interventions ou changements contrôlés
Programme de LeCun	Comment apprendre à prévoir et planifier ?	Modèles du monde et représentations hiérarchiques	Conséquences d’actions et plans évalués dans l’environnement
Travaux sur l’échelle	Comment évolue une mesure avec les ressources ?	Ajuster modèles, données et calcul	Relations empiriques reproduites dans leur domaine de validité

Ces positions ne forment pas deux camps homogènes. Un modèle du monde peut être neuronal ; une recherche de programme peut être guidée par un réseau. Le guide sur la synthèse de programmes détaille cette articulation entre apprentissage et recherche de solutions explicites.

L’enjeu expérimental consiste à préciser ce qu’apporte chaque composant, avec quelles ressources et sur quelles tâches. Une proposition architecturale devient convaincante lorsqu’elle produit un transfert mesurable, au-delà de l’intuition qui la motive.

ARC : rendre la nouveauté plus observable

La présentation officielle d’ARC-AGI rattache le benchmark à la mesure de l’acquisition de compétences sur des tâches inconnues. Elle explicite aussi le rôle des connaissances préalables. Son intérêt méthodologique est de demander ce que le système apprend à partir de la tâche proposée, plutôt que de regarder seulement ce qu’il sait déjà faire.

Pour interpréter une évaluation, il faut distinguer le modèle et le dispositif qui l’entoure. Des exemples supplémentaires, une recherche de solutions, des essais répétés ou une procédure de sélection modifient les ressources disponibles. Le résultat concerne cet ensemble, avec ses conditions d’exécution.

Un protocole devrait notamment préciser :

• les données utilisées pour préparer le système ;
• les informations accessibles pendant l’évaluation ;
• les opérations de recherche et de sélection autorisées ;
• les ressources consommées pour obtenir la réponse ;
• les conditions permettant de reproduire le résultat.

Ces précisions ne servent pas à disqualifier les systèmes qui utilisent des outils. Elles permettent de comparer des résultats comparables et d’identifier la source d’une amélioration. La compétence du dispositif complet peut être utile même lorsqu’elle ne provient pas du seul modèle.

Aucun benchmark ne couvre cependant toutes les capacités requises dans une organisation ou un environnement physique. Pour relier une mesure publique à votre besoin, l’article Lire les classements des modèles aide à examiner le périmètre, la contamination possible et les différences de protocole.

Évaluer ces limites dans un usage réel

Pour décider si un système convient, traduisez chaque inquiétude en une épreuve observable. Au lieu de demander s’il comprend généralement les factures, définissez les champs à extraire, les ambiguïtés à signaler et les erreurs qui doivent bloquer le traitement. Le guide d’évaluation des agents IA développe cette démarche.

Construisez d’abord des cas représentatifs, puis des variations contrôlées. Changez la présentation sans changer le sens ; introduisez une exception qui modifie la réponse ; retirez une information indispensable. Vous pourrez distinguer une sensibilité au format, une difficulté de règle et une absence de données.

Pour les tâches longues, mesurez la réussite complète ainsi que les points de rupture. Vérifiez aussi la récupération après erreur : le système détecte-t-il un résultat incohérent, revient-il sur son hypothèse et s’arrête-t-il lorsque les éléments manquent ? Une réponse finale correcte peut masquer un parcours difficile à reproduire.

Comparez ensuite plusieurs configurations sur les mêmes cas et avec un budget explicite. Une extraction par règles, un modèle seul et un système avec recherche documentaire ne répondent pas aux mêmes contraintes. Le coût pertinent comprend aussi la vérification, les reprises et les erreurs non détectées.

Les traces d’exécution peuvent être examinées avec des outils d’observabilité comme Langfuse. Elles doivent être reliées à des critères de résultat et à un examen des échecs : enregistrer les étapes ne suffit pas à déterminer leur justesse.

À retenir

• Un score mesure une performance dans des conditions données ; il ne révèle pas seul l’efficacité d’apprentissage.
• Les raccourcis statistiques, la composition, la causalité et la calibration demandent des évaluations distinctes.
• Les travaux de François Chollet, des chercheurs en causalité et de Yann LeCun proposent des cadres différents, parfois compatibles.
• Les données, le calcul, les outils et les mécanismes de vérification font partie du système à comparer.
• Une décision d’usage doit reposer sur des essais représentatifs, des variations contrôlées et des critères d’arrêt explicites.

Pages liées

• Hugging Face
• Langfuse
• Arize Phoenix

Questions fréquentes

Le deep learning peut-il apprendre autre chose que ses exemples ?

Oui : apprendre suppose de transférer quelque chose à des exemples nouveaux. La difficulté consiste à déterminer jusqu'où ce transfert fonctionne lorsque changent les règles, les combinaisons ou les conditions d'observation. Une évaluation doit donc préciser la nouveauté introduite.

Les critiques de François Chollet signifient-elles que les LLM sont inutiles ?

Non. Sa distinction entre compétence acquise et efficacité d'apprentissage permet de reconnaître l'utilité d'un système sans en déduire une intelligence générale. Un outil peut rendre un service mesurable tout en ayant besoin d'un entraînement considérable et d'un cadre étroit.

Un réseau de neurones peut-il représenter un algorithme ?

Oui, selon son architecture et les conditions d'apprentissage. Cela ne garantit pas que l'entraînement découvrira l'algorithme recherché, ni qu'il l'exécutera correctement sur des entrées plus longues. Il faut distinguer capacité de représentation, apprentissage et fiabilité d'exécution.

Les systèmes hybrides résolvent-ils les limites du deep learning ?

Ils peuvent déplacer certaines opérations vers des composants vérifiables, comme un interpréteur ou un moteur de contraintes. Le choix du programme, des données et du critère de validation reste toutefois susceptible d'erreur. L'ensemble doit être évalué comme un système complet.

Comment reconnaître une limite durable de l'IA ?

Un échec répété sur plusieurs modèles et protocoles constitue un indice, pas une démonstration universelle. Une limite théorique exige des hypothèses explicites et une preuve. Pour une décision pratique, le critère pertinent reste la fiabilité observée dans les conditions prévues.