Pourquoi l'IA raisonne comme un ado bourré de Red Bull (et pas comme Einstein)

Imaginez un élève surdoué en rédaction, capable d'écrire une dissertation impeccable sur la théorie de la relativité... mais qui échouerait à calculer la trajectoire d'une balle de tennis. Ou pire : un candidat à Questions pour un champion qui connaîtrait tous les présidents français par cœur, mais serait incapable de déduire que si tous les corbeaux sont noirs et que l'oiseau devant vous est un corbeau, alors il est probablement noir.

Bienvenue dans le monde des IA modernes.

Ces dernières années, on nous a vendu des modèles "quasi humains", capables de passer des examens de droit ou de coder des applications. Sauf que voici le problème : ces IA ne raisonnent pas. Elles excellent à donner l'illusion du raisonnement, comme un magicien qui devine votre carte sans jamais comprendre comment fonctionne un jeu de 52. Et aujourd'hui, les chercheurs commencent à admettre publiquement que c'est un gros, gros souci.

---

Le problème : l'IA, championne du par cœur mais cancre en logique

Pour comprendre, faisons une analogie avec votre dernier dîner entre amis.

• Un humain : Si on vous demande "Pourquoi Marie a-t-elle commandé un steak alors qu'elle est végétarienne ?", vous allez :

  1. Vous souvenir que Marie est normalement végétarienne (connaissance stockée).
  2. Noter qu'elle a commandé un steak (observation nouvelle).
  3. En déduire qu'il y a une exception (un cheat day, un pari, une erreur du serveur...) ou que votre mémoire vous joue des tours.
  4. Poser des questions pour vérifier : "Marie, tu as changé d'avis sur la viande ?"

• Une IA : Elle va vous sortir : *"Marie a commandé un steak parce que :

  • Les steaks sont populaires en France (statistique générale).
  • Le restaurant propose une bonne carte de viandes (info trouvée sur Google).
  • Les végétariens mangent parfois de la viande pour des raisons sociales (pattern observé dans des forums)."* Problème : Elle ne remarque même pas la contradiction. Elle accumule des faits sans les relier. Comme un détective qui décrivrait la scène d'un crime sans jamais se demander qui a tiré.

C'est ça, le cœur du problème : les IA actuelles ne font pas de logique déductive. Elles font du pattern matching à grande échelle. Elles repèrent des cooccurrences dans les données ("végétarien" et "steak" apparaissent parfois ensemble), mais ne comprennent pas les règles sous-jacentes ("un végétarien ne mange pas de viande, sauf exception").

"Les modèles d'IA sont comme des étudiants qui auraient lu tous les manuels de médecine sans jamais avoir vu un patient." — Yann LeCun (Meta), qui n'y va pas par quatre chemins.

---

Exemples concrets : quand l'IA se plante (et que ça fait peur)

1. Le test du "bateau dans une bouteille"

Demandez à une IA : "Un bateau en bois flotte sur l'eau. On le place dans une bouteille en verre, on ferme la bouteille, et on la jette à l'eau. Que se passe-t-il ?"

• Réponse humaine : "Le bateau coule avec la bouteille, parce que l'air dans la bouteille est emprisonné et ne peut pas soutenir le poids du bois."
• Réponse IA (type ChatGPT/Gemini) : "Le bateau continue de flotter à l'intérieur de la bouteille, car le bois est moins dense que l'eau." → Faux. L'IA a mémorisé que "le bois flotte", mais n'a pas compris le contexte physique (la bouteille fermée empêche l'équilibre des forces).

Pourquoi c'est grave ? Parce que ce genre d'erreur montre que l'IA ne simule pas le monde. Elle superpose des règles sans les hiérarchiser.

2. Le piège des "questions à double sens"

Posez cette énigme classique : "Trois interrupteurs contrôlent trois ampoules dans une autre pièce. Vous ne pouvez entrer qu'une fois dans la pièce des ampoules. Comment déterminer quel interrupteur contrôle quelle ampoule ?"

• Solution humaine : Allumer le premier interrupteur 5 minutes, l'éteindre, allumer le deuxième, et laisser le troisième éteint. En entrant, une ampoule sera chaude (premier interrupteur), une allumée (deuxième), une éteinte et froide (troisième).
• Réponse IA : "Il faut allumer les interrupteurs un par un et observer." → Échec total. L'IA ne conçoit pas la notion de chaleur résiduelle comme indice.

Conséquence : Ces modèles sont incapables de résoudre des problèmes nécessitant une expérience physique ou une manipulation mentale d'objets.

3. Le casse-tête des "faux amis" en code

Donnez ce bout de code Python à une IA et demandez-lui de le corriger :

def est_pair(n):
    return n % 2 == 0

print(est_pair(3.0))

• Bug : La fonction retourne True pour 3.0 (car 3.0 % 2 = 1.0, mais 1.0 == 0 est False en Python... sauf que 3.0 % 2 donne 1.0, et 1.0 == 0 est False. Wait, non, attendez—)
• Réponse IA : "Le code est correct, il vérifie bien si un nombre est pair." → Faux. Le problème vient des flottants (3.0 % 2 donne 1.0, pas 1), et l'IA ne voit pas la subtilité.

Pourquoi c'est inquiétant ? Parce que ces erreurs montrent que l'IA ne teste pas vraiment le code. Elle se fie à des patterns ("% 2 = pair/impair"), sans comprendre les types de données ou les effets de bord.

---

Pourquoi c'est un problème (et pas juste un détail technique)

1. Dans la vraie vie : des conséquences réelles

• Médecine : Une IA pourrait recommander un traitement en se basant sur des symptômes semblables à une maladie, sans remarquer une contre-indication évidente (ex. : allergie mentionnée 3 pages plus haut dans le dossier médical).
• Justice : Comme dans le cas de cette femme condamnée à tort par reconnaissance faciale, les IA peuvent accumuler des "preuves" sans voir les incohérences.
• Finance : Un agent IA autonome pourrait prendre des décisions boursières basées sur des corrélations historiques... sans comprendre un krach en temps réel.

2. Le marketing nous ment (encore)

Les entreprises d'IA adorent les termes comme "raisonnement de niveau humain" ou "compréhension profonde". Sauf que :

• Gemini (Google) a été critiqué pour ses réponses farfelues sur des sujets basiques.
• ChatGPT invente des sources ou des faits avec une confiance déconcertante (cf. pourquoi l'IA ne sait pas dire "je ne sais pas").
• Les benchmarks sont truqués : Les tests comme MMLU (qui évalue les IA) mesurent la mémorisation, pas la compréhension. C'est comme noter un perroquet sur sa capacité à réciter Shakespeare.

3. La solution n'est pas simple

Certains pensent que :

• "Il faut plus de données !" → Non. Ajouter des données aggrave le problème : l'IA mémorise encore plus de patterns sans comprendre.
• "Il faut des modèles plus gros !" → Qwen 3 d'Alibaba a 1 000 milliards de paramètres et se plante toujours sur des énigmes de CM2.
• "Il faut de la logique symbolique !" → Les approches hybrides (neuro-symboliques) existent, mais elles sont lentes et peu scalables.

La vraie piste ? L'apprentissage par renforcement avec feedback humain (RLHF) et les agents IA qui peuvent "expérimenter" (comme Claude Computer Use, qui utilise un ordinateur pour vérifier ses réponses). Mais on en est encore aux balbutiements.

---

Faut-il désespérer ? Non, mais il faut arrêter de rêver

Les IA actuelles sont incroyablement utiles pour : ✅ Générer du texte créatif (articles, poèmes, scripts). ✅ Automatiser des tâches répétitives (tri de mails, résumés). ✅ Servir de premier jet pour des développeurs ou des designers.

Mais elles ne remplaceront pas : ❌ Un médecin qui pose un diagnostic complexe. ❌ Un avocat qui construit une stratégie juridique. ❌ Un ingénieur qui conçoit un pont.

Le vrai danger ? Croire que parce qu'une IA semble intelligente, elle est intelligente. C'est comme confier les clés de votre voiture à un enfant de 10 ans parce qu'il a regardé Fast & Furious 50 fois.

---

FAQ

[Pourquoi les IA se trompent-elles sur des choses évidentes ?] Parce qu'elles fonctionnent par association statistique, pas par compréhension. Elles repèrent des motifs dans les données ("végétarien" + "steak" = "exception possible"), mais ne raisonnent pas sur les causes. Comme un étudiant qui recopierait Wikipedia sans jamais ouvrir un livre de physique.

[Est-ce que les IA vont un jour raisonner comme nous ?] Personne ne sait. Certains chercheurs (comme Yoshua Bengio) travaillent sur des architectures consciences (avec mémoire épisodique), mais c'est encore de la science-fiction. Aujourd'hui, même GPT-5 ou Gemini 2 restent des "super-autocompléteurs".

[Comment utiliser une IA sans se faire avoir ?]

1. Vérifiez toujours ses sources (elle invente souvent).
2. Posez des questions en plusieurs étapes : si elle se contredit, c'est mauvais signe.
3. Ne lui confiez pas de décisions critiques (santé, finance, justice) sans supervision humaine.
4. Utilisez-la comme un outil, pas comme un expert. Pour écrire de meilleurs prompts, par exemple, pas pour diagnostiquer un cancer.