Le raisonnement des LLM (chaîne de pensée)

Pourquoi ça marche

Un LLM produit sa réponse token après token, chacun calculé à partir des précédents. S'il donne la réponse d'emblée, il doit tout résoudre en une seule étape. S'il écrit d'abord son raisonnement, chaque étape sert d'appui à la suivante : le texte produit lui sert de brouillon.

Exemple : « Un lot de 3 cartouches coûte 45 €, un lot de 5 en coûte 72 €. Lequel est le moins cher à l'unité ? » En posant 45 ÷ 3 = 15 € puis 72 ÷ 5 = 14,40 €, le modèle conclut correctement : le lot de 5.

Deux façons d'obtenir un raisonnement

• Par le prompt : on demande au modèle de détailler ses étapes avant de conclure, ou on lui montre un exemple résolu pas à pas.
• Avec un modèle de raisonnement : certains modèles ont été entraînés à réfléchir longuement avant de répondre, sans qu'on le leur demande. Plus lents et plus coûteux, ils sont plus fiables sur les problèmes complexes.

Chez ces modèles, le comportement n'est pas programmé : il est appris par renforcement, en récompensant les raisonnements qui aboutissent à des réponses vérifiables (un calcul juste, un code qui fonctionne). Le modèle apprend ainsi à poser une intuition, la tester et la corriger avant de répondre.

Ses limites

• Plus de tokens générés, donc plus de temps et de coût : inutile pour une simple reformulation.
• Un raisonnement bien écrit n'est pas une preuve : une étape fausse entraîne une conclusion fausse.
• Le raisonnement affiché est une trace utile, pas une image fidèle de tout le calcul interne du modèle.

C'est pourquoi les assistants proposent un mode rapide et un mode réflexion, et qu'un routeur décide quelles requêtes méritent le second.

Pour fiabiliser la réponse, on peut produire plusieurs raisonnements et les faire voter : c'est la Self-Consistency.