Étapes de raisonnement : une signature interne, pas une preuve de fidélité
Une équipe du KAIST et de Naver AI Lab a posé une question simple : quand un modèle écrit « je décompose », « je rappelle la formule », « je calcule », est-ce que ces étapes correspondent à quelque chose de distinct dans ses représentations internes ? Réponse : oui, et de façon assez nette pour être reconnue même quand l'étape aboutit à un résultat faux. C'est un résultat solide, et il répond à une autre question que celle qu'on lui prêtera.
