CodeSteer : le coach intelligent qui améliore les performances des grands modèles de langage
Les grands modèles de langage (LLM) brillent par leur capacité à comprendre et analyser des textes complexes. Cependant, ils peinent souvent avec des calculs symboliques ou des tâches algorithmiques simples, comme résoudre des problèmes mathématiques ou logiques. Pour pallier ces limites, des chercheurs du MIT ont développé CodeSteer, un assistant astucieux qui guide les LLM pour alterner efficacement entre la génération de texte et de code, améliorant considérablement leurs réponses.
Un assistant de confiance pour guider les LLM
CodeSteer se présente comme un petit modèle de langage entraîné à diriger un modèle plus grand. Son rôle ? Analyser la requête, décider si une réponse textuelle ou un code (souvent en Python) serait plus adapté, puis orienter le grand modèle vers la meilleure approche. Après chaque réponse, CodeSteer évalue le résultat, corrige et guide l’algorithme jusqu’à une solution correcte.
Cette méthode rappelle la relation entre un coach et un athlète : même si le coach n’est pas forcément le meilleur joueur, il sait comment orienter pour optimiser la performance. Ainsi, CodeSteer aide à éviter la tendance des grands modèles à produire parfois un code simplifié voire erroné, en introduisant un mécanisme de contrôle de la complexité et de vérification des réponses.
Des résultats impressionnants sur des tâches complexes
Pour entraîner et tester CodeSteer, les chercheurs ont créé un nouveau jeu de données, SymBench, regroupant 37 tâches symboliques difficiles : raisonnement spatial, mathématiques, ordonnancement, optimisation, etc. Les résultats sont parlants : l’association CodeSteer + grand modèle améliore de manière significative la précision, passant de 53,3 % à 86,4 % en moyenne.
Mieux encore, cette approche permet à des modèles moins puissants d’égaler, voire de surpasser, des modèles plus sophistiqués spécialisés en raisonnement complexe. Elle ouvre ainsi une nouvelle voie pour rendre les LLM plus polyvalents et efficaces sans coûteux retrainings.
Perspectives et innovations futures
Les chercheurs visent désormais à accélérer les interactions entre CodeSteer et les grands modèles, afin de rendre l’assistant plus réactif. Ils explorent aussi la possibilité de concevoir un unique modèle pouvant basculer lui-même entre raisonnement textuel et génération de code, sans passer par un assistant externe.
En résumé, CodeSteer représente une avancée majeure pour faciliter l’intégration de compétences symboliques et algorithmiques dans les LLM, renforçant leur capacité à résoudre des problèmes complexes dans des contextes variés, du robotique à la logistique.
👉 Source ici