Alignement multi-agents de modèles de langage pour la génération de code guidée par des préférences multiples

Les progrès récents des modèles de langage de grande taille (LLMs) ont considérablement amélioré la génération automatique de code, mais leurs exigences computationnelles massives en limitent l’accessibilité. À l’inverse, les modèles de petite taille (SLMs) permettent un déploiement plus léger, mais présentent souvent des performances inférieures en matière de correction fonctionnelle et de qualité du code. Ce mémoire propose un cadre agentique pour la génération de code avec des SLMs, dans lequel plusieurs spécialistes de préférences collaborent afin d’affiner une solution initiale. Deux stratégies de coordination sont étudiées : (i) critique–édition, où des experts fournissent des retours structurés agrégés par un éditeur unique, et (ii) raffinement distribué, où les experts révisent itérativement la solution et valident mutuellement le respect des préférences. La correction fonctionnelle est évaluée sur BigCodeBench (Hard) à l’aide de la métrique Pass@k, et l’alignement aux préférences est mesuré via un protocole pair-à-pair fondé sur un LLM-as-a-Judge. La coordination multi-agents améliore principalement les performances lorsque plusieurs générations sont autorisées : sous le mode Complete, critique–édition atteint Pass@5 = 18,2 et Pass@10 = 19,6, tandis que le raffinement distribué atteint Pass@5 = 17,6. Ces gains s’accompagnent d’une baisse de la fiabilité au premier essai (Pass@1 = 7,7 pour critique–édition). Par ailleurs, le peaufinage basé sur les préférences améliore la qualité perçue du code, avec 70–78 % de préférences en faveur des variantes ajustées. Ces résultats mettent en évidence un compromis entre alignement qualitatif et correction fonctionnelle immédiate, tout en montrant la complémentarité des deux leviers proposés.