Entre les modèles massifs, conçus pour maximiser la performance au prix d’une infrastructure lourde, les modèles optimisés, qui privilégient l’efficacité et la rapidité, et les modèles à mixture d’experts (MoE), visant à concilier puissance et économie de calcul, trois…