Yandex publie en open source un modèle 80B qu'il dit avoir entraîné de zéro

Yandex a publié AliceAI-Foundation-80B-A3B-Base sous licence Apache 2.0 vers le 21 septembre 2026. L’entreprise le décrit comme un modèle de base entièrement entraîné de zéro — et non initialisé à partir des poids de Qwen, Llama ou d’un autre modèle existant — publié comme banc d’essai expérimental pour l’architecture qui sous-tend le futur modèle de raisonnement unifié prévu par Yandex pour son assistant Alice.

Ce que contient le modèle

AliceAI-Foundation-80B-A3B-Base est un modèle hybride à mélange d’experts doté d’environ 80 milliards de paramètres au total et d’environ 3 milliards de paramètres actifs par jeton, utilisant 512 experts avec un schéma de routage des 10 meilleurs experts plus un expert partagé et un mélange de types de couches d’attention. La longueur de contexte atteint 262 144 jetons. Il s’agit explicitement d’un modèle de base — ni ajusté aux instructions ni conçu comme un chatbot — qui nécessite donc une étape de fine-tuning avant de se comporter comme un assistant.

Des benchmarks propres à l’entreprise

Yandex compare le modèle à Qwen3.5, Nemotron-3 et DeepSeek-V4-Flash-Base et indique qu’il égale des modèles ouverts plus grands sur les tâches de codage et de raisonnement tout en consommant moins de calcul à l’inférence, grâce à la faible part de paramètres actifs par jeton. Ces comparaisons proviennent des documents de publication de Yandex plutôt que d’une évaluation indépendante, et doivent être lues comme le récit de l’entreprise sur la position de son modèle, et non comme un classement neutre.

Disponibilité

Le modèle en pleine précision d’environ 163 Go est publié sur Hugging Face sous licence Apache 2.0, accompagné d’un rapport technique et des jeux d’évaluation WikiWebFacts et HardMultiQA utilisés dans les tests de Yandex. La communauté a déjà produit des variantes quantifiées GGUF, MLX et NVFP4 pour une inférence locale moins coûteuse.

Pour les équipes qui évaluent des modèles de base à poids ouverts, la licence Apache 2.0 et l’affirmation d’un entraînement de zéro sont les éléments à vérifier directement dans la fiche du modèle ; les benchmarks comparatifs relèvent du marketing tant qu’une entité extérieure à Yandex ne les a pas reproduits.

Sources : Yandex — communiqué de presse relations investisseurs, Hugging Face — yandex/AliceAI-Foundation-80B-A3B-Base.