Step 5 Preview de StepFun : un modèle MoE 600B pour agents, poids le 15 octobre

StepFun a lancé Step 5 Preview, un modèle sparse Mixture-of-Experts destiné aux tâches agentiques de longue durée telles que le codage, l'analyse financière et les travaux de connaissance professionnelle. Le modèle est disponible dès maintenant via l'API de StepFun ; l'entreprise indique que les poids ouverts suivront le 15 octobre.

Architecture et échelle

StepFun décrit Step 5 Preview comme un modèle d'environ 600 milliards de paramètres au total, avec environ 27 milliards de paramètres actifs par jeton, construit sur un transformeur narrow-deep de 92 couches plutôt que sur un réseau plus large, ce qui, selon l'entreprise, favorise des chemins de raisonnement plus longs lors du traitement de contextes étendus. Il prend en charge une fenêtre de contexte d'un million de jetons et accepte des entrées textuelles comme visuelles. L'entraînement aurait reposé sur un apprentissage par renforcement on-policy de longue durée, avec des techniques telles que le speculative decoding et le calcul MoE en FP8 pour accélérer le processus — des détails issus des supports de communication de StepFun.

Benchmarks et tarification

Selon Artificial Analysis, Step 5 Preview obtient un score d'environ 44 sur son Intelligence Index, à peu près au niveau de Kimi K3 (max) et environ un point derrière GLM-5.3 et Qwen3.8 Max. La même source de benchmark indique qu'il obtient de bons résultats sur Humanity's Last Exam et sur les questions de physique CritPt, mais qu'il est en retrait par rapport à ses pairs sur les benchmarks agentiques tels que GDPval-AA et Terminal-Bench 4.0, avec un taux d'hallucination rapporté de 43 %. La tarification API affichée par StepFun est d'environ 1 $ par million de jetons d'entrée et 2,70 $ par million de jetons de sortie, avec environ 100 jetons par seconde en sortie — un prix notablement bas par rapport aux modèles comparables proches du niveau frontière, même s'il s'agit de prix catalogue plutôt que d'une économie unitaire auditée.

Les poids ouverts ne sont pas encore disponibles

À la date de publication, le dépôt Hugging Face de StepFun pour le modèle ne contient qu'un fichier d'espace réservé, sans poids, licence ni fiche de modèle. L'entreprise s'est engagée à une publication ouverte le 15 octobre ; une fois disponibles, l'auto-hébergement du modèle complet nécessitera environ 1,2 téraoctet de mémoire en BF16, sans compter le cache KV, ce qui implique un matériel serveur multi-GPU plutôt qu'une station de travail unique.

Considérez les chiffres de benchmark et de coût ci-dessus comme des données rapportées par le fournisseur et par des tiers jusqu'à ce que des tests indépendants les confirment, et considérez la date du 15 octobre pour les poids ouverts comme le plan annoncé par StepFun plutôt que comme une publication garantie.

Sources : MarkTechPost, Pandaily.