Step 5 Preview de la StepFun: model MoE de 600B pentru agenți, ponderi pe 15 octombrie

StepFun a lansat Step 5 Preview, un model rar de tip Mixture-of-Experts destinat sarcinilor agenților pe termen lung, cum ar fi programarea, analiza financiară și sarcinile de cunoaștere profesională. Modelul este disponibil acum prin API-ul StepFun; compania spune că ponderile deschise vor urma pe 15 octombrie.

Arhitectură și scară

StepFun descrie Step 5 Preview ca având aproximativ 600 de miliarde de parametri totali, cu aproximativ 27 de miliarde activi per token, construit pe un transformer îngust-adânc cu 92 de straturi, mai degrabă decât pe o rețea mai lată, ceea ce compania susține că oferă căi de raționament mai lungi în timpul procesării contextului lung. Suportă o fereastră de context de un milion de tokeni și acceptă atât intrare text, cât și imagini. Antrenamentul s-a bazat, potrivit rapoartelor, pe învățare prin consolidare on-policy pe termen lung, cu tehnici precum decodarea speculativă și calculul FP8 MoE pentru a accelera procesul -- detalii care provin din materialele de lansare ale StepFun.

Benchmarkuri și prețuri

Potrivit Artificial Analysis, Step 5 Preview obține în jur de 44 pe Indexul său de Inteligență, aproximativ la egalitate cu Kimi K3 (max) și cu aproximativ un punct în spatele GLM-5.3 și Qwen3.8 Max. Aceeași sursă de benchmarkuri arată că se descurcă bine la întrebările Humanity's Last Exam și CritPt de fizică, dar rămâne în urma colegilor la benchmarkurile agentice precum GDPval-AA și Terminal-Bench 4.0, cu o rată de halucinație raportată de 43%. Prețul API listat de StepFun este de aproximativ 1 USD per milion de tokeni de intrare și 2,70 USD per milion de tokeni de ieșire, cu aproximativ 100 de tokeni pe secundă la ieșire -- remarcabil de ieftin față de modelele comparabile apropiate de frontieră, deși acestea sunt prețuri de listă, nu economii unitare auditate.

Ponderile deschise nu sunt încă aici

La momentul publicării, depozitul Hugging Face al StepFun pentru model conține doar un fișier temporar, fără ponderi, licență sau fișă de model. Compania s-a angajat la o lansare deschisă pe 15 octombrie; odată disponibilă, auto-găzduirea modelului complet va necesita aproximativ 1,2 terabytes de memorie în BF16, înainte de a lua în calcul cache-ul KV, ceea ce înseamnă hardware de server multi-GPU, nu o singură stație de lucru.

Tratați cifrele de benchmark și de cost de mai sus ca fiind raportate de producător și de terți până când testele independente le confirmă, și tratați data de 15 octombrie pentru ponderile deschise ca pe planul declarat al StepFun, nu ca pe o lansare garantată.

Surse: MarkTechPost, Pandaily.