White Circle rende open source Halo, un trainer Hugging Face più veloce

White Circle, una startup parigina di sicurezza AI, ha reso open source Halo il 21 settembre 2026 — un framework di training distribuito creato per accelerare il post-training dei modelli Hugging Face mantenendoli nel formato standard che il resto dell'ecosistema si aspetta. L'azienda ha sviluppato Halo internamente prima di rilasciarlo; la cronologia della repository mostra una release iniziale un mese prima, il 20 agosto 2026.

Cosa cambia nel post-training

Halo incapsula le definizioni esistenti dei modelli Hugging Face invece di sostituirle: i checkpoint si caricano ancora tramite la familiare chiamata from_pretrained e restano file SafeTensors standard. White Circle afferma che supportare una nuova famiglia di modelli richiede in genere ben meno di 150 righe di codice di integrazione. Sotto il cofano, il framework aggiunge parallelismo per esperti, di contesto, tensoriale e combinato esperti-tensori, insieme a fine-tuning LoRA/QLoRA e apprendimento per rinforzo multi-turno asincrono.

Il benchmark e ciò che non ti dice

White Circle riferisce che Halo offre da 2,3 a 2,8 volte il throughput del TRL Hugging Face standard nei propri test sul modello gpt-oss-20b di OpenAI, usando le stesse ottimizzazioni di attention e kernel in entrambi i sistemi, in modo che il confronto isoli trainer e ottimizzatore. Si tratta di benchmark interni all'azienda, non di un risultato riprodotto in modo indipendente, e osservatori esterni hanno notato che il vantaggio si riduce con lunghezze di contesto molto elevate. I team che valutano Halo dovrebbero considerare il moltiplicatore dichiarato come un punto di partenza legato a un singolo modello e a una singola configurazione hardware, non come una garanzia per un carico di lavoro diverso.

Un dettaglio di licenza da leggere prima dell'adozione

Halo viene distribuito con una licenza Apache modificata che aggiunge condizioni commerciali per le organizzazioni più grandi o per gli utenti con ricavi più elevati, invece della semplice Apache 2.0. I team che pianificano un uso in produzione, soprattutto su larga scala, dovrebbero leggere direttamente il testo della licenza invece di dare per scontate condizioni open source senza restrizioni.

Per gli MSP e i team di prodotto che già eseguono pipeline di training basate su Hugging Face, Halo merita una prova pilota su un carico di lavoro rappresentativo prima di prendere per buona qualsiasi affermazione sul throughput.

Fonti: GitHub — whitecircle/halo, RuntimeWire — White Circle rilascia Halo.