OpenAI ha costruito una 'Defense Factory' per far riparare i propri bug dagli agenti AI

OpenAI ha costruito quella che chiama Defense Factory: un'operazione interna che utilizza i propri agenti AI, basati su un modello incentrato sulla sicurezza chiamato Astra, per trovare e correggere continuamente le vulnerabilità nei propri sistemi prima che gli aggressori esterni possano farlo. L'azienda la descrive come una risposta a un vantaggio specifico e in via di riduzione — quello che chiama la «finestra del difensore», il periodo durante il quale i difensori hanno accesso diretto al proprio codice sorgente e all'infrastruttura più un accesso anticipato ai modelli avanzati, prima che capacità informatiche simili diventino ampiamente disponibili per gli aggressori attraverso i modelli open-weight.

Come OpenAI l'ha testato su se stessa

Il presidente di OpenAI Greg Brockman ha descritto di aver puntato Astra sui sistemi di produzione di OpenAI finché non ha esaurito le vulnerabilità da trovare. «Abbiamo preso il 25% dei nostri ingegneri di produzione e abbiamo detto: “Scusate, tutti i vostri progetti sono in attesa. Ora siete in difesa... Userete i modelli per trovare tutti i buchi”», ha detto Brockman. Lo sforzo ha trovato e corretto una serie di problemi gravi prima di saturarsi, raggiungendo, secondo la valutazione di OpenAI, tutti i problemi critici che Astra era in grado di trovare. L'iniziativa sarebbe nata da uno sprint di sicurezza interno che ha mobilitato più di 250 persone in centinaia di aree di servizio con un'urgenza pari a quella di una risposta agli incidenti.

Cosa fa concretamente la Defense Factory

Una Defense Factory collega gli agenti AI agli strumenti di sicurezza e sviluppo esistenti — GitHub, GitLab, Snyk, Semgrep, Tenable, Jira, Linear, ServiceNow e altri, tramite API, strumenti a riga di comando e integrazioni Model Context Protocol — e li fa passare attraverso cinque fasi: inventario dei sistemi che necessitano di valutazione, scoperta delle potenziali vulnerabilità, convalida dinamica di quali sono reali, assegnazione di una chiara responsabilità per la correzione e verifica successiva dell'intervento.

L'aspetto governance per gli MSP

Per i provider di servizi gestiti, la domanda rilevante non è come gestire strumenti di sicurezza offensiva, ma come governare l'accesso a modelli AI difensivi sempre più capaci sull'infrastruttura rivolta ai clienti. Ciò significa trattare le modalità di sicurezza ad alta capacità allo stesso modo di qualsiasi altro strumento con privilegi elevati: soggette al controllo delle modifiche, con richiesta di ticket e doppia approvazione prima dell'attivazione su un tenant gestito, e con registri delle azioni conservati e consultabili. L'impostazione di OpenAI — usare modelli di frontiera per chiudere le lacune di sicurezza prima che gli aggressori ottengano strumenti equivalenti — regge per un difensore solo se i controlli di accesso attorno a quella capacità sono rigorosi quanto la capacità stessa.

In sintesi

Si tratta di un concetto di operazioni di sicurezza reale e sostanziale di OpenAI, non di voci o chiacchiere sui social media: l'azienda ha pubblicato un playbook completo insieme all'annuncio. Gli MSP che valutano la gestione delle vulnerabilità assistita dall'AI dovrebbero esaminare il modello di governance con la stessa attenzione della capacità, poiché lo stesso approccio di scansione continua che trova i bug più velocemente può anche creare una nuova superficie ad accesso elevato se non viene controllato con attenzione.

Fonti: OpenAI, Cybersecurity News.