OpenAI byggde en "Defense Factory" för att låta AI-agenter fixa sina egna buggar

OpenAI har byggt vad man kallar en Defense Factory: en intern verksamhet som använder företagets egna AI-agenter, drivna av en säkerhetsfokuserad modell kallad Astra, för att kontinuerligt hitta och åtgärda sårbarheter i sina system innan externa angripare hinner göra det. Företaget beskriver det som ett svar på en specifik, krympande fördel – vad man kallar "försvararens fönster", den period då försvarare har direkt åtkomst till sin egen källkod och infrastruktur plus tidig tillgång till avancerade modeller, innan liknande cyberförmåga blir allmänt tillgänglig för angripare via modeller med öppna vikter.

Hur OpenAI testade den på sig själv

OpenAI:s president Greg Brockman beskrev hur man riktade Astra mot OpenAI:s egna produktionssystem tills den inte längre hittade några sårbarheter. "Vi tog 25 procent av våra produktionsingenjörer och sa: 'Tyvärr, alla era projekt är pausade. Ni ska nu försvara... Ni kommer att använda modellerna för att hitta alla hål'", sa Brockman. Insatsen hittade och åtgärdade ett antal allvarliga problem innan den mättades – och nådde, enligt OpenAI:s bedömning, alla kritiska problem som Astra kunde hitta. Initiativet växte enligt uppgift fram ur en intern säkerhetssprint som mobiliserade fler än 250 personer över hundratals tjänsteområden med en angelägenhetsgrad motsvarande incidenthantering.

Vad fabriken faktiskt gör

En Defense Factory kopplar AI-agenter till befintliga säkerhets- och utvecklarverktyg – GitHub, GitLab, Snyk, Semgrep, Tenable, Jira, Linear, ServiceNow med flera, via API:er, kommandoradsverktyg och Model Context Protocol-integrationer – och kör dem genom fem steg: inventera system som behöver bedömas, upptäcka potentiella sårbarheter, dynamiskt validera vilka som är verkliga, tilldela tydligt ägarskap för åtgärdande och verifiera korrigeringen efteråt.

MSP-styrningsperspektivet

För managed service providers är den relevanta frågan inte hur man kör offensiva säkerhetsverktyg – utan hur man styr åtkomsten till allt mer kapabla defensiva AI-modeller i kundnära infrastruktur. Det innebär att behandla högkapacitetslägen för säkerhet på samma sätt som alla andra verktyg med förhöjda privilegier: bakom ändringshantering, med krav på ärende och dubbelt godkännande innan aktivering på en hanterad klient, och med åtgärdsloggar som sparas och kan granskas. OpenAI:s eget resonemang – att använda frontiermodeller för att täppa till säkerhetsluckor innan angripare får motsvarande verktyg – håller bara för en försvarare om åtkomstkontrollerna kring den förmågan är lika strikta som förmågan själv.

Slutsats

Detta är ett verkligt och substantiellt säkerhetsoperationskoncept från OpenAI, inte rykten eller prat i sociala medier – företaget publicerade en fullständig playbook i samband med tillkännagivandet. MSP:er som utvärderar AI-assisterad sårbarhetshantering bör granska styrningsmodellen lika noga som förmågan, eftersom samma kontinuerliga skanningsmetod som hittar buggar snabbare också kan skapa en ny yta med förhöjd åtkomst om den inte kontrolleras noggrant.

Källor: OpenAI, Cybersecurity News.