OpenAI bouwt een 'Defense Factory' om AI-agenten eigen bugs te laten repareren

OpenAI heeft gebouwd wat het een Defense Factory noemt: een interne operatie die eigen AI-agenten, aangedreven door een beveiligingsgericht model genaamd Astra, gebruikt om continu kwetsbaarheden in zijn systemen te vinden en te verhelpen voordat externe aanvallers dat kunnen. Het bedrijf beschrijft het als een reactie op een specifiek, kleiner wordend voordeel — wat het de “defender's window” noemt, de periode waarin verdedigers directe toegang hebben tot hun eigen broncode en infrastructuur plus vroege toegang tot geavanceerde modellen, voordat vergelijkbare cybercapaciteit via open-weight modellen breed beschikbaar wordt voor aanvallers.

Hoe OpenAI het op zichzelf testte

OpenAI-president Greg Brockman beschreef hoe Astra op OpenAI's eigen productiesystemen werd gericht totdat het geen kwetsbaarheden meer vond. “We namen 25% van onze productie-engineers en zeiden: ‘Sorry, al je projecten staan on hold. Je verdedigt nu... Je gaat de modellen gebruiken om alle gaten te vinden,’” zei Brockman. De inspanning vond en verholp een aantal serieuze problemen voordat het verzadigd raakte — volgens OpenAI's beoordeling alle kritieke problemen die Astra kon vinden. Het initiatief ontstond naar verluidt uit een interne security sprint die meer dan 250 mensen mobiliseerde over honderden servicegebieden met incident-response-urgentie.

Wat de fabriek daadwerkelijk doet

Een Defense Factory verbindt AI-agenten met bestaande security- en ontwikkeltools — GitHub, GitLab, Snyk, Semgrep, Tenable, Jira, Linear, ServiceNow en anderen, via API's, command-line tools en Model Context Protocol-integraties — en laat ze door vijf fasen lopen: inventariseren van systemen die beoordeling nodig hebben, ontdekken van potentiële kwetsbaarheden, dynamisch valideren welke echt zijn, duidelijke ownership toewijzen voor remediëring en de fix achteraf verifiëren.

Het MSP-governanceperspectief

Voor managed service providers is de relevante vraag niet hoe offensieve security tooling te draaien — het is hoe toegang tot steeds capabelere defensieve AI-modellen op klantgerichte infrastructuur te besturen. Dat betekent high-capability security modes behandelen zoals elk ander elevated-privilege tool: achter change control, met ticket en dual approval vereist vóór activering op een managed tenant, met action logs die bewaard en reviewbaar zijn. OpenAI's eigen framing — frontier models gebruiken om security gaps te sluiten voordat aanvallers equivalente tools krijgen — houdt alleen stand voor een verdediger als de toegangscontroles rond die capaciteit even strak zijn als de capaciteit zelf.

Belangrijkste les

Dit is een echt, substantieel security operations concept van OpenAI, geen gerucht of social-media gepraat — het bedrijf publiceerde een volledige playbook naast de aankondiging. MSP's die AI-ondersteund kwetsbaarheidsbeheer evalueren, moeten het governance model net zo nauwkeurig bekijken als de capaciteit, omdat dezelfde continue-scanbenadering die bugs sneller vindt ook een nieuw elevated-access surface kan creëren als het niet zorgvuldig wordt gecontroleerd.

Bronnen: OpenAI, Cybersecurity News.