OpenAI a construit o „Fabrică de Apărare” ca agenții AI să-și repare propriile bug-uri

OpenAI a construit ceea ce numește o Fabrică de Apărare: o operațiune internă care își folosește propriii agenți AI, alimentați de un model axat pe securitate numit Astra, pentru a găsi și remedia continuu vulnerabilități în sistemele sale înainte ca atacatorii externi să poată face acest lucru. Compania o descrie ca pe un răspuns la un avantaj specific, care se îngustează — ceea ce numește „fereastra apărătorului”, perioada în care apărătorii au acces direct la propriul cod sursă și infrastructură plus acces timpuriu la modele avansate, înainte ca o capacitate cibernetică similară să devină disponibilă pe scară largă pentru atacatori prin modele open-weight.

Cum a testat OpenAI pe sine

Președintele OpenAI, Greg Brockman, a descris cum a îndreptat Astra asupra propriilor sisteme de producție ale OpenAI până când a rămas fără vulnerabilități de găsit. „Am luat 25% din inginerii noștri de producție și le-am spus: «Ne pare rău, toate proiectele voastre sunt puse pe pauză. Acum apărați... Veți folosi modelele pentru a găsi toate găurile»”, a spus Brockman. Efortul a găsit și remediat o serie de probleme grave înainte de a ajunge la saturație — atingând, în evaluarea OpenAI, toate problemele critice pe care Astra era capabilă să le găsească. Inițiativa ar fi pornit dintr-un sprint intern de securitate care a mobilizat peste 250 de persoane în sute de zone de servicii cu o urgență de nivel de răspuns la incident.

Ce face de fapt fabrica

O Fabrică de Apărare conectează agenții AI la instrumentele existente de securitate și dezvoltare — GitHub, GitLab, Snyk, Semgrep, Tenable, Jira, Linear, ServiceNow și altele, prin API-uri, instrumente de linie de comandă și integrări Model Context Protocol — și îi rulează prin cinci etape: inventarierea sistemelor care necesită evaluare, descoperirea vulnerabilităților potențiale, validarea dinamică a celor reale, atribuirea clară a responsabilității pentru remediere și verificarea remedierii ulterior.

Perspectiva de management pentru MSP

Pentru furnizorii de servicii gestionate, întrebarea relevantă nu este cum să ruleze instrumente de securitate ofensivă — ci cum să guverneze accesul la modele AI defensive din ce în ce mai capabile pe infrastructura orientată către clienți. Asta înseamnă să tratezi modurile de securitate de înaltă capacitate la fel ca orice alt instrument cu privilegii ridicate: restricționat în spatele controlului de schimbare, necesitând tichet și dublă aprobare înainte de activare pe un tenant gestionat, cu jurnale de acțiuni păstrate și revizuibile. Cadrul propriu al OpenAI — folosirea modelelor de frontieră pentru a închide golurile de securitate înainte ca atacatorii să obțină instrumente echivalente — nu se susține pentru un apărător decât dacă controalele de acces din jurul acelei capacități sunt la fel de stricte ca și capacitatea însăși.

Concluzie

Acesta este un concept real și substanțial de operațiuni de securitate de la OpenAI, nu zvon sau discuții pe rețelele sociale — compania a publicat un playbook complet alături de anunț. MSP-urile care evaluează gestionarea vulnerabilităților asistată de AI ar trebui să analizeze modelul de guvernanță la fel de atent ca și capacitatea, deoarece aceeași abordare de scanare continuă care găsește bug-urile mai repede poate crea și o nouă suprafață de acces elevat dacă nu este controlată cu atenție.

Surse: OpenAI, Cybersecurity News.