OpenAI construiu uma 'Defense Factory' para agentes de IA corrigirem os seus próprios bugs

A OpenAI construiu aquilo a que chama uma Defense Factory: uma operação interna que utiliza os seus próprios agentes de IA, impulsionados por um modelo focado em segurança chamado Astra, para encontrar e corrigir continuamente vulnerabilidades nos seus sistemas antes de os atacantes externos o poderem fazer. A empresa descreve-a como uma resposta a uma vantagem específica e em estreitamento — aquilo a que chama a “janela do defensor”, o período durante o qual os defensores têm acesso direto ao seu próprio código-fonte e infraestrutura, além de acesso antecipado a modelos avançados, antes de uma capacidade cibernética semelhante ficar amplamente disponível para os atacantes através de modelos de peso aberto.

Como a OpenAI a testou em si própria

O presidente da OpenAI, Greg Brockman, descreveu ter apontado o Astra aos sistemas de produção da própria OpenAI até ficar sem vulnerabilidades para encontrar. “Pegámos em 25% dos nossos engenheiros de produção e dissemos: ‘Lamento, todos os vossos projetos estão suspensos. Agora estão a defender... Vão usar os modelos para encontrar todos os buracos’”, disse Brockman. O esforço encontrou e corrigiu uma série de problemas graves antes de saturar — atingindo, na avaliação da OpenAI, todos os problemas críticos que o Astra era capaz de encontrar. A iniciativa terá surgido de um sprint interno de segurança que mobilizou mais de 250 pessoas em centenas de áreas de serviço com um nível de urgência equivalente ao de resposta a incidentes.

O que a fábrica realmente faz

Uma Defense Factory liga agentes de IA às ferramentas existentes de segurança e de desenvolvimento — GitHub, GitLab, Snyk, Semgrep, Tenable, Jira, Linear, ServiceNow e outras, através de APIs, ferramentas de linha de comandos e integrações Model Context Protocol — e executa-os em cinco etapas: inventariar os sistemas que precisam de avaliação, descobrir potenciais vulnerabilidades, validar dinamicamente quais são reais, atribuir uma responsabilidade clara pela remediação e verificar a correção posteriormente.

A perspetiva de governação para MSP

Para os fornecedores de serviços geridos, a questão relevante não é como executar ferramentas de segurança ofensiva — é como governar o acesso a modelos de IA defensiva cada vez mais capazes em infraestruturas viradas para o cliente. Isso significa tratar os modos de segurança de elevada capacidade da mesma forma que qualquer outra ferramenta com privilégios elevados: limitados por controlo de alterações, exigindo ticket e dupla aprovação antes da ativação num tenant gerido, com registos de ações retidos e passíveis de revisão. O enquadramento da própria OpenAI — usar modelos de fronteira para fechar falhas de segurança antes de os atacantes obterem ferramentas equivalentes — só se sustenta para um defensor se os controlos de acesso em torno dessa capacidade forem tão rigorosos quanto a própria capacidade.

Conclusão

Este é um conceito de operações de segurança real e substancial da OpenAI, não um rumor ou conversa de redes sociais — a empresa publicou um manual completo juntamente com o anúncio. Os MSP que estejam a avaliar a gestão de vulnerabilidades assistida por IA devem olhar para o modelo de governação com tanta atenção como para a capacidade, uma vez que a mesma abordagem de análise contínua que encontra bugs mais rapidamente também pode criar uma nova superfície de acesso elevado se não for controlada com cuidado.

Fontes: OpenAI, Cybersecurity News.