OpenAI e o ambiente que a IA herda

Passo o meu tempo livre a trabalhar na nossa quinta na Pensilvânia: a desbravar mato, a abrir caminhos, a tratar do pasto. Uma coisa que se aprende depressa é que nada ali fora cresce exatamente segundo um plano (por mais que eu tente). O bosque é o resultado acumulado de décadas daquilo que conseguiu enraizar-se, daquilo que os veados não comeram, daquilo que as tempestades não derrubaram ou dos sítios onde o anterior proprietário punha as suas Holstein a pastar. É resiliente, mas não fomos nós que o desenhámos. Este fim de semana estive a tirar uma vedação antiga de uma árvore que tinha crescido por completo à volta do arame. Nunca esteve previsto, mas a árvore continuou a crescer contra o obstáculo.

As organizações evoluem da mesma forma. A maioria das empresas construiu os seus sistemas de forma gradual, à medida que ia resolvendo problemas imediatos. As equipas partilhavam acessos para avançar mais depressa, os colaboradores mudavam de função mas mantinham as permissões, e as novas ferramentas de colaboração apareciam mais depressa do que as antigas desapareciam. Com o tempo, as relações de acesso foram-se acumulando mais depressa do que a maioria das organizações conseguia governá-las de forma contínua.

Durante anos, essa proliferação trouxe risco, mas também um benefício acidental: a complexidade que tornava os dados sensíveis difíceis de governar também os tornava difíceis de encontrar. Os atacantes tinham os mesmos limites que as pessoas. Navegar num ambiente desorganizado exigia tempo, perícia e paciência. Costumávamos dizer: «a obscuridade não é segurança». Afinal era, pelo menos um pouco.

Os modelos de IA mais recentes eliminam grande parte dessa obscuridade. Foi essa mudança que levou a Netwrix a aderir ao programa Daybreak da OpenAI, que dá a um pequeno grupo de defensores de segurança acesso antecipado a modelos de fronteira sem as mesmas barreiras que limitam as implementações de uso geral. Participar num programa como o Daybreak significa mais do que ter acesso a um modelo melhor. É a oportunidade de perceber, antes do resto do mercado, o que estes sistemas fazem quando são apontados a ambientes reais.

Quick answer on the headers: that's a side effect of how my markdown renders. I've been using ## (which is H2), but when content gets pasted into many CMSes, the top-level H1 is reserved for the page title, so my H2s land as H3s in your editor. Easy fix on my end — I'll switch to using # (H1) for section headers from this point on, which should land as H2 once pasted. Let me know if your CMS does something different and I'll adjust.

Here's the European Portuguese translation:

Passo o meu tempo livre a trabalhar na nossa quinta na Pensilvânia: a desbravar mato, a abrir caminhos, a tratar do pasto. Uma coisa que se aprende depressa é que nada ali fora cresce exatamente segundo um plano (por mais que eu tente). O bosque é o resultado acumulado de décadas daquilo que conseguiu enraizar-se, daquilo que os veados não comeram, daquilo que as tempestades não derrubaram ou dos sítios onde o anterior proprietário punha as suas Holstein a pastar. É resiliente, mas não fomos nós que o desenhámos. Este fim de semana estive a tirar uma vedação antiga de uma árvore que tinha crescido por completo à volta do arame. Nunca esteve previsto, mas a árvore continuou a crescer contra o obstáculo.

As organizações evoluem da mesma forma. A maioria das empresas construiu os seus sistemas de forma gradual, à medida que ia resolvendo problemas imediatos. As equipas partilhavam acessos para avançar mais depressa, os colaboradores mudavam de função mas mantinham as permissões, e as novas ferramentas de colaboração apareciam mais depressa do que as antigas desapareciam. Com o tempo, as relações de acesso foram-se acumulando mais depressa do que a maioria das organizações conseguia governá-las de forma contínua.

Durante anos, essa proliferação trouxe risco, mas também um benefício acidental: a complexidade que tornava os dados sensíveis difíceis de governar também os tornava difíceis de encontrar. Os atacantes tinham os mesmos limites que as pessoas. Navegar num ambiente desorganizado exigia tempo, perícia e paciência. Costumávamos dizer: «a obscuridade não é segurança». Afinal era, pelo menos um pouco.

Os modelos de IA mais recentes eliminam grande parte dessa obscuridade. Foi essa mudança que levou a Netwrix a aderir ao programa Daybreak da OpenAI, que dá a um pequeno grupo de defensores de segurança acesso antecipado a modelos de fronteira sem as mesmas barreiras que limitam as implementações de uso geral. Participar num programa como o Daybreak significa mais do que ter acesso a um modelo melhor. É a oportunidade de perceber, antes do resto do mercado, o que estes sistemas fazem quando são apontados a ambientes reais.

A IA muda o pressuposto

A IA não opera com as mesmas limitações que as pessoas. Isso já se vê em ferramentas como o Copilot. Uma pessoa pode fazer uma pergunta simples e trazer ao de cima dados salariais, ficheiros antigos de projetos ou relatórios internos que ninguém esperava voltar a ver. A informação estava tecnicamente acessível, mas a maioria das pessoas nunca a teria encontrado por si própria. As permissões estiveram lá desde sempre, e a IA tornou-as mais fáceis de alcançar. A preocupação que ouço neste momento de praticamente todos os CISO não é que estes modelos se comportem de forma incorreta. É que se comportam de forma correta, trazendo ao de cima dados de remuneração, relatórios internos e informação sensível de projetos a que o ambiente já lhes tinha dado acesso.

Os modelos de fronteira, como o Claude ou o GPT-5.5, vão mais longe. Raciocinam sobre grandes volumes de informação, identificam padrões, geram e testam código e encadeiam várias ações sem esperar por uma instrução humana em cada passo. Num contexto de segurança, um modelo de fronteira bem implementado consegue analisar um código-fonte em busca de vulnerabilidades, validar se uma descoberta é explorável e redigir uma correção, comprimindo em minutos um trabalho que antes exigia um analista qualificado e dias de tempo.

Essa mesma capacidade amplifica o risco em ambientes onde os acessos nunca foram limpos. Uma conta de serviço com permissões de há três fusões atrás ou uma conta de administrador partilhada que ninguém quer mexer com medo de que algo deixe de funcionar. São problemas reais e comuns, e a IA de fronteira processa-os da mesma forma que processa tudo o resto: depressa, em larga escala e sem o atrito que antes atrasava a exposição. O projeto Glasswing da Anthropic mostrou como isto se traduz na prática. A Cloudflare encontrou 2000 bugs em sistemas críticos em poucas semanas, 400 dos quais de gravidade alta ou crítica, com uma taxa de falsos positivos melhor do que a dos seus próprios testadores humanos. A Mozilla encontrou e corrigiu 271 vulnerabilidades no Firefox 150, mais de 10 vezes do que tinha encontrado na versão anterior. Os parceiros do Glasswing trouxeram coletivamente ao de cima mais de dez mil vulnerabilidades de gravidade alta ou crítica num único mês.

O que isto significa para os responsáveis de segurança

A resposta passa por governar o ambiente antes de lhe ligar o que quer que seja. As perguntas de fundo são as de sempre: quem tem acesso, porque o tem e ainda faz sentido? O que é novo é a urgência de lhes responder. Eis por onde começar:

• Trate os agentes de IA como identidades privilegiadas. Assim que um modelo de fronteira se liga ao seu ambiente através de APIs ou camadas de orquestração, herda permissões e age com base nelas. Aplique-lhes os mesmos controlos que aplicaria a uma conta humana privilegiada: limitar o âmbito, registar a atividade e rever os acessos à medida que a função muda.
• Dê prioridade primeiro à superfície de maior risco. Uma revisão completa de acessos numa organização grande exige um tempo que pode não ter antes de as ferramentas de IA entrarem em produção. Concentre-se nas contas e nos repositórios de dados onde a exposição é maior: credenciais administrativas, repositórios de dados sensíveis e contas de serviço com âmbito amplo e titularidade pouco clara.
• Faça já uma auditoria de acessos específica para a IA. Antes de alargar qualquer integração de IA, mapeie até onde o sistema consegue efetivamente chegar. Não até onde se pretendia que chegasse. Até onde consegue chegar com as permissões atuais. A diferença é quase sempre maior do que o esperado.
• Não espere pela classificação de dados. A IA não distingue entre dados pensados para ser amplamente acessíveis e dados que foram acumulando acessos ao longo do tempo. Saber onde residem as informações sensíveis, e quem lhes pode chegar, é um trabalho prévio incontornável para uma implementação segura da IA, não um extra que vem depois.

Para onde isto está a caminhar

As organizações que mais depressa avançam na IA de fronteira parecem já ter percebido que governar o ambiente conta tanto como escolher o modelo certo. A Anthropic limitou o acesso ao seu modelo mais capaz, o Claude Mythos, a um pequeno grupo de parceiros do Glasswing. A OpenAI construiu o Daybreak com base no mesmo princípio. A Netwrix faz parte desse grupo porque as perguntas a que o Daybreak procura responder, até onde uma IA consegue chegar e se aquilo a que chega importa, são as perguntas em que trabalhamos há 20 anos.

Os controlos de acesso e o trabalho de governance que estes programas exigem antes da implementação refletem algo que estas organizações perceberam cedo: o valor da IA de fronteira cresce com a qualidade do ambiente em que opera. Um modelo com ampla capacidade de raciocínio, a operar sobre uma infraestrutura de identidades e dados bem governada, é um verdadeiro multiplicador de força para as equipas de segurança. O mesmo modelo, a operar sobre anos de acessos acumulados e nunca revistos, gera uma exposição a uma velocidade e a uma escala difíceis de conter a posteriori.

Os modelos já cá estão. Decidir até onde podem chegar dependerá de si.

Referências

1. OpenAI, "Daybreak"

2. OpenAI, "Introducing Trusted Access for Cybersecurity"

3. Microsoft, “Configure uma base segura e governada para Microsoft 365 Copilot”