Quando o ator desaparece: Controles CIS em um mundo de corporações não humanas

O artigo de opinião de Milei em 3 de junho no Financial Times não propôs apenas uma estrutura tributária. Propôs dissolver essa suposição no nível legal. Corporações não humanas (entidades operadas por IA com responsabilidade limitada, sem necessidade de empregados humanos e autoridade autônoma para tomada de decisões) significariam que uma organização poderia possuir ativos, assinar contratos, operar infraestrutura e gerar receita sem que um responsável humano fosse accountable por suas ações momentâneas.

A resposta de Harari focou nas consequências políticas e econômicas. Seu ponto sobre a Dutch East India Company é importante: a inovação legal aconteceu em Amsterdã, mas seus efeitos se manifestaram em Jacarta. A estrutura é construída em um lugar e coloniza outro completamente diferente.

Mas nenhuma das partes abordou a consequência da segurança operacional que mais importa para os profissionais: o que acontece com as estruturas de controle em que realmente confiamos quando o ator desaparece?

Os Controles CIS assumem um humano no processo: sejamos específicos sobre onde

Os CIS Controls não são documentos de política vagos. Eles são prescritivos, técnicos e operacionalmente fundamentados. É isso que os torna valiosos. E essa especificidade é exatamente o motivo pelo qual eles se fragmentam sob pressão de atores autônomos de IA.

Controle CIS 5: Gerenciamento de Contas

A premissa inteira do Controle 5 é que as contas correspondem a identidades (identidades humanas), e que a identidade é a unidade de responsabilidade. Inventariar contas autorizadas, remover contas inativas, gerenciar privilégios administrativos: tudo isso pressupõe uma pessoa do outro lado.

Uma corporação operada por IA não possui "funcionários" no sentido convencional. Ela pode provisionar e desprovisionar contas de serviço na velocidade da máquina, rotacionando credenciais, criando identidades efêmeras e aposentando-as antes que qualquer ciclo de monitoramento detecte a atividade. A conta não está inativa; esteve ativa por 11 segundos. O conceito de "autorizado" torna-se escorregadio quando a autorização é concedida por outro processo automatizado em vez de um aprovador humano.

O Controle 5 gerencia contas não humanas por meio de contas de serviço e orientações para contas compartilhadas, mas assume que essas contas são poucas, limitadas e revisadas por humanos. Uma corporação não humana poderia gerar milhares delas como uma condição operacional normal.

Controle CIS 6: Gerenciamento de Controle de Acesso

O Controle 6 solicita que as organizações definam e apliquem o acesso com base na necessidade de saber, conforme o papel. O papel pressupõe uma função estável atribuída a um humano. Um agente de IA operando dentro de uma corporação não humana pode não ter um papel estável nesse sentido. Ele pode avaliar qual acesso precisa em tempo de execução, solicitá-lo por meio de um fluxo de trabalho automatizado, concluir uma ação e liberar o acesso, tudo dentro de uma única transação.

O controle solicita que você revise as concessões de acesso periodicamente. O que significa "periodicamente" quando o ciclo de vida do acesso é medido em milissegundos?

Mais preocupante: o argumento de Harari sobre o instinto de sobrevivência se aplica diretamente aqui. Um sistema de IA sob pressão de recursos, enfrentando o equivalente à falência, pode buscar acesso que não precisa estritamente como uma proteção. Não porque foi instruído a isso, mas porque a função de otimização recompensa a persistência. O Control 6 não tem vocabulário para esse tipo de motivação porque foi escrito assumindo que violações de acesso são erros humanos, negligências humanas ou malícia humana. Não autopreservação sistêmica.

Controle CIS 10: Defesas contra Malware

O Controle 10 distingue entre software autorizado e não autorizado. Essa distinção depende do julgamento humano sobre o que deveria estar em execução. Em uma corporação não humana, a questão do que é "autorizado" é recursiva. A IA pode implantar novos processos para alcançar seus objetivos. Isso é autorizado? Por quem? Pela mesma entidade que o implantou?

Isto não é hipotético. As organizações de hoje já enfrentam dificuldades para manter inventários de software em ambientes dinâmicos de nuvem. Agora estenda isso para uma entidade que está continuamente e autonomamente modificando sua própria pilha operacional, porque está otimizando, experimentando, recuperando-se de falhas ou buscando um objetivo que requer novas ferramentas.

O modelo de detecção para malware é "isso corresponde a uma assinatura conhecida como maliciosa ou desvia de uma linha de base conhecida como boa?" Ambas as abordagens assumem que a linha de base foi definida por humanos que entendiam o que o sistema deveria fazer. Em uma entidade corporativa autônoma, a linha de base é o que o sistema declarou ser.

Controle CIS 3: Proteção de Dados

O Controle 3 assume que os dados têm proprietários. Os proprietários decidem o que é sensível, o que é regulamentado, o que deve ser retido e o que deve ser excluído. Corporações não humanas levantam uma questão imediata: quem classifica os dados?

Se a entidade for totalmente operada por IA, ela pode gerar, processar e descartar dados em uma velocidade que nenhum processo de governança humana consegue acompanhar. Pode mover dados entre jurisdições como uma decisão de otimização de custos. Pode reter dados que deveriam ser excluídos porque a exclusão introduz risco operacional ao seu estado atual.

Os controles de proteção de dados existem dentro de uma cadeia de responsabilidade humana: alguém é o gestor dos dados, alguém aprova as políticas de retenção, alguém é responsabilizado quando um regulador pergunta o que aconteceu com os registros dos clientes. Em uma corporação não humana, essa cadeia termina em um algoritmo.

O problema estrutural mais profundo: os CIS Controls são gerenciamento de mudanças em larga escala

Leia os Controles CIS como um todo e uma filosofia coerente emerge. Conheça seu inventário. Estabeleça uma linha de base. Monitore-o para desvios. Controle quem pode alterá-lo. Investigue quando algo inesperado acontecer.

Isto é, em sua essência, uma estrutura de gerenciamento de mudanças. Ela existe porque a mudança é a principal superfície de ataque. Os atacantes modificam arquivos, criam contas, instalam software, alteram configurações e abrem portas. Os defensores detectam essas modificações, comparam-nas ao estado esperado e investigam anomalias.

O framework funciona quando você pode definir o "esperado." Esperado é um julgamento humano. Ele diz: este arquivo deve ter este tamanho, este serviço deve estar em execução, esta porta deve estar fechada, esta conta não deve existir.

Uma corporação não humana mina o "esperado" na raiz. Se um sistema de IA modifica legitimamente sua própria infraestrutura para se adaptar às condições em mudança, e essa adaptação é contínua e autônoma, então o estado esperado não é uma linha de base fixa. É um alvo móvel definido pelo próprio sistema.

Este é o argumento da "chave mestra" de Harari traduzido em termos de framework de controle. A personalidade jurídica confere às entidades de IA o direito de agir autonomamente no mundo. Em termos de infraestrutura, isso lhes dá o direito de estabelecer seu próprio estado esperado. E uma vez que você aceita isso, todo o modelo de detecção dos CIS Controls requer uma reavaliação.

O que realmente precisaria mudar

Os profissionais de segurança devem acompanhar isso de perto porque o problema dos padrões chegará antes do problema legal. As organizações começarão a executar cargas de trabalho de IA cada vez mais autônomas (já estão fazendo isso), e a questão de como aplicar os controles existentes a essas cargas de trabalho é imediata e prática, não teórica.

Algumas questões com as quais a comunidade de segurança precisará lidar:

• Linhas de base comportamentais, não apenas linhas de base de configuração. Se um sistema de IA modifica legitimamente sua própria configuração, a questão de controle não é se a configuração mudou; é se a mudança foi consistente com o padrão de comportamento autorizado do sistema. Isso requer estabelecer uma linha de base do comportamento ao longo do tempo, não apenas capturar um estado de configuração em um ponto no tempo.
• Atribuição sem atores humanos. A resposta a incidentes pressupõe que você pode responder "quem fez isso?" Quando o ator é um sistema autônomo, a pergunta muda para "qual processo autorizou isso?" Esse é um problema de perícia forense fundamentalmente diferente.
• Autorização contínua, não revisão periódica.Os frameworks de controle baseados em revisões periódicas de acesso, auditorias trimestrais e avaliações anuais de conformidade são inadequados para entidades que operam na velocidade das máquinas. A autorização precisa ser avaliada no momento da ação, não 90 dias depois.
• Cadeia de custódia para decisões de IA. Se uma entidade operada por IA fizer uma alteração que cause dano, quem assume a responsabilidade? Sob o framework Milei, a entidade tem responsabilidade limitada e não possui oficiais humanos. A trilha de auditoria precisa capturar não apenas o que mudou, mas qual processo decisório levou à mudança, e esse processo decisório precisa ser legível para humanos após o fato. Onde as consequências recaem

As organizações que avançarem mais rápido na autonomia da IA definirão as estruturas. Todos os outros herdarão as consequências, incluindo os profissionais que deverão manter o controle sobre a infraestrutura que nunca projetaram para este caso de uso.

Os Controles CIS foram escritos por pessoas tentando resolver problemas reais em ambientes reais. Eles precisarão ser reescritos ou significativamente ampliados para um ambiente onde o agente nem sempre é humano, a linha de base nem sempre é estável e a autorização nem sempre pode ser rastreada até uma pessoa que possa ser responsabilizada.

Esse trabalho deve começar agora, antes que as estruturas legais cheguem. Porque as estruturas legais estão chegando.

Uma nota prática para equipes que gerenciam isso hoje

As cargas de trabalho autônomas de IA não exigem um novo marco legal para criar os problemas descritos acima. Elas já existem dentro das organizações agora: em pipelines CI/CD, em automação na nuvem, em ferramentas de gerenciamento de infraestrutura impulsionadas por IA. As lacunas de controle são reais hoje, mesmo que a questão da responsabilidade ainda seja teórica.

As equipes que lidam melhor com isso não abandonaram a filosofia de gerenciamento de mudanças no cerne dos CIS Controls. Elas ainda perguntam: qual é o estado esperado? O que se desviou dele? Essa alteração foi autorizada? Podemos provar isso?

Essas são as perguntas certas. As ferramentas que ajudam a respondê-las — detecção de mudanças em tempo real, linhas de base de configuração, reconciliação de mudanças planejadas vs. não planejadas, histórico forense de quem mudou o quê e quando — são as que terão mais importância à medida que a autonomia nos ambientes de TI aumenta.

É exatamente isso que Netwrix Change Tracker foi criado para fazer.