OpenAI y el entorno que hereda la IA

Dedico mi tiempo libre a trabajar en nuestra granja de Pensilvania: despejar maleza, abrir senderos, faenar en el pastizal. Una cosa que aprendes rápido es que nada de lo que hay ahí fuera crece siguiendo un plan maestro (por mucho que lo intente). El bosque es el resultado acumulado de décadas de lo que echó raíces, lo que los ciervos no se comieron, lo que las tormentas no derribaron o de dónde el anterior propietario pastoreaba sus vacas Holstein. Es resistente, pero no lo hemos diseñado nosotros. Este fin de semana estuve retirando un trozo de alambrada vieja de un árbol que había crecido alrededor del cable hasta engullirlo por completo. Nunca formó parte del plan, pero el árbol siguió creciendo contra el obstáculo.

Las organizaciones evolucionan de la misma forma. La mayoría de las empresas han construido sus sistemas de manera gradual, resolviendo problemas inmediatos. Los equipos compartían accesos para ir más rápido, los empleados cambiaban de puesto pero conservaban los permisos, y las nuevas herramientas de colaboración aparecían más rápido de lo que desaparecían las antiguas. Con el tiempo, las relaciones de acceso se acumularon más rápido de lo que la mayoría de las organizaciones podía gobernar de forma continua.

Durante años, esa expansión descontrolada conllevaba riesgo, pero también un beneficio accidental: la complejidad que dificultaba el gobierno de los datos sensibles también dificultaba encontrarlos. Los atacantes tenían los mismos límites que las personas. Moverse por un entorno desordenado exigía tiempo, habilidad y paciencia. Siempre solíamos decir: «la oscuridad no es seguridad». Resulta que sí lo era, al menos un poco.

Los modelos de IA más recientes eliminan la mayor parte de esa oscuridad. Ese cambio es la razón por la que Netwrix se ha unido al programa Daybreak de OpenAI, que ofrece a un pequeño grupo de defensores de la seguridad acceso anticipado a modelos de frontera sin las mismas barreras que limitan las implementaciones de uso general. Estar en un programa como Daybreak supone más que tener acceso a un mejor modelo. Es la oportunidad de entender, antes que el resto del mercado, qué hacen estos sistemas cuando los apuntas a entornos reales.

La IA cambia las reglas del juego

La IA no opera con las mismas limitaciones que las personas. Eso ya se nota en herramientas como Copilot. Una persona puede hacer una pregunta sencilla y sacar a la luz datos salariales, archivos antiguos de proyectos o informes internos que nadie esperaba volver a ver. La información era técnicamente accesible, pero la mayoría de la gente nunca la habría encontrado por su cuenta. Los permisos estuvieron ahí todo el tiempo, y la IA los ha hecho más fáciles de alcanzar. La preocupación que escucho ahora mismo de casi todos los CISO no es que estos modelos se comporten de forma incorrecta. Es que se comportan correctamente, mostrando datos retributivos, informes internos e información sensible de proyectos a la que el entorno ya les había dado acceso.

Los modelos de frontera, como Claude o GPT-5.5, van más allá. Razonan sobre grandes volúmenes de información, identifican patrones, generan y prueban código, y encadenan varias acciones sin esperar una indicación humana en cada paso. En un contexto de seguridad, un modelo de frontera bien implementado puede analizar un repositorio de código en busca de vulnerabilidades, validar si un hallazgo es explotable y redactar una solución, comprimiendo en minutos un trabajo que antes requería un analista cualificado y días de tiempo.

Esa misma capacidad multiplica el riesgo en entornos donde los accesos nunca se depuraron. Una cuenta de servicio con permisos de tres fusiones atrás o una cuenta de administrador compartida que nadie quiere tocar por miedo a que algo deje de funcionar. Son problemas reales y habituales, y la IA de frontera los procesa igual que procesa todo lo demás: rápido, a escala y sin la fricción que antes ralentizaba la exposición. El proyecto Glasswing de Anthropic mostró cómo se ve eso en la práctica. Cloudflare encontró 2.000 errores en sistemas críticos en cuestión de semanas, 400 de ellos de gravedad alta o crítica, con una tasa de falsos positivos mejor que la de sus propios analistas humanos. Mozilla encontró y corrigió 271 vulnerabilidades en Firefox 150, más de 10 veces lo que habían encontrado en la versión anterior. Los socios de Glasswing sacaron a la luz colectivamente más de diez mil vulnerabilidades de gravedad alta o crítica en un solo mes.

Qué significa esto para los responsables de seguridad

La respuesta es gobernar el entorno antes de conectar nada a él. Las preguntas de fondo son las de siempre: quién tiene acceso, por qué lo tiene y si todavía tiene sentido. Lo nuevo es la urgencia de responderlas. Por aquí se empieza:

• Trata a los agentes de IA como identidades privilegiadas. Una vez que un modelo de frontera se conecta a tu entorno a través de API o capas de orquestación, hereda permisos y actúa sobre ellos. Aplica los mismos controles que aplicarías a una cuenta humana privilegiada: limita el alcance, registra la actividad y revisa el acceso a medida que cambia su rol.
• Prioriza primero tu superficie de mayor riesgo. Una revisión completa de accesos en una organización grande lleva un tiempo del que quizá no dispongas antes de que las herramientas de IA entren en funcionamiento. Céntrate en las cuentas y almacenes de datos donde la exposición es mayor: credenciales administrativas, repositorios de datos sensibles y cuentas de servicio con un alcance amplio y una titularidad poco clara.
• Realiza ya una auditoría de accesos específica para IA. Antes de ampliar cualquier integración de IA, mapea hasta dónde puede llegar realmente el sistema. No hasta dónde se pretendía que llegara. Hasta dónde puede llegar con los permisos actuales. La brecha casi siempre es mayor de lo esperado.
• No esperes a tener la clasificación de datos lista. La IA no distingue entre datos pensados para ser ampliamente accesibles y datos que fueron acumulando acceso con el tiempo. Saber dónde residen tus datos sensibles, y quién puede llegar a ellos, es un trabajo previo imprescindible para una implementación segura de la IA, no un extra que viene después.

Hacia dónde va esto

Las organizaciones que se mueven más rápido en IA de frontera ya parecen entender que gobernar el entorno importa tanto como elegir el modelo adecuado. Anthropic limitó el acceso a su modelo más capaz, Claude Mythos, a un pequeño grupo de socios de Glasswing. OpenAI construyó Daybreak sobre el mismo principio. Netwrix forma parte de ese grupo porque las preguntas que Daybreak se plantea responder, hasta dónde puede llegar una IA y si lo que alcanza importa, son las preguntas en las que llevamos 20 años trabajando.

Los controles de acceso y el trabajo de gobierno que estos programas exigen antes de la implementación reflejan algo que estas organizaciones aprendieron pronto: el valor de la IA de frontera escala con la calidad del entorno en el que opera. Un modelo con amplia capacidad de razonamiento, trabajando a través de una infraestructura de identidades y datos bien gobernada, es un auténtico multiplicador de fuerzas para los equipos de seguridad. El mismo modelo, trabajando a través de años de accesos acumulados y sin revisar, genera una exposición a una velocidad y una escala que son difíciles de contener a posteriori.

Los modelos ya están aquí. Decidir hasta dónde pueden llegar dependerá de ti.

Referencias

1. OpenAI, "Daybreak"

2. OpenAI, "Introducing Trusted Access for Cybersecurity"

3. Microsoft, “Configure una base segura y gobernada para Microsoft 365 Copilot”