OpenAI et l'environnement que l'IA hérite

Je passe mon temps libre à travailler dans notre ferme en Pennsylvanie : débroussailler, ouvrir des sentiers, m'occuper du pâturage. Une chose que l'on apprend vite, c'est que rien là-bas ne pousse parfaitement selon un plan d'ensemble (j'ai pourtant essayé). Les bois sont le résultat cumulé de décennies de tout ce qui a pris racine, de ce que les cerfs n'ont pas mangé, de ce que les tempêtes n'ont pas abattu ou des endroits où le précédent propriétaire faisait paître ses Holstein. C'est résilient, mais ce n'est pas nous qui l'avons conçu. Ce week-end, je retirais un vieux grillage d'un arbre qui avait complètement poussé autour du fil. Cela n'avait jamais été prévu, mais l'arbre a continué à pousser contre l'obstacle.

Les organisations évoluent de la même manière. La plupart des entreprises ont bâti leurs systèmes progressivement, en réglant des problèmes immédiats. Les équipes partageaient leurs accès pour aller plus vite, les employés changeaient de poste mais conservaient leurs permissions, et de nouveaux outils de collaboration apparaissaient plus vite que les anciens ne disparaissaient. Avec le temps, les relations d'accès se sont accumulées plus rapidement que la plupart des organisations ne pouvaient les gouverner de manière continue.

Pendant des années, cette prolifération comportait un risque, mais aussi un bénéfice accidentel : la complexité qui rendait les données sensibles difficiles à gouverner les rendait aussi difficiles à trouver. Les attaquants avaient les mêmes limites que les humains. Naviguer dans un environnement désordonné demandait du temps, du savoir-faire et de la patience. On avait coutume de dire : « l'obscurité n'est pas la sécurité ». Il s'avère qu'elle l'était, au moins un peu.

Les modèles d'IA plus récents éliminent l'essentiel de cette obscurité. C'est ce changement qui a poussé Netwrix à rejoindre le programme Daybreak d'OpenAI, qui donne à un petit groupe de défenseurs de la sécurité un accès anticipé à des modèles de frontière sans les mêmes garde-fous qui encadrent les déploiements à usage général. L'intérêt de participer à un programme comme Daybreak va au-delà de l'accès à un meilleur modèle. C'est l'occasion de comprendre, avant le reste du marché, ce que font ces systèmes lorsqu'on les pointe sur des environnements réels.

L'IA change la donne

L'IA n'évolue pas avec les mêmes contraintes que les personnes. Cela se voit déjà dans les outils comme Copilot. Une personne peut poser une simple question et faire remonter des données salariales, d'anciens fichiers de projet ou des rapports internes que personne ne s'attendait à revoir. L'information était techniquement accessible, mais la plupart des gens ne l'auraient jamais trouvée par eux-mêmes. Les permissions étaient là depuis toujours, et l'IA les a rendues plus faciles d'accès. La préoccupation que j'entends en ce moment chez la quasi-totalité des RSSI n'est pas que ces modèles se comportent de façon incorrecte. C'est qu'ils se comportent correctement, en faisant remonter des données salariales, des rapports internes et des informations sensibles de projets auxquels l'environnement leur avait déjà donné accès.

Les modèles de frontière, comme Claude ou GPT-5.5, vont plus loin. Ils raisonnent sur de vastes ensembles d'informations, identifient des schémas, génèrent et testent du code, et enchaînent plusieurs actions sans attendre une instruction humaine à chaque étape. Dans un contexte de sécurité, un modèle de frontière bien déployé peut analyser une base de code à la recherche de vulnérabilités, vérifier si une découverte est exploitable et rédiger un correctif, en compressant en quelques minutes un travail qui exigeait autrefois un analyste qualifié et plusieurs jours.

Cette même capacité aggrave le risque dans les environnements où les accès n'ont jamais été nettoyés. Un compte de service avec des permissions datant de trois fusions plus tôt, ou un compte d'administrateur partagé que personne ne veut toucher de peur que quelque chose casse. Ce sont des problèmes réels et courants, et l'IA de frontière les traite comme elle traite tout le reste : vite, à grande échelle, sans la friction qui ralentissait autrefois l'exposition. Le projet Glasswing d'Anthropic a montré à quoi cela ressemble en pratique. Cloudflare a trouvé 2 000 bugs dans des systèmes critiques en quelques semaines, dont 400 de gravité haute ou critique, avec un taux de faux positifs meilleur que celui de ses propres testeurs humains. Mozilla a trouvé et corrigé 271 vulnérabilités dans Firefox 150, soit plus de 10 fois ce qui avait été trouvé dans la version précédente. Les partenaires de Glasswing ont collectivement mis au jour plus de dix mille vulnérabilités de gravité haute ou critique en un seul mois.

Ce que cela signifie pour les responsables de la sécurité

La réponse consiste à gouverner l'environnement avant d'y connecter quoi que ce soit. Les questions de fond sont les mêmes qu'avant : qui a accès, pourquoi cet accès lui a-t-il été donné et est-ce qu'il a encore du sens ? Ce qui est nouveau, c'est l'urgence d'y répondre. Voici par où commencer :

• Traitez les agents d'IA comme des identités à privilèges. Dès qu'un modèle de frontière se connecte à votre environnement via des API ou des couches d'orchestration, il hérite des permissions et agit en conséquence. Appliquez-leur les mêmes contrôles que vous appliqueriez à un compte humain à privilèges : limiter la portée, journaliser l'activité et revoir les accès à mesure que le rôle évolue.
• Donnez la priorité à la surface la plus à risque. Une revue complète des accès dans une grande organisation demande un temps dont vous ne disposez peut-être pas avant la mise en service des outils d'IA. Concentrez-vous sur les comptes et les référentiels de données où l'exposition est la plus importante : identifiants d'administration, dépôts de données sensibles et comptes de service à large portée et à propriété floue.
• Lancez dès maintenant un audit des accès propre à l'IA. Avant d'étendre toute intégration d'IA, cartographiez ce que le système peut réellement atteindre. Pas ce qu'il était censé atteindre. Ce qu'il peut atteindre compte tenu des permissions actuelles. L'écart est presque toujours plus grand que prévu.
• N'attendez pas la classification des données. L'IA ne fait pas la différence entre des données censées être largement accessibles et des données qui ont accumulé des accès au fil du temps. Savoir où résident vos informations sensibles, et qui peut y accéder, est un travail préalable indispensable à un déploiement sûr de l'IA, pas un atout supplémentaire qui vient après.

Où tout cela nous mène

Les organisations qui avancent le plus vite sur l'IA de frontière semblent déjà avoir compris que gouverner l'environnement compte autant que choisir le bon modèle. Anthropic a limité l'accès à son modèle le plus performant, Claude Mythos, à un petit groupe de partenaires de Glasswing. OpenAI a bâti Daybreak sur le même principe. Netwrix fait partie de ce groupe parce que les questions auxquelles Daybreak cherche à répondre, jusqu'où une IA peut aller et si ce qu'elle atteint a de l'importance, sont les questions sur lesquelles nous travaillons depuis 20 ans.

Les contrôles d'accès et le travail de gouvernance que ces programmes exigent avant tout déploiement reflètent quelque chose que ces organisations ont compris tôt : la valeur de l'IA de frontière dépend de la qualité de l'environnement dans lequel elle opère. Un modèle doté d'une large capacité de raisonnement, qui s'appuie sur une infrastructure d'identités et de données bien gouvernée, est un véritable multiplicateur de force pour les équipes de sécurité. Le même modèle, qui s'appuie sur des années d'accès accumulés et jamais revus, crée une exposition à une vitesse et à une échelle qu'il est difficile de contenir après coup.

Les modèles sont déjà là. C'est à vous qu'il reviendra de décider jusqu'où ils peuvent aller.

Références

1. OpenAI, "Daybreak"

2. OpenAI, "Introducing Trusted Access for Cybersecurity"

3. Microsoft, “Configurez une base sécurisée et gouvernée pour Microsoft 365 Copilot”