OpenAI e l'ambiente che eredita l'IA

Dedico il mio tempo libero a lavorare nella nostra fattoria in Pennsylvania: ripulire la sterpaglia, aprire sentieri, occuparmi del pascolo. Una cosa che impari in fretta è che lì fuori nulla cresce seguendo un piano preciso (per quanto io ci provi). Il bosco è il risultato cumulato di decenni di ciò che ha attecchito, di ciò che i cervi non si sono mangiati, di ciò che le tempeste non hanno abbattuto e di dove il proprietario precedente faceva pascolare le sue Holstein. È resiliente, ma non l'abbiamo progettato noi. Questo fine settimana stavo rimuovendo del vecchio filo di recinzione da un albero che ci era cresciuto completamente attorno. Non era mai stato previsto, ma l'albero ha continuato a crescere contro l'ostacolo.

Le organizzazioni evolvono allo stesso modo. La maggior parte delle aziende ha costruito i propri sistemi in modo graduale, risolvendo problemi immediati. I team condividevano gli accessi per andare più veloci, i dipendenti cambiavano ruolo ma mantenevano i permessi, e i nuovi strumenti di collaborazione comparivano più rapidamente di quanto sparissero quelli vecchi. Con il tempo, le relazioni di accesso si sono accumulate più velocemente di quanto la maggior parte delle organizzazioni riuscisse a governarle in modo continuo.

Per anni, quella espansione incontrollata ha portato con sé dei rischi, ma anche un beneficio accidentale: la stessa complessità che rendeva difficile governare i dati sensibili li rendeva anche difficili da trovare. Gli attaccanti avevano gli stessi limiti delle persone. Muoversi in un ambiente disordinato richiedeva tempo, competenza e pazienza. Eravamo soliti dire: «l'oscurità non è sicurezza». Si è scoperto che lo era, almeno un po'.

I modelli di IA più recenti eliminano gran parte di quell'oscurità. Questo cambiamento è il motivo per cui Netwrix ha aderito al programma Daybreak di OpenAI, che offre a un piccolo gruppo di difensori della sicurezza l'accesso anticipato a modelli di frontiera senza le stesse barriere che limitano le implementazioni di uso generale. Partecipare a un programma come Daybreak significa molto più che avere accesso a un modello migliore. È l'occasione di capire, prima del resto del mercato, cosa fanno questi sistemi quando li si punta su ambienti reali.

L'IA cambia le regole del gioco

L'IA non opera con gli stessi vincoli delle persone. Lo si vede già negli strumenti come Copilot. Una persona può fare una domanda semplice e portare a galla dati salariali, vecchi file di progetto o report interni che nessuno si aspettava di rivedere. L'informazione era tecnicamente accessibile, ma la maggior parte delle persone non l'avrebbe mai trovata da sola. I permessi erano lì da sempre, e l'IA li ha resi più facili da raggiungere. La preoccupazione che sento in questo momento da quasi tutti i CISO non è che questi modelli si comportino in modo scorretto. È che si comportano in modo corretto, portando alla luce dati retributivi, report interni e informazioni sensibili di progetti a cui l'ambiente aveva già concesso loro l'accesso.

I modelli di frontiera, come Claude o GPT-5.5, vanno oltre. Ragionano su grandi quantità di informazioni, individuano pattern, generano e testano codice e concatenano più azioni senza attendere un input umano a ogni passaggio. In un contesto di sicurezza, un modello di frontiera ben implementato può analizzare un codice sorgente alla ricerca di vulnerabilità, verificare se un rilevamento è sfruttabile e redigere una correzione, comprimendo in pochi minuti un lavoro che un tempo richiedeva un analista qualificato e giorni di tempo.

La stessa capacità amplifica il rischio negli ambienti in cui gli accessi non sono mai stati ripuliti. Un account di servizio con permessi risalenti a tre fusioni fa o un account amministrativo condiviso che nessuno vuole toccare per paura che qualcosa smetta di funzionare. Sono problemi reali e comuni, e l'IA di frontiera li elabora come elabora tutto il resto: in fretta, su larga scala e senza l'attrito che prima rallentava l'esposizione. Il progetto Glasswing di Anthropic ha mostrato cosa significa nella pratica. Cloudflare ha individuato 2.000 bug in sistemi critici nel giro di settimane, 400 dei quali di gravità alta o critica, con un tasso di falsi positivi migliore di quello dei suoi stessi tester umani. Mozilla ha individuato e corretto 271 vulnerabilità in Firefox 150, oltre 10 volte quelle trovate nella versione precedente. I partner di Glasswing hanno complessivamente portato alla luce più di diecimila vulnerabilità di gravità alta o critica in un solo mese.

Cosa significa per i responsabili della sicurezza

La risposta è governare l'ambiente prima di collegarvi qualcosa. Le domande di fondo sono quelle di sempre: chi ha accesso, perché ce l'ha e ha ancora senso? La novità è l'urgenza di rispondere. Ecco da dove partire:

• Tratta gli agenti di IA come identità privilegiate. Una volta che un modello di frontiera si collega al tuo ambiente tramite API o livelli di orchestrazione, eredita i permessi e agisce di conseguenza. Applica gli stessi controlli che applicheresti a un account umano privilegiato: limita l'ambito, registra l'attività e rivedi gli accessi al variare del ruolo.
• Dai priorità per prima cosa alla superficie a maggior rischio. Una revisione completa degli accessi in un'organizzazione di grandi dimensioni richiede un tempo che potresti non avere prima dell'attivazione degli strumenti di IA. Concentrati sugli account e sui repository di dati dove l'esposizione è maggiore: credenziali amministrative, archivi di dati sensibili e account di servizio con ambito ampio e titolarità poco chiara.
• Esegui subito un audit degli accessi specifico per l'IA. Prima di estendere qualsiasi integrazione con l'IA, mappa fin dove il sistema può effettivamente arrivare. Non fin dove era previsto che arrivasse. Fin dove può arrivare con i permessi attuali. Il divario è quasi sempre più ampio del previsto.
• Non aspettare la classificazione dei dati. L'IA non distingue tra dati pensati per essere ampiamente accessibili e dati che hanno accumulato accessi nel tempo. Sapere dove risiedono le informazioni sensibili, e chi può raggiungerle, è un lavoro propedeutico imprescindibile per un'implementazione sicura dell'IA, non un di più che arriva dopo.

Dove sta andando tutto questo

Le organizzazioni che si muovono più rapidamente nell'IA di frontiera sembrano aver già capito che governare l'ambiente conta tanto quanto scegliere il modello giusto. Anthropic ha limitato l'accesso al suo modello più capace, Claude Mythos, a una ristretta cerchia di partner di Glasswing. OpenAI ha costruito Daybreak sullo stesso principio. Netwrix fa parte di quel gruppo perché le domande a cui Daybreak vuole rispondere, fin dove può arrivare un'IA e se ciò che raggiunge è rilevante, sono le domande su cui lavoriamo da 20 anni.

I controlli degli accessi e il lavoro di governance che questi programmi richiedono prima dell'implementazione riflettono qualcosa che queste organizzazioni hanno capito presto: il valore dell'IA di frontiera cresce con la qualità dell'ambiente in cui opera. Un modello con un'ampia capacità di ragionamento, che opera attraverso un'infrastruttura di identità e dati ben governata, è un autentico moltiplicatore di forza per i team di sicurezza. Lo stesso modello, che opera attraverso anni di accessi accumulati e mai rivisti, genera un'esposizione a una velocità e a una scala difficili da contenere a posteriori.

I modelli sono già qui. Decidere fin dove possono arrivare dipenderà da te.

Riferimenti

1. OpenAI, "Daybreak"

2. OpenAI, "Introducing Trusted Access for Cybersecurity"

3. Microsoft, “Configura una base sicura e governata per Microsoft 365 Copilot”