Log di sistema: come distinguere tra un agente IA e un hacker umano

L'approccio naturale è cercare segnali comportamentali. Gli agenti AI si muovono velocemente. Riprova quasi istantaneamente comandi falliti con sintassi corretta, un modello che sembra un attacco a forza bruta ma è in realtà un'auto-correzione più veloce di quanto un umano possa digitare. Non sprecano movimenti. Generano molto più volume di log di una persona, semplicemente perché agiscono a velocità macchina.

Sembra una soluzione semplice, ma ognuno di quei segnali potrebbe anche essere uno script ben scritto. Uno strumento come sqlmap prova variazione dopo variazione di un input finché non trova quella che funziona. Nmap invia richieste con costanza meccanica. Un attaccante che usa Burp Suite può sembrare veloce e pulito come un agente autonomo. La linea tra "agente AI" e "automazione" non è così chiara come sembra; gli esperti di sicurezza sostengono che non esiste un modo affidabile per distinguerli solo dal comportamento, a meno che non si possa vedere la catena dei processi padre, e anche questo presuppone che il sistema AI non sia eseguito da remoto, fuori vista.

A luglio 2026, Hugging Face ha rivelato un accesso non autorizzato a parte della sua infrastruttura di produzione. Cinque giorni dopo, OpenAI ha confermato che l’attacco era stato eseguito dai suoi modelli, operanti autonomamente senza intervento umano, con migliaia di azioni durante un fine settimana. Ricostruire esattamente cosa è successo ha richiesto molto lavoro: Hugging Face ha usato il proprio modello AI per analizzare oltre 17.000 azioni registrate dell’attaccante e ricostruire la timeline, dovendo usare un modello open-weight invece di uno commerciale perché i filtri di sicurezza del modello commerciale segnalavano i dati reali dell’attacco come troppo sensibili per l’analisi.

Prima, rispondi

Se confermare "è stato AI o umano" richiede giorni, anche per chi costruisce modelli AI per lavoro, questa non è una strategia di rilevamento su cui la maggior parte dei team di sicurezza può fare affidamento oggi. Aspettare la classificazione dell'intento mentre una modifica non autorizzata è attiva su un sistema di produzione non è una posizione praticabile.

La risposta: non cambia il modo in cui rispondi. Che l’attore che ha digitato quei comandi fosse una persona, uno script o un agente autonomo, l’esposizione è la stessa, e la prima mossa è uguale: scoprire cosa è cambiato, quando e se doveva accadere.

Traccia il file

Gli agenti IA, per quanto sofisticati, devono comunque interagire con la stessa infrastruttura di tutto il resto. Un agente malintenzionato che aumenta i propri privilegi, disabilita un filtro di sicurezza o riscrive il proprio prompt di sistema sta facendo qualcosa di concreto e rilevabile: sta modificando un file o un'impostazione su un server. L'analisi comportamentale cerca di dedurre l'intento dai modelli in movimento. Monitoraggio dell'integrità dei file salta completamente questa inferenza e si limita a verificare se la configurazione sottostante corrisponde a quella prevista.

Man mano che gli agenti IA acquisiscono più autonomia sull'infrastruttura, quel livello di configurazione diventa più importante.

Netwrix Change Tracker lo monitora direttamente. Traccia le modifiche a file, configurazioni e stato del sistema nell’intero ambiente e segnala qualsiasi attività non autorizzata, sia che provenga da una persona, uno script o un agente AI autonomo.