Microsoft lancia Guardian Agents: la nuova frontiera nella sicurezza degli agenti AI

Microsoft ha recentemente annunciato il lancio di Guardian Agents, una serie di strumenti progettati per monitorare, limitare e gestire i rischi associati agli agenti AI autonomi. Questa iniziativa si inserisce in un contesto più ampio di evoluzione delle pratiche di sicurezza informatica, dove l’azienda riconosce che, sebbene i modelli agentici non siano intrinsecamente maligni, possono comunque commettere errori o essere manipolati.

Con i Guardian Agents, Microsoft propone un approccio innovativo: separare la fornitura di intelligenza dall’autorità che ne controlla l’accesso e le azioni. Questo significa che la sorveglianza continua degli agenti AI sarà affidata a meccanismi esterni, aumentando così la sicurezza e riducendo il rischio di compromissioni.

Iniziative precedenti e integrazione con Project Perception

Questa nuova proposta si colloca all’interno di un quadro di iniziative già avviate, come Project Perception e la cyber stack di Microsoft. Questi strumenti coordinano agenti specializzati per analizzare dati di sicurezza, cercare vulnerabilità e gestire rimedi. Project Perception utilizza tre tipologie di agenti (red, blue e green) per testare, investigare e correggere le minacce. Ora, l’architettura di questo progetto viene estesa per includere i Guardian Agents, i quali condividono segnali e contesto con Microsoft Agent 365, fornendo una visione unificata di agenti e rischi.

Controlli e responsabilità dei Guardian Agents

I controlli implementati dai Guardian Agents si basano sul principio di circondare le intelligenze non deterministiche con controlli deterministici, evidenze indipendenti e confini di contenimento. Questi controlli agiscono su sette aspetti chiave: identità, permessi, dati, endpoint, rete, cloud e runtime. Le quattro responsabilità principali di questi strumenti comprendono:

• Conoscere l’esistenza, la proprietà e il comportamento degli agenti;
• Contenere l’accesso e le azioni prima che avvengano;
• Proteggere dati, strumenti, runtime e risorse utilizzate dagli agenti;
• Adattare le protezioni in modo continuo in base a comportamento, contesto e rischio.

Nuove funzionalità e capacità

Tra le funzionalità annunciate, spicca la scoperta estesa di 35 tipi aggiuntivi di agenti locali, inclusi Claude Code, OpenAI Codex e GitHub Copilot. Inoltre, Microsoft Entra Agent ID verrà ampliato con nuovi tipi di identità per pattern di agenti locali e agenti precedentemente sconosciuti, rilevati tramite sensori di sicurezza.

Per il controllo operativo, sono previste Dynamic Permissions, che limitano l’accesso di un agente alle risorse necessarie per un compito specifico; Dynamic Agent Risk, che valuta potenziali minacce; e Dynamic Conditional Access, che può reagire a rischi crescenti restringendo permessi, bloccando operazioni o richiedendo l’intervento umano. In scenari estremi, un agente può essere fermato e isolato.

Conclusioni

Microsoft descrive i Guardian Agents come strumenti fondamentali per consentire ai team di sicurezza di operare in modo continuo e alla velocità delle macchine. Integrando sensori, contesto e attuatori su tutta la pila di sicurezza, questi strumenti mirano a comprendere i rischi emergenti degli agenti AI e a adattare le contromisure necessarie.