La Cybersecurity ai tempi dell’intelligenza artificiale autonoma

Le aziende moderne si trovano di fronte a una sfida senza precedenti: proteggere il proprio ecosistema digitale in un'epoca in cui l'intelligenza artificiale (AI) si evolve da strumento di supporto a motore decisionale autonomo. Andy Jassy, CEO di Amazon, ha sottolineato questa urgenza affermando che le imprese che non integrano modelli avanzati nei propri processi rischiano di perdere competitività.

L'adozione degli agenti AI autonomi sta trasformando il panorama operativo delle organizzazioni, ma al contempo apre nuove vulnerabilità in ambito cybersecurity. Secondo il report AI 50 2025 di Forbes, mentre questi sistemi migliorano efficienza e automazione, rappresentano un rischio crescente per la sicurezza digitale. Durante la conferenza CyberArk IMPACT 2025, esperti del settore hanno evidenziato come tali agenti, dotati di autonomia e privilegi digitali, possano diventare punti d'accesso critici per attacchi sofisticati.

Per affrontare queste minacce, CyberArk promuove l'approccio della "difesa in profondità", che prevede l'implementazione di molteplici livelli di protezione lungo il flusso operativo. Gli esperti raccomandano inoltre di evitare una fiducia eccessiva nei modelli linguistici di grandi dimensioni (LLM), suggerendo invece di costruire barriere di sicurezza esterne per proteggerli.

Le previsioni per i prossimi anni

Il professor Retsef Levi del MIT Sloan School of Management ha messo in guardia contro la creazione di sistemi complessi con confini operativi poco definiti, che riducono il controllo umano. Ha sottolineato l'importanza di sviluppare metriche per identificare vulnerabilità nella catena di approvvigionamento digitale, preservando capacità umane come la sensibilità al contesto.

Un recente studio condotto da Pillar Security ha rivelato dati preoccupanti: su oltre 2.000 applicazioni basate su LLM analizzate, il 90% degli attacchi ha causato fughe di dati sensibili, con avversari capaci di sfruttare le vulnerabilità in meno di un minuto. Gartner prevede che entro il 2028, il 25% delle violazioni aziendali sarà attribuibile all'abuso di agenti AI.

Questa situazione ha spinto molte aziende a incrementare gli investimenti nella sicurezza AI. Un esempio è Palo Alto Networks, che ha recentemente manifestato interesse per l'acquisizione di Protect AI, valutata tra 650 e 700 milioni di dollari. Parallelamente, Amazon AI sta sviluppando oltre 1.000 applicazioni basate su AI generativa per migliorare l'esperienza cliente in diversi settori.