Deepfake e AI generativa: la nuova frontiera delle truffe online e digitali

Con l'evoluzione tecnologica, il fenomeno dei deepfake sta rapidamente trasformando il panorama delle truffe digitali. Secondo Marco Ramilli, fondatore di IdentifAI, queste sofisticate manipolazioni in tempo reale rappresentano una nuova frontiera nell'ingegneria sociale, molto più insidiose rispetto alle truffe tradizionali basate su messaggi ingannevoli. La notizia è stata riportata da Ansa ed è emerso che grazie a tecnologie avanzate, è ora possibile alterare istantaneamente volti e voci durante una videochiamata, creando rappresentazioni false praticamente indistinguibili dalla realtà.

Attenzione all'AI generativa

La tecnologia alla base di questa rivoluzione si basa sull'uso dell'intelligenza artificiale generativa, che consente di realizzare alterazioni dinamiche e in diretta, superando di gran lunga le manipolazioni statiche del passato. Questo sviluppo ha portato a un aumento esponenziale degli incidenti legati ai deepfake: tra il 2017 e il 2022 si sono registrati appena 22 casi documentati, ma nel 2023 il numero è quasi raddoppiato a 42. Il 2024 ha visto un incremento del 257%, con 150 segnalazioni, mentre il primo trimestre del 2025 ha già superato il totale dell'anno precedente.

Le truffe digitali più comuni legate ai deepfake includono l'uso di documenti d'identità falsificati per ingannare istituzioni finanziarie e assicurative, nonché la creazione di scontrini contraffatti per ottenere rimborsi fraudolenti. Particolarmente preoccupante è la clonazione vocale, che riesce a replicare fedelmente le caratteristiche vocali di una persona utilizzando solo brevi campioni audio. Questo rende le truffe ancora più convincenti e difficili da rilevare.

La risposta di IdentifAI

In risposta a questa minaccia crescente, la startup italiana IdentifAI ha sviluppato una tecnologia "degenerativa" in grado di analizzare contenuti multimediali per identificare manipolazioni artificiali. Questa tecnologia si è rivelata particolarmente efficace nella collaborazione con NewsGuard per smascherare video falsi attribuiti a Donald Trump, in cui l'ex presidente sembrava minacciare il Pakistan. Grazie a strumenti di analisi avanzati, IdentifAI sta contribuendo a contrastare la diffusione di contenuti manipolati e a proteggere la sicurezza digitale.

Ramilli avverte che l'intelligenza artificiale è destinata a giocare un ruolo sempre più significativo nelle frodi digitali. Se nel 2023 rappresentava solo lo 0,3% delle truffe, nel 2024 questa percentuale è salita al 5%, e si prevede che nei prossimi quattro anni raggiungerà il 60-70%. "Bisogna avere cautela e dotarsi di strumenti che processano le immagini e i video per cercare di capire, altrimenti si perderà la fiducia nel digitale", sottolinea l'esperto, evidenziando l'urgenza di adottare contromisure efficaci per preservare la credibilità dell'ambiente digitale.