Microsoft svela i criminali informatici dietro la rete deepfake AI

Microsoft ha identificato diversi criminali informatici come membri di un gruppo accusato di sviluppare strumenti malevoli in grado di aggirare le protezioni dell'AI generativa per creare deepfake di celebrità e altri contenuti illeciti. Nel suo aggiornamento, l'azienda ha nominato quattro individui: Arian Yadegarnia dall'Iran (alias "Fiz"), Alan Krysiak dal Regno Unito (alias "Drago"), Ricky Yuen da Hong Kong (alias "cg-dot") e Phát Phùng Tấn dal Vietnam (alias "Asakuri"). Secondo Microsoft, questi hacker sono figure chiave di un'organizzazione criminale globale identificata come Storm-2139.

Come dichiarato da Steven Masada, viceconsigliere Generale dell'Unità Crimini Digitali di Microsoft: "I membri di Storm-2139 hanno sfruttato le credenziali dei clienti esposte, raccolte da fonti pubbliche, per accedere illegalmente a conti su determinati servizi di IA generativa. Successivamente, hanno modificato le funzionalità di questi servizi e rivenduto l'accesso ad altri attori malintenzionati, fornendo istruzioni dettagliate su come generare contenuti dannosi e illeciti, inclusi immagini intime non consensuali di celebrità e altri contenuti sessualmente espliciti". Durante l'indagine, Microsoft ha scoperto che la rete criminale Storm-2139 è organizzata in tre categorie: creatori, fornitori e utenti.

Microsoft: hacker di Storm-2139 si sono rivoltati l’uno contro l’altro

I creatori hanno sviluppato gli strumenti che hanno facilitato l'uso improprio dei servizi generati dall'intelligenza artificiale. I fornitori hanno invece adattato e distribuito questi strumenti illeciti agli utenti finali. Questi vengono utilizzati per generare contenuti che violano l’Acceptable Use Policy e il Code of Conduct di Microsoft. L’aggiornamento segue la causa legale dell'azienda presentata nel distretto orientale della Virginia a dicembre 2024 per raccogliere informazioni sulle operazioni della rete di criminalità informatica. Un ordine restrittivo temporaneo e un'ingiunzione preliminare emessi dopo la presentazione iniziale hanno consentito a Microsoft di interrompere la capacità del gruppo di utilizzare i propri servizi illegalmente. Grazie a ciò è stato sequestrato un sito web chiave parte dell'infrastruttura della rete criminale.

Microsoft ha aggiunto che il sequestro ha spinto i membri di Storm-2139 a rivoltarsi l'uno contro l'altro. Gli hacker hanno infatti cominciato a fare congetture su chi fossero i "John Does" nei documenti. Il team legale di Microsoft ha anche ricevuto diverse e-mail. Alcuni sarebbero dei presunti membri di Storm-2139 che hanno incolpato altri dell'attività dannosa.  Come dichiarato infine da Masada: "stiamo perseguendo questa azione legale contro gli imputati identificati per fermare la loro condotta. Ciò per continuare a smantellare la loro operazione illecita e per scoraggiare altri intenzionati a usare la nostra tecnologia AI come arma. Sebbene abbiamo identificato due attori situati negli USA (in Illinois e Florida), tali identità rimangono riservate per evitare di interferire con potenziali indagini penali. Microsoft sta preparando segnalazioni penali a rappresentanti delle forze dell'ordine statunitensi ed estere".