Appello per il divieto di alcune app AI che generano deepfake in nudità dei minori

La crescente diffusione di applicazioni basate sull'intelligenza artificiale, in grado di trasformare foto comuni in immagini a sfondo sessuale, ha scatenato un'ondata di preoccupazione nel Regno Unito. Dame Rachel de Souza, Commissaria per l'Infanzia, ha richiesto un divieto immediato per queste app, che rappresentano una minaccia significativa per la sicurezza dei minori e, in particolare, per le giovani donne. La facilità con cui queste tecnologie possono essere reperite online ha già portato molte adolescenti a modificare il proprio comportamento, evitando di condividere immagini personali sui social media per paura di essere vittime di abusi digitali.

Secondo Dame de Souza, non esiste alcuna giustificazione positiva per l'esistenza di queste applicazioni. Ha inoltre sottolineato la necessità di introdurre responsabilità legali per gli sviluppatori di intelligenza artificiale generativa, obbligandoli a identificare i rischi legati ai loro prodotti, a rimuovere contenuti inappropriati e a riconoscere il deepfake sessuale come una forma di violenza di genere. Queste richieste si inseriscono in un contesto normativo già in evoluzione, con il governo britannico che ha recentemente approvato nuove leggi penali per contrastare la creazione e la diffusione di deepfake sessuali senza consenso.

Un ambiente digitale più sicuro

L'Online Safety Act, approvato di recente, rappresenta un passo importante verso un ambiente digitale più sicuro. Questa legge impone regole più severe alle piattaforme online, con l'obiettivo di proteggere i giovani da contenuti dannosi e inappropriati. L'Ofcom, autorità regolatrice britannica, avrà il compito di far rispettare queste normative, prevedendo sanzioni significative per le aziende che non si conformano alle nuove disposizioni. Tra le misure incluse, spicca l'obbligo per le piattaforme di utilizzare algoritmi capaci di prevenire la pubblicazione di immagini intime non autorizzate e di rimuoverle tempestivamente qualora venissero segnalate.

Un esempio della portata del problema è stato evidenziato da una sedicenne intervistata dalla Commissaria, che ha dichiarato di quanto fosse evidente che questa tecnologia sarebbe stata usata in modo negativo. Questo sentimento riflette il timore diffuso tra i giovani riguardo all'uso improprio delle tecnologie di intelligenza artificiale.

La sfida principale ora è bilanciare l'innovazione tecnologica con la necessità di proteggere i soggetti più vulnerabili della società. Mentre le tecnologie di intelligenza artificiale continuano a evolversi, è essenziale garantire che il loro utilizzo non comprometta la sicurezza dei minori.