Google aggiunge filigrane AI alle foto modificate da Magic Editor

Google Photos sta aggiungendo le sue filigrane digitali SynthID alle foto che sono state modificate usando la funzionalità di intelligenza artificiale generativa di Magic Editor. Secondo Big G, la nuova funzionalità verrà lanciata "questa settimana" e ha lo scopo di rendere più facile per le persone identificare rapidamente le immagini che sono state manipolate usando lo strumento "reimagine" in Magic Editor. SynthID è un sistema di filigrana creato dal team DeepMind che incorpora un tag di metadati digitali direttamente in immagini, video, audio e testo. Lo scopo è quello di identificare se le immagini sono state create o modificate utilizzando strumenti di intelligenza artificiale.

La filigrana viene già applicata a immagini generate interamente dall'intelligenza artificiale utilizzando il modello Imagen di Google. Sistemi di filigrana simili sono stati sviluppati anche da altre aziende. Tra queste vi è Content Credentials che Adobe applica alle opere create o modificate utilizzando la sua suite di app Creative Cloud.

Google: SynthID rilevabile tramite tool AI dedicati

Com’è noto, gli strumenti AI non sono perfetti e a volte tendono a generare delle immagini particolari o addirittura inappropriate, senza dichiarare esplicitamente che queste sono create dall’AI. Ciò può portare ad esempio gli utenti a credere a delle immagini fake. SynthID di Google cerca proprio di risolvere questo problema, senza però essere visibile ad occhio nudo. Infatti, la filigrana non altera visibilmente l'immagine a cui è associata. Questa può essere identificata utilizzando uno strumento di rilevamento AI dedicato che fa parte della funzionalità "Informazioni su questa immagine".

Google afferma inoltre che alcune modifiche apportate utilizzando il reimagine di Magic Editor "potrebbero essere troppo piccole perché SynthID le possa etichettare e rilevare". La tecnologia della filigrana può aiutare se riesce a rilevare le manipolazioni. Tuttavia, alcuni esperti in questo campo concordano sul fatto che la filigrana da sola non sarà abbastanza efficace per autenticare in modo affidabile i contenuti generati dall'IA su larga scala. Proprio per questo motivo, in futuro sarà necessaria una serie diversificata di approcci diversi che lavorino in tandem.