Adobe crea un A.I. in grado di rilevare – e invertire – le foto manipolate
Il volto in quella foto o nel video che stai guardando sul web è reale o falso ? Adobe, i creatori di Photoshop, potrebbe presto disporre di strumenti che consentono di individuare una faccia modificata, consentendo di vedere l'aspetto originale dell'immagine. I ricercatori di Adobe e della University of California, Berkeley, hanno recentemente sviluppato un programma di intelligenza artificiale che riconosce quando viene utilizzato lo strumento Face Aware Liquify di Photoshop, uno strumento che può essere utilizzato per alterare le espressioni facciali.
Il team ha addestrato una rete neurale convoluzionale (CNN), una forma di intelligenza artificiale, alimentando i set di immagini del computer: uno originale e l'altro modificato. Utilizzando i dati, i ricercatori hanno addestrato il software per riconoscere quando i volti nella fotografia sono stati manipolati. Il software cerca diversi indizi, dagli artefatti di ordito al layout del viso.
Mentre la persona inesperta riusciva a individuare il falso il 53% delle volte, il software ha raggiunto percentuali fino al 99% di accuratezza nella scelta della foto simulata. Ma il software potrebbe anche fare un ulteriore passo avanti e fare una stima approssimativa di ciò che l'immagine originale potrebbe sembrare, decodificare l'immagine in base ai diversi artefatti e segnali che la manipolazione è stata utilizzata in primo luogo. Adobe dice che i ricercatori sono rimasti sorpresi di quanto accuratamente il software potesse stimare l'aspetto dell'immagine originale.
La ricerca si unisce alla precedente ricerca di Adobe per individuare le immagini che sono false usando tecniche di clonazione. Adobe suggerisce che la continua ricerca nel software per rilevare la manipolazione delle immagini potrebbe aiutare a democratizzare le immagini forensi – in altre parole, rendere più facile per la persona media scorrere i social media o una pagina Web per individuare una fotografia manipolata.
La manipolazione dell'emozione in un'immagine può essere utilizzata per creare immagini e meme fuorvianti. Nel video, l'alterazione delle espressioni facciali è spesso parte della creazione di deepfakes per manipolare la bocca di chi parla sul video in modo che corrisponda al testo truccato, come il recente video fasullo di Mark Zuckerberg .
"Questo è un passo importante per essere in grado di rilevare alcuni tipi di modifica delle immagini e la funzionalità di annullamento funziona sorprendentemente bene", ha detto in una dichiarazione Gavin Miller, responsabile della ricerca di Adobe. "Oltre alle tecnologie come questa, la migliore difesa sarà un pubblico sofisticato che sa che i contenuti possono essere manipolati – spesso per deliziarli, ma a volte per indurli in errore".
Adobe afferma che il team di ricerca dell'azienda continuerà a esplorare il tema dell'autenticità, compresa la discussione sul bilanciamento delle salvaguardie con creatività e strumenti di narrazione.
