Facebook spenderà € 10 milioni e offrirà un premio in denaro per rilevare i deepfake
Facebook offrirà un premio in denaro alla persona o al gruppo che può costruire un modo di prossima generazione per rilevare i deepfake – e sta persino creando i suoi deepfake originali con cui i partecipanti possono lavorare.
La Deepfake Detection Challenge è una partnership tra Facebook, Microsoft, la Partnership su AI e accademici. Facebook ha raccolto € 10 milioni per la partnership per aiutare a rilevare e gestire video e altri media che sono stati manipolati per mostrare a qualcuno che fa o dice qualcosa che non ha mai detto o fatto.
"L'obiettivo della sfida è produrre una tecnologia che tutti possano utilizzare per rilevare meglio quando l'intelligenza artificiale è stata utilizzata per modificare un video al fine di fuorviare lo spettatore", ha scritto Mike Schroepfer, Chief Technology Officer di Facebook AI, in un post sul blog annunciando il programma .
La sfida utilizzerà un nuovissimo set di video con attori pagati, quindi nessun dato utente di Facebook farà parte del programma. La società creerà video non modificati e "manomessi" utilizzando diverse tecniche di intelligenza artificiale che i partecipanti possono rilevare. La speranza è quella di sviluppare un modo per rilevare e prevenire meglio i media manomessi e offrire ai social network come Facebook un modo per contrassegnare i deepfake prima che diventino virali.
Per incoraggiare la partecipazione, ci saranno collaborazioni di ricerca e premi come parte della sfida. Facebook ha già dedicato € 10 milioni è dedicato al progetto.
“[Il] totale di € 10 milioni viene erogato attraverso borse di studio universitarie, premi per le sfide, seminari e inizia a costruire il set di dati. Continueremo a investire per promuovere lo sviluppo del set di dati nel tempo e supportare la comunità di ricerca ", ha detto un portavoce di Facebook a Digital Trends.
La Deepfake Detection Challenge inizierà ad ottobre e durerà fino a maggio 2020 a livello globale.
Deepfakes è una tecnologia relativamente nuova che è cresciuta rapidamente quest'anno. Ci sono già stati problemi con falsi deepfake che pretendono di mostrare a personaggi famosi che dicono qualcosa che in realtà non hanno mai detto, tra cui un deepfake del CEO di Facebook Mark Zuckerberg che proclama il suo potere su "milioni di dati rubati a persone". Gli esperti affermano che la tecnologia sta avanzando rapidamente e deepfakes diventa più convincente (e più facile da creare) nei prossimi anni.
Gli esperti affermano che per combattere il perpetuarsi dei deepfake utilizzati in modo errato, programmi come la Deepfake Detection Challenge sono essenziali.
“La tecnologia per manipolare le immagini sta avanzando più velocemente della nostra capacità di dire ciò che è reale da ciò che è stato simulato. Un problema così grande non sarà risolto da una sola persona ", ha dichiarato Phillip Isola, professore associato di ingegneria elettrica e informatica presso il Massachusetts Institute of Technology. "Concorsi aperti come questo stimolano l'innovazione focalizzando la potenza cerebrale collettiva del mondo su un obiettivo apparentemente impossibile".
