Deepfake o notizie false? Zuckerberg dice che Facebook potrebbe trattarli in modo diverso
L'amministratore delegato di Facebook Mark Zuckerberg afferma che la sua azienda sta valutando la possibilità di trattare i deepfake in modo diverso dalle notizie false e dalla disinformazione tradizionali, che potrebbero rendere più facile per Facebook eliminare i video modificati prima che si diffondano. Deepfakes, o video alterati incredibilmente realistici che possono far sembrare che una persona abbia detto o fatto qualcosa che non hanno mai fatto, sono diventati un problema crescente nelle piattaforme di social media. Di recente, Facebook ha subito un incendio a causa di un deepfake meno avanzato che mostrava Nancy Pelosi che faceva scorrere le sue parole, diffuse in tutta la rete.
"Stiamo passando attraverso il processo politico di pensare attraverso quale dovrebbe essere la politica di deepfake", ha detto Mercoledì durante un'intervista con il professor Harvard Cass Sunstein all'Aspen Ideas Festival . "Questo è certamente un aspetto molto importante in quanto la tecnologia IA migliora e penso sia probabile che abbia una politica diversa e che la trattiamo in modo diverso rispetto al modo in cui trattiamo le normali informazioni false su Internet".
"PELOSI STAMMERS ATTRAVERSO LA CONFERENZA DELLE NEWS" pic.twitter.com/1OyCyqRTuk
& Mdash; Donald J. Trump (@realDonaldTrump) , 24 maggio 2019
In questo momento, Facebook si basa su ispettori indipendenti per verificare contenuti controversi. Se determinano che qualcosa è falso o fuorviante, la rete limiterà la sua distribuzione – quindi non apparirà nel tuo feed di notizie. Se vedi una foto o un video che è stato contrassegnato come falso, verrà etichettato come tale.
Ma il sistema non funziona sempre: Zuckerberg ha detto che il video di Pelosi "ha ottenuto più distribuzione di quanto consentito dalle nostre polizze" ed è stato in grado di diffondersi su Facebook nel corso di più di un giorno prima che i controllori del fatto potessero segnalarlo come falso, qualcosa di Zuckerberg ha definito un "errore di esecuzione dalla nostra parte". La società non ha ancora rimosso il video e Zuckerberg ha detto che Facebook deve essere cauto riguardo a quando e come rimuove i contenuti.
Il video di Pelosi era una forma più basilare di un deepfake che la faceva sembrare come se stesse facendo slittare le sue parole tagliandola e rallentandola. Zuckerberg ha affermato che semplici modifiche che eliminano il contesto o cambiano velocità o intonazione non sono del tutto al livello dei deepfake avanzati.
"Penso che dobbiamo stare molto attenti", ha detto, aggiungendo che non spetta a Facebook cancellare tutti i video che vengono modificati in un modo a cui il suo soggetto non piace.
Il video di Pelosi rimane online, ma un deepfake più avanzato – come quello che pretende di mostrare lo stesso Zuckerberg elogiando un'organizzazione oscura chiamata "Spectre" – potrebbe essere una storia diversa.
"Penso che ci sia un buon caso che i deepfakes siano diversi dalla disinformazione tradizionale, proprio come lo spam è diverso dalla disinformazione tradizionale e dovrebbero essere trattati in modo diverso", ha detto.
Con l'avanzare della tecnologia, è probabile che i deepfakes diventino un fastidio crescente o addirittura un problema grave sui social media. Gli esperti dicono che non siamo lontani da quasi chiunque sia in grado di creare un deepfake convincente da una singola foto . Altri social network, in particolare YouTube, hanno faticato a tenere il passo con il rapido sviluppo e la diffusione di deepfakes, in particolare quando e come eliminarli.
Celebrità come Zuckerberg o Kim Kardashian hanno squadre legali che si occupano di deepfakes, ma man mano che diventano più comuni e iniziano a rivolgersi a utenti normali, Facebook e altri probabilmente dovranno determinare esattamente come trattarli.
