Perché un divieto profondo non risolverà i veri problemi di Facebook
Facebook alla fine di lunedì ha pubblicato una dichiarazione in cui illustra come affronterà quelli che chiamano "media manipolati", noti anche come deepfakes. È l'ultimo gigante dei social media ad affrontare quello che viene visto come un incombente problema politico prima delle elezioni del 2020. La sua politica, tuttavia, lascia una scappatoia, dicono gli esperti.
In un post sul blog, la società ha dichiarato che avrebbe essenzialmente vietato la maggior parte dei deepfake, "indagando su contenuti generati dall'IA e comportamenti ingannevoli come account falsi" e "collaborando con università, governo e industria per esporre le persone dietro questi sforzi".
Tuttavia, c'è quella scappatoia: "Questa politica non si estende al contenuto che è parodia o satira, o al video che è stato modificato esclusivamente per omettere o cambiare l'ordine delle parole", ha scritto la società.
Anche l'implementazione della politica sembrava confusa: il reporter della CNN Hadas Gold inizialmente aveva scritto su Twitter che Facebook avrebbe fatto un'eccezione alla sua regola del falso per i politici. Cioè, i politici che pubblicano contenuti di deepfake non verrebbero penalizzati e il contenuto non verrebbe rimosso. Facebook ha successivamente ritirato questa affermazione.
Aggiornamento: Facebook mi ha appena detto che hanno fatto un errore quando me lo hanno detto prima. I deepfakes in un annuncio poliziesco NON saranno consentiti per politica "Sia che siano pubblicati da un politico o da chiunque altro, non consentiamo contenuti multimediali manipolati negli annunci" – una grande differenza!
& Mdash; Hadas Gold (@Hadas_Gold) 7 gennaio 2020
I deepfakes non sono il vero problema
Mentre la maggior parte degli esperti con cui ha parlato Digital Trends ha affermato che questa politica (meno la confusione politica) è stata un buon primo passo, alla fine ritengono che sarà inefficace. Se l'obiettivo di Facebook è combattere la disinformazione, deve concentrarsi su qualcosa di più dei semplici deepfake, che non sono ancora il problema più grande.
tl; dr: Questo è sia troppo forte che troppo stretto, ma almeno è qualcosa.
Abbiamo bisogno di maggiori informazioni su come sono state prese le decisioni (questo è fondamentale per la società civile e potrebbe aiutare le altre aziende più piccole con meno risorse).
(Dichiarazione di non responsabilità: sono stato consultato al riguardo.)& Mdash; Aviv Ovadya ???? (@metaviv) 7 gennaio 2020
Areeq Chowdhury, il capo del Think Tank presso Future Advocacy, che a novembre ha prodotto due video virali di deepfake del Primo Ministro britannico Boris Johnson e del leader dell'opposizione Jeremy Corbyn , ha dichiarato in un'e-mail a Digital Trends che "mentre un annuncio di benvenuto, è strano che Facebook stanno applicando questa politica solo ai deepfakes e non ad altre forme di contenuti manipolati progettati per indurre in errore. "
Mentre i deepfake sono certamente un problema sulla piattaforma, sono ancora difficili da realizzare per una persona normale. E mentre possono proliferare non appena diventano più facili da risolvere, al momento, questo non è il problema più grande su cui Facebook deve concentrarsi, ha affermato Britt Paris, professore associato di scienze dell'informazione all'università di Rutgers e co-autore dell'articolo " Falsi profondi e falsi economici . "" Il modo in cui la maggior parte dei deepfake attualmente funziona, hanno una barriera incredibilmente elevata per l'ingresso e richiedono molta esperienza per fare ", ha detto Parigi a DT. "Questo probabilmente cambierà, ma se questo è qualcosa che sta premendo al momento è un'altra domanda."
In questo momento, Parigi ha detto cose come notizie false e video travisanti o decontestualizzati sono una preoccupazione più urgente. "Stanno letteralmente facendo la cosa più semplice possibile", ha detto Paris. "Sono sempre sotto tiro per disinformazione e problemi politici. Questo è il loro tentativo di pubbliche relazioni di dire "stiamo facendo qualcosa al riguardo". Mi sembra uno sforzo simbolico. "
"C'è una domanda sul fatto che un divieto possa fare la differenza", ha scritto Chowdhury. "Molta attività è tecnicamente vietata su Facebook ma si svolge ancora".
Facebook non ha risposto a una richiesta di commento.
Cosa conta come satira?
Shamir Allibhai, fondatore e CEO di Amber Video, una piattaforma di verifica video, ha applaudito l'esclusione, sottolineando che mentre molte persone cercheranno di sfruttare la scappatoia, ci sono molti posti al mondo, come i paesi sotto il dominio autoritario, dove la satira può essere l'unico veicolo per criticare e cercare il cambiamento. "Hanno fatto la chiamata giusta qui", ha scritto in una e-mail a Digital Trends.
Questa politica, tuttavia, sarà difficile da applicare. Le definizioni di satira e parodia variano in tutto il mondo, come sottolineato da Parigi, e l'approccio basato su AI di Facebook per sradicare disinformazione o contenuti manipolati non ha (ancora) un senso dell'umorismo.
"L'intelligenza artificiale deve ancora sviluppare la sfumatura della commedia e del contesto, il che significa che saranno necessarie persone reali per filtrare i contenuti falsi profondi che rientrano nel banner della satira e della parodia", ha scritto Jo O'Reilly, avvocato della privacy digitale nel Regno Unito- basato sulla fonte di informazioni sulla privacy digitale ProPrivacy. "Questo, ovviamente, presenta i suoi problemi, incluso ma non limitato al tentativo di Facebook di nascondersi dietro la neutralità ed evitare la fedeltà politica".
David Greene, direttore delle libertà civili presso la Electronic Frontier Foundation, ha anche affermato di sostenere l'eccezione della satira, ma era preoccupato per quanto sarebbe stato difficile far rispettare queste regole. "Questo è un buon primo passo, ma ci sono centinaia di passaggi difficili da seguire dopo", ha detto a Digital Trends. “Questo tipo di moderazione dei contenuti è impossibile da fare perfettamente e davvero, davvero, molto difficile da fare bene. Non li vedo risolvere le cose in questo modo. Non che non dovrebbero provare. "