Prima delle elezioni presidenziali del 2020, Facebook afferma che sta vietando i deepfake
Due giorni prima che Facebook apparisse davanti ai legislatori in un'audizione su House Energy and Commerce sui media manipolati, il social network ha annunciato che sta vietando tutte le forme di deepfakes. L'annuncio rappresenta un significativo passo avanti per Facebook, che ha lottato per correggere la sua immagine sofferente con le elezioni presidenziali del 2020 proprio dietro l'angolo.
In un post sul blog , Monika Bickert, vicepresidente della gestione delle politiche globali di Facebook, ha dichiarato che la società eliminerà i video che sono stati "modificati o sintetizzati in modi che non sono evidenti a una persona media" o che sono "il prodotto dell'intelligenza artificiale" o l'apprendimento automatico che unisce, sostituisce o sovrappone i contenuti a un video, facendolo sembrare autentico ".
Tuttavia, la norma non si applica alle parodie, alla satira o alle clip "che sono state modificate esclusivamente per omettere o modificare l'ordine delle parole". Ciò significa che non si applica anche ai video con dottrored di House Peluche Nancy Pelosi, poiché non è forgiato dall'intelligenza artificiale e invece, è semplicemente il risultato di un software vocale facilmente disponibile.
Oltre a tenere d'occhio i contenuti generati dall'IA, Bickert afferma che Facebook sta anche "collaborando con università, governo e industria per esporre le persone dietro questi sforzi".
Mentre la tecnologia dell'IA continua ad avanzare, i deepfake – la maggior parte dei quali sono quasi impossibili da identificare – sono emersi come una delle sfide più critiche per i governi e le piattaforme. Con un'incombente elezione presidenziale, le aziende si sono affrettate a trovare modi per reprimere e individuare video di deepfake su larga scala. A novembre, Twitter ha anche annunciato una nuova bozza per le politiche di deepfake, anche se deve ancora entrare in vigore.
A differenza dei suoi colleghi, Facebook è stato nel mirino pubblico in quanto si rifiuta di vietare e controllare le pubblicità politiche.
Il mese scorso, un certo numero di organizzazioni e aziende tra cui Facebook, Microsoft, Massachusetts Institute of Technology, Università di Oxford e altre ancora si sono unite per lanciare la Deepfake Detection Challenge , che mira a catalizzare lo sviluppo del rilevamento di deepfake attraverso grandi set di dati, premi e assegni di ricerca.
