Il deepfake mescola le carte tra realtà e finzione, ma Facebook e Microsoft vogliono impegnarsi per contrastare il fenomeno dei video falsificati con l’intelligenza artificiale. L’annuncio di una nuova alleanza tra l’azienda di Mark Zuckerberg e quella di Satya Nadella cade a fagiuolo, dopo le recenti polemiche su Zao, l’applicazione (popolarissima in Cina) che permette di modificare scene famose di film e telefilm inserendo il volto dell’utente al posto di quello dell’attore. Basta una fotografia e in pochi secondi attraverso il machine learning l’app crea una falsa realtà, sovrapponendo al video di partenza la fotografia del volto dell’utente e fondendo le due cose insieme in modo credibile.
Oggi le tecniche di deepfake, basate su reti antagoniste generative, stanno diventando popolari e note al grande pubblico per merito di app ludiche (sebbene su Zao si sia già polemizzato, come in precedenza per FaceTime, sottolineando i problemi di privacy dell’applicazione). Questi apparenti giochini però creano le premesse tecnologiche per future e ben più sofisticate mistificazioni, utilizzabili per chissà quali scopi di propaganda, attacchi personali, diffamazione e quant’altro. Magari già a partire dalle prossime elezioni presidenziali statunitensi del 2020.
Ora Facebook, parallelamente alla propria battaglia contro le fake news, si è imbarcata in un’impresa volta a contrastare il nuovo fenomeno. Da Menlo Park è giunto l’annuncio della Deepfake Detection Challenge, iniziativa che oltre al social network vede impegnati Microsoft e ricercatori accademici del Mit di Boston, delle Università di Oxford, UC Berkeley, University of Maryland, College Park, University Albany-SUNY e del campus Cornell Tech. L’obiettivo della “sfida”, come è stata chiamata, è quello di “creare una tecnologia che chiunque possa usare per scoprire, più efficacemente, se l’intelligenza artificiale è stata impiegata per alterare un video e trarre in inganno chi lo vede”. Per gestire l’iniziativa verrà istituito un board composto da rappresentanti di Facebook, Microsoft o del mondo della tecnologia, dei media e delle università.
Ma come si fa a scovare un video falso, e come si farà in futuro se il deepfake diventerà sempre più raffinato? Serviranno tecnologie nuove, e per questo la Deepfake Detection Challenge lancia un appello: “Vogliamo catalizzare più ricerca e sviluppo in quest’area e assicurare che ci siano migliori strumenti open source per scovare i deepfake”. Bisogna unire le forze, necessariamente. Come sottolineato da Phillip Isola, assistente professore di Electrical Engineering & Computer Science del Mit, “La tecnologia di manipolazione dell’immagine sta progredendo più rapidamente della nostra capacità di distinguere il vero dalle falsificazioni. Un problema così grande non può essere risolto da una sola persona”.
Immagine tratta da un video dimostrativo pubblicato da Facebook
Per combattere il deepfake bisogna metterci la faccia
Per mettere a punto una tecnologia di AI “buona”, più intelligente di quelle “cattive” del deepfake, serviranno però innanzitutto dei dati, una marea di fotografie e video di volti di persone reali con cui allenare gli algoritmi di machine learning. Dopo Cambridge Analytica, sulla raccolta dei dati Facebook cammina su un terreno minato, e dunque mette le mani avanti: “Per la nostra community è importante avere dei dati liberamente disponibili, con il chiaro consenso dei partecipanti e che pongano poche restrizioni sull’uso”, ha spiegato la società. “Per questo Facebook commissionerà un data set realistico, in cui saranno usati attori pagati, che abbiano dato il loro necessario consenso per contribuire alla sfida”.
Staremo dunque a vedere come queste persone saranno selezionate e coinvolte. Intanto Facebook ha anche fatto sapere di aver messo a disposizione fondi per i ricercatori e premi per chi vorrà contribuire al progetto: complessivamente, sono stati messi da parte 10 milioni di dollari di budget.