Google ha rilasciato un gigantesco database per aiutare a combattere i deepfake
Include 3.000 video generati dall’IA che sono stati realizzati utilizzando vari algoritmi disponibili al pubblico.
Il contesto: nell’ultimo anno, gli algoritmi generativi sono diventati così bravi a sintetizzare i media che ciò che producono potrebbe presto diventare indistinguibile dalla realtà. Gli esperti stanno correndo per trovare metodi migliori per rilevare questi cosiddetti deepfakes, in particolare con l’avvicinarsi delle elezioni presidenziali statunitensi del 2020.
Deepfake drop: Martedì, Google ha rilasciato un database open source contenente 3.000 video manipolati originali come parte del suo sforzo per accelerare lo sviluppo di strumenti di rilevamento di deepfake. Ha lavorato con 28 attori per registrare video di loro mentre parlavano, facevano espressioni comuni e svolgevano compiti banali. Quindi ha usato algoritmi deepfake disponibili pubblicamente per modificare i loro volti.
Stato dell’arte: all’inizio di questo mese, Facebook ha annunciato che avrebbe rilasciato un database simile verso la fine dell’anno.
A gennaio, un team accademico guidato da un ricercatore dell’Università tecnica di Monaco ha creato uno chiamato FaceForensics ++ eseguendo quattro metodi comuni di manipolazione del viso su quasi 1.000 video di YouTube compilati.
Con ciascuno di questi set di dati, l’idea è la stessa: creare un ampio corpus di esempi che possano aiutare a formare e testare strumenti di rilevamento automatizzati.
Gioco gatto e topo: ma una volta sviluppato un metodo di rilevamento per sfruttare un difetto in un particolare algoritmo di generazione, l’algoritmo può essere facilmente aggiornato per correggerlo.
Di conseguenza, alcuni esperti stanno ora cercando di capire metodi di rilevamento che presuppongono la perfezione delle immagini sintetiche.
Altri sostengono che la repressione nei deepfake non si realizzerà solo con mezzi tecnici: richiederà invece soluzioni sociali, politiche e legali per cambiare gli incentivi che incoraggiano la loro creazione.
Per avere più storie come questa direttamente nella tua casella di posta, iscriviti alla nostra newsletter.
Apple Android Tecnologia Game Netflix
