Google draagt bij aan onderzoek naar deepfake-detectie met zijn visuele deepfake-corpus
Deep learning is een geavanceerd gebied van machine learning dat tegenwoordig snel groeit. Hoewel er veel onderzoek is gedaan op dit gebied, is er nog steeds een onderzoekshiaat. Google-technici hebben in dit opzicht een belangrijke bijdrage geleverd en ze werken actief aan de productie van een aantal belangrijke corpus. De zoekgigant heeft onlangs samengewerkt met Jigsaw om een enorm corpus van deepfakes vrij te geven. Met behulp van het vrij beschikbare corpus kunnen de onderzoekers nu werken aan synthetische videodetectieframeworks.
Andrew Gully, de technisch onderzoeksmanager van Jigsaw en Nick Dufour, de onderzoekswetenschapper van Google, beschreven in een blogpost:
Google verklaarde verder dat het bedrijf werkte met instemmende en betaalde acteurs om de dataset van honderden video's samen te stellen. Het bedrijf gebruikte de video's vervolgens om duizenden deepfakes te produceren. Ze genereerden zowel nep- als echte monsters.
Gezien het feit dat deepfake een evoluerende technologie is, zal het bedrijf blijven toevoegen aan het corpus.
Deepfake-video's werden voor het eerst gespot in 2017. Deze video's zijn oorspronkelijk samengesteld voor humoristische inhoud. Mensen gebruiken nu op AI gebaseerde systemen om manipulatieve video's te genereren die de gezichten van mensen verwisselen. Er zijn verschillende deepfake-genererende applicaties die voor dat doel kunnen zijn.
Het goede ding is dat de autoriteiten nu kennis hebben genomen van deze kwestie en dat ze strikte wetten maken om het toezicht te vergroten. De deepfake-dataset levert een belangrijke bijdrage aan het oplossen van het probleem. Bovendien werkt Google al aan het beperken van het mogelijke misbruik van deze technologie. Het bedrijf bracht een synthetisch spraakcorpus uit dat later door meer dan 150 onderzoeken werd gebruikt.
