Deepfakes: Expression Manipulation Detection schafft bis zu 99 % Erkennungsrate
Die Expression Manipulation Detection eines Forscherteams der UC Riverside soll bei Deepfakes mit Gesichtsmanipulationen eine Erkennungsrate von bis zu 99 Prozent erreichen. In zwei Testszenarien erwies sich die Methode als vielversprechend.
Deepfakes werden immer schlechter von der Realität zu unterscheiden, weshalb auch daran geforscht wird, diese zu erkennen. Wissenschaftler der UC Riverside haben nun eine Methode entwickelt, die Video-Deepfakes mit einer Sicherheit von bis zu 99 Prozent erkennt. Die Methode funktioniert auch in Fällen, in denen zwar die Gesichtsidentität, nicht aber der Gesichtsausdruck vertauscht wurde. Generell wird so die Erkennungsrate für solche Deepfakes wesentlich erhöht und man ist auch einen Schritt weiter, die Erkennung automatisieren zu können.
Die Technologie um Videobearbeitungssoftware ist in kurzer Zeit so schnell vorangeschritten, dass man relativ einfach sehr gute Fake-Videos produzieren kann, in denen etwa das Gesicht vertauscht ist oder wo die Mimik verändert wird. Solche Veränderung mit manipulativem Hintergrund können Politik, Sozialgefüge und Ökonomie beeinflussen. Für viele ist die Erkennung von Deepfakes daher auch ein Baustein zur Sicherung der Freiheit und der Demokratie, was gerade bei geänderten Gesichtsausdrücken eine Herausforderung ist, denn die erkennt Technik im Moment noch nicht so zuverlässig wie komplett ausgetauschte Gesichter.
"Was den Bereich der Deepfake-Forschung noch herausfordernder macht, ist der Wettbewerb zwischen der Erstellung und der Erkennung und Verhinderung von Deepfakes, der in Zukunft immer härter werden wird. Mit weiteren Fortschritten bei generativen Modellen werden Deepfakes leichter zu synthetisieren und schwerer von echten zu unterscheiden sein", so Amit Roy-Chowdhury, Professor für Elektrotechnik und Computertechnik am Bourns College und Mitautor des UC-Riverside-Papiers.
Deren Methode zerlegt die Aufgabe in zwei Stufen, die in einem neuralen Netzwerk verarbeitet werden. Sie erste Stufe Gesichtsausdrücke erkennen und leitet Informationen über die Regionen, die den Ausdruck enthalten, wie z. B. Mund, Augen oder Stirn, an eine zweite Stufe weiter, der als Encoder-Decoder bezeichnet wird. Der ist für die Erkennung und Lokalisierung von Manipulationen im Video bzw. Gesicht zuständig.
"Das Multitasking-Lernen kann prominente Merkmale, die von Systemen zur Erkennung von Gesichtsausdrücken gelernt wurden, für das Training herkömmlicher Systeme zur Erkennung von Manipulationen nutzen. Ein solcher Ansatz erzielt eine beeindruckende Leistung bei der Erkennung von Gesichtsmanipulationen", so Doktorant Ghazal Mazaheri. Expression Manipulation Detection, kurz EMD, soll so bis zu 99 Prozent Sicherheit beim Erkennen von Manipulationen erreichen. In zwei Testszenarien bei, nach eigenen Angaben sehr herausfordernden Manipulationen, wurde dieser Wert erreicht.
Quelle: WACV 2022
In Dland kann man bindende Verträge per Video machen.
Gab ein Bericht in der ct darüber.
Nicht toll.
Mir sind ja schon Verträge per Telefon ein Dorn im Auge...
In Dland kann man bindende Verträge per Video machen.
Gab ein Bericht in der ct darüber.
Nicht toll.
Mir sind ja schon Verträge per Telefon ein Dorn im Auge...
Spätestens dann, wenn es vor Gericht geht, ist es eben von Vorteil, wenn man Deepfakes erkennen kann. Ich möchte nicht, dass "mich" jemand bei ner Strafttat filmt und gleich noch "Beweis"material in Form eines Videos mitliefert.
Das kann echt böse enden und ohne Erkennungssoftware oder eindeutige Beweise, dass ich zur Tatzeit woanders war, kann nur das originale, nicht manipulierte Filmmaterial beweisen, wer wirklich auf dem Video zu sehen ist.
Deepfakes sind ne coole Technologie, aber leider auch gut geeignet, richtig Sch**ße damit zu bauen. Aber zurückerfinden kann man es leider nicht mehr.