Deepfakes erkennen

Bei Deepfakes handelt es sich um computergenerierte Inhalte, die aus bestehendem Material bestehen. So können realistische Aufnahmen von bekannten Personen gefälscht werden, in denen sie Dinge sagen und tun, die sie nie gesagt oder getan haben.

'Deepfakes lassen sich teilweise mit neuronalen Netzwerken erkennen. Diese Tools verwenden das Prinzip des Deep Learning, sie werden anhand von Bildern trainiert. Die Technologie beruht auf der Annahme, dass Bilder aus Deepfakes bereits früher in einem anderen Zusammenhang veröffentlicht wurden. Neuronale Netzwerke können nach ähnlichen Bildern suchen', sagt Udo Urban vom Deutschen Forschungszentrum für Künstliche Intelligenz im Gespräch mit pressetext. Wenn das Netzwerk solche Elemente in einem anderen Kontext findet, bestehe die Wahrscheinlichkeit, dass es sich um eine Fälschung handelt.

Laut Forschungsleiter Siwei Lyu braucht es nur 500 Bilder oder zehn Sekunden Videomaterial, um einen realistisch aussehenden Deepfake zu erstellen. Deswegen kann von jedem Menschen, der Fotos in sozialen Netzwerken gepostet hat, ein Deepfake gemacht werden. Im Auftrag der Defense Advanced Research Projects Agency (DARPA) hat das Forschungsteam der University of Albany an einer Software gearbeitet, die Deepfakes erkennt. Ein Faktor, an dem man Fälschungen identifiziert, ist Lyu zufolge, ob die Person in dem Video selten blinzelt. Es gebe oft nicht genug Bilder von den Betroffenen, auf denen ihre Augen geschlossen sind. Deswegen wird ein Deepfake die Person meistens mit geöffneten Augen zeigen.

Die Software achtet auch auf unnatürliche Gesichts- oder Kopfbewegungen. Ein weiterer Faktor ist der Verlust von kleinen Details im Gesicht. So sieht die Haut oft zu weich aus und Haaren fehlen Details. Die Zähne sehen oft wie ein einzelner weißer Block aus denn einer Reihe einzelner Zähne. Anhand der von den Forschern entwickelten Tools will die DARPA Filter entwickeln, die Deepfakes aus dem Internet bannen. Sie könnten sonst zum Zweck von Propaganda und Manipulation von Wahlen verwendet werden.

Laut Urban können auch andere Elemente wie Farbe, Kontrast oder Textur bei der Suche nach ähnlichen Bildern genutzt werden. 'Grundsätzlich kann man Faktoren wie das fehlende Blinzeln mit bloßem Auge erkennen. Das hängt aber von der Länge des Videos ab. Oft sind sie zu kurz, um auf solche Details achten zu können. Wenn ein neuronales Netz richtig trainiert wurde, kann es Fälschungen deutlich besser erkennen als Menschen', so Urban.

Der Öffentlichkeit sind Deepfakes schon länger ein Begriff. Besondere Aufmerksamkeit erregte ein Video des US-Komikers und Filmemachers Jordan Peele, in dem er Barack Obama politisch unkorrekte Sätze in den Mund legte. Es gibt auch bereits gefakte Social Media-Influencer, deren Accounts Millionen von Followern haben, wie beispielsweise das digitale 'It-Girl' Lil Miquela. In China verwendet die Nachrichtenagentur 'Xinhua' seit 2018 digitale Nachrichtensprecher, die wie echte Menschen aussehen. Laut Lyu werden die Menschen in Zukunft gegenüber Deepfakes desensibilisiert werden. Er bezweifelt deswegen, dass sie eine ernsthafte Gefahr darstellen.

Ihre Meinung dazu? Schreiben Sie hier!

#Fakes #Video #Software

Newsticker per eMail oder RSS/Feed!

Auch interessant!
Sensor gegen Whiskey-Fälscher
Forscher der University of Technology Sydney haben eine elektronische Nase zur Verifizierung echter Whis...

Kino-Trailer von der KI
Computer anstatt Menschen erstellen künftig Trailer zu neuen Filmen. Forscher der University of Edinburgh...

Deepfake bei Lucasfilm
Der YouTuber 'Shamook' hat nicht nur Fans mit Deepfakes beeindruckt, in denen er etwa Mark Hamills Gastau...

Deep Fakes im Auge der KI
Das Gesehene spiegelt sich in beiden Augen nahezu identisch wider - zumindest was Farbe und Form angeht. ...

Deep-Fake-Erkennung ist unsicher
Deepfake-Detektoren, die manipulierte Videos erkennen sollen, lassen sich durch passende Veränderungen vo...

Speechelo: Deutsche Sprache aus dem Computer
Wer Videos vertonen muss und keine Zeit oder kein Budget für einen Sprecher hat, kann eine wirklich mensc...

Deepfakes bleiben unerkannt
Die meisten Menschen können Deepfake-Videos nicht durchschauen, selbst wenn diese keine hohe Qualität hab...

Notre Dame: Fake-News-Filter funktionieren nicht
Der verheerende Brand in der Kathedrale Notre-Dame in Paris ist in Bezug auf die Faktenprüfung zur Nagelp...

Dating: KI gegen Fakes
Forscher mehrerer britischer Universitäten haben einen neuen Algorithmus entwickelt, der das Leben von On...

Manipulation noch wenig täuschend
Die meisten Menschen lassen sich von manipulierten Fotos in Medien nicht täuschen und können diese von ec...

Promis mit privaten Pornos
Die heißesten Promis haben noch heißere Sexfilme privat gedreht. Ob Star oder Fake-Celebrity ist hier abe...

Lügenpresse soll nicht belehren
Mit dem populistisch anmutenden Titel 'Sind die Medien noch zu retten?' machen die beiden Autoren Thilo B...

Anatomie von Fake News
Ein Casino, bei dem alle gewinnen. Eine Geschichte, die unglaublich ist. Und eine Quelle, die seriös wirk...