Kann Deepfake die Gesichtserkennung täuschen? Eine neue Studie sagt Ja!

Deepfakes und KI-generierte Videos sind hier, um zu bleiben. Aber in den letzten Jahren sind sie qualitativ und quantitativ gewachsen, was vielen Menschen Sorgen um die nationale Sicherheit und die Privatsphäre macht.

Doch egal wie sehr anonyme Online-Benutzer versuchten, ihr gefälschtes Video realistisch zu machen, sie kamen nie an fortschrittlicher Gesichtserkennungssoftware vorbei. Bis jetzt.

Gesichtserkennungs-APIs täuschen

Forscher der Sungkyunkwan University in Suwon, Südkorea, die Qualität der aktuellen Deepfake-Technologie getestet. Sie testeten sowohl Amazon- als auch Microsoft-APIs mit Open-Source- und häufig verwendeter Deepfake-Videogenerierungssoftware, um zu sehen, wie gut sie funktionieren.

Die Forscher verwendeten die Gesichter von Hollywood-Stars. Um solide Deepfakes zu erstellen, benötigt die Software viele hochwertige Bilder von verschiedenen Blickwinkel derselben Personen, die von Prominenten viel leichter zu bekommen sind als gewöhnliche Menschen.

Die Forscher entschieden sich auch, die API von Microsoft und Amazon als Benchmark für ihre Studie zu verwenden, da beide Unternehmen Gesichtserkennungsdienste für Prominente anbieten. Sie nutzten öffentlich zugängliche Datensätze und erstellten knapp über 8.000 Deepfakes. Aus jedem Deepfake-Video extrahierten sie mehrere Faceshots und schickten sie an die betreffenden APIs.

Mit den Azure Cognitive Services von Microsoft konnten die Forscher das System 78 Prozent der Zeit mit Deepfakes täuschen. Die Ergebnisse von Amazon waren etwas besser, wobei 68 Prozent der eingereichten Gesichter als echt identifiziert wurden.

Was ist mit Deepfake-Detektoren?

Deepfake-Detektoren funktionieren mehr oder weniger wie Deepfake. Bei den Detektoren handelt es sich um Software, die mithilfe von Machine-Learning-Modellen darauf trainiert wurde, Deepfake-Videos zu erkennen.

Aber anstatt sich darauf zu konzentrieren, ein hyperrealistisches Video zu erstellen, um die Detektoren zu täuschen, können Deepfakes jetzt in jedem Frame gegnerische Beispiele enthalten, um das KI-System zu verwirren. Tatsächlich haben Deepfake-Angriffe dieser Art Erfolgsraten im Bereich von 78 bis 99 Prozent.

Es wird immer schlimmer

Deepfakes sind eine Anwendung für maschinelles Lernen. Um eines zu erstellen, das auch nur annähernd überzeugend ist, benötigen Sie Hunderte von Bildern des Gesichts derselben Person aus verschiedenen Blickwinkeln und mit verschiedenen Emotionen.

Aufgrund des Bedarfs an riesigen Datenmengen sollte man meinen, dass nur Menschen mit einer großen Online-Präsenz gefährdet sind, wie Prominente und Politiker. Aber das ist nicht mehr der Fall.

Laut Deeptrace ist die Zahl der Deepfakes im Internet in weniger als einem Jahr um 330 Prozent gestiegen – von Oktober 2019 bis Juni 2020. Ganz zu schweigen davon, dass die Software und Algorithmen, die Deepfake-Hersteller verwenden, stärker und leichter verfügbar und zugänglich werden.

Wer ist von Deepfakes gefährdet?

Als Deepfakes zum Mainstream wurden, war die primäre Sorgen galten der Privatsphäre und der nationalen Sicherheit. Die Menschen befürchteten, dass man den Videoaufnahmen von Politikern und offiziellen Regierungsmitarbeitern nicht mehr trauen könnte.

Aber obwohl es unverantwortlich wäre, das Sicherheitsrisiko von Deepfakes zu ignorieren, haben mehrere Umfragen ergeben, dass Deepfake-Hersteller noch nicht so daran interessiert sind, die Politik zu stören. Die Mehrheit der Deepfakes-Videos im Internet kann in zwei Kategorien unterteilt werden: lustige Videos von Prominenten-Interviews und Filme und pornografisches Material.

Während die jüngste Studie mit prominenten Gesichtern durchgeführt wurde, um sicherzustellen, dass die Deepfakes von hoher Qualität waren, um die APIs zu täuschen, bedeutet das nicht, dass Sie keine Deepfakes mit weniger Daten erstellen können. Sicher, sie haben vielleicht keine Chance, fortschrittliche Gesichtserkennungssysteme zu täuschen, aber sie können überzeugend genug sein, um andere Menschen zu täuschen.

Heutzutage können Deepfakes von jedem mit sozialer Präsenz überzeugend gemacht werden. Alles, was sie brauchen, sind ein paar Fotos von dir und vielleicht ein Video, in dem du auftauchst. Der resultierende Deepfake kann von geringer Qualität sein, aber er ist immer noch machbar und kann schädlich sein.

Die Zukunft ist noch unbekannt

Es gibt viele widersprüchliche Vorhersagen zum Zustand von Deepfakes, da sie nicht so schnell verschwinden.

Einige erwarten eine apokalyptische Cyber-Zukunft, in der Sie keinem Filmmaterial vertrauen können, auf das Sie online stoßen. Andere sind optimistischer, vergleichen Deepfakes mit Animationen und sagen, dass dies eine Zukunft in der Inhaltsproduktion haben könnte.

So schützen Sie sich vor Deepfake-Videos

Deepfakes werden immer häufiger. Hier erfahren Sie, wie sie Ihre Online-Privatsphäre bedrohen und wie Sie verhindern können, dass sie überfallen werden.

Weiter lesen

Über den Autor