Microsoft vertreibt ein Deepfake Detection Tool

Angesichts der Tatsache, dass Deepfakes sowohl den Ruf einer Person zerstören als auch sehr schwer zu erkennen sind, wenn sie richtig gemacht werden, sind sie ein großes Sicherheitsrisiko. Microsoft möchte nun dazu beitragen, Deepfakes zu stoppen, indem ein Tool veröffentlicht wird, mit dem sie erkannt werden können.

Die Bedrohung durch Deepfakes ist so groß, dass sie verursacht wird Facebook, um alle Deepfake-Inhalte zu verbieten. Das größte Hindernis ist jedoch, wie Deepfakes überzeugend aussehen. Daher ist es sehr schwierig, eine Deepfake zu finden und zu bestätigen.

Facebook verbietet Deepfakes und Photoshops

Facebook verbietet Deepfakes und Photoshopping-Fotos. Die Idee ist, manipulierte Medien zu entfernen, die Benutzer täuschen sollen.

Wie berichtet Microsoft zu den ProblemenDas will das Unternehmen mit seinem neuen Tool ändern. Es heißt Microsoft Video Authenticator und analysiert Videos, um nach den "Nähten" zu suchen, die bei der Erstellung von Deepfakes entstanden sind. Diese Nähte sind für das menschliche Auge unsichtbar, aber ein Computer kann sie mithilfe einer Einzelbildanalyse erkennen.

Microsoft Video Authenticator ist keine öffentliche Version, um zu verhindern, dass böswillige Agenten die Technologie zurückentwickeln. Stattdessen verteilt Microsoft sein System an Nachrichten und politische Organisationen. Auf diese Weise können diese Organisationen das Tool verwenden, um das Reale vom Falschen zu trennen.

Microsoft hat jedoch eine zweite Technologie zur Identifizierung von Deepfakes angekündigt. Das Unternehmen schlägt ein System vor, mit dem ein Inhaltsersteller seine Videos mit einer eindeutigen "Signatur" versehen kann. Wenn Wenn das Video bearbeitet wird, wird eine andere Signatur als das Original generiert, wodurch a identifiziert wird Deepfake.

Die Autorin von Deep Fakes und der Infokalypse, Nina Schick, sagte Folgendes:

Die einzige wirklich weit verbreitete Verwendung, die wir bisher gesehen haben, ist die nicht einvernehmliche Pornografie gegen Frauen. Es wird jedoch erwartet, dass synthetische Medien in etwa drei bis fünf Jahren allgegenwärtig werden. Daher müssen wir diese Tools in Zukunft weiterentwickeln. Je besser die Erkennungsfunktionen werden, desto besser wird auch die Generierungsfunktion - das ist nie der Fall In diesem Fall kann Microsoft ein Tool veröffentlichen, mit dem alle Arten von Videos erkannt werden können Manipulation.

Deepfakes sind ein erhebliches Problem für die Glaubwürdigkeit der Medien, und Unternehmen brauchen einen Weg dazu Erzählen Sie, was real ist, aus was Fiktion. Microsoft hat ein Tool veröffentlicht, mit dem Sie bearbeitete Videos erkennen können. Ob das Tool jedoch ausreicht, um mit Deepfake-Entwicklern Schritt zu halten, bleibt abzuwarten.

Wenn Sie sich nicht sicher sind, was Deepfakes sind und warum sie wichtig sind, lohnt es sich auf jeden Fall, sich etwas Zeit zu nehmen, um sie kennenzulernen. Deepfakes stehen kurz davor, das Äquivalent von "Photoshopping" -Bildern in diesem Jahrzehnt zu werden, und können bei böswilliger Verwendung schweren Schaden anrichten.

Deepfakes erklärt: Die KI, die gefälschte Videos zu überzeugend macht

Von KI erzeugte gefälschte Videos untergraben unser Verständnis der Weltereignisse vollständig. Hier ist, wie Deepfakes alles verändern können.

Über den Autor