Twitter enthüllt, dass KI-Cropping aufgrund von Rasse und Geschlecht verzerrt ist

Das erste Mal, dass wir die Idee hörten, dass der Bildbeschneidungsalgorithmus von Twitter einige Verzerrungen aufweisen könnte, war im September 2020. Der Kryptografietechniker Tony Arcieri hat zwei Bilder mit dem Mehrheitsführer des Senats, Mitch McConnell, und dem ehemaligen Präsidenten Barack Obama hochgeladen, und die KI ist McConnell beide Male ins Gesicht gefallen.

Als die Kontroverse schließlich die Leute bei Twitter erreichte, versprach das Unternehmen, sein Modell zu analysieren. Schließlich können wir diese Ergebnisse durchlesen.

Twitter teilt die Ergebnisse seiner Algorithmusanalyse

Anfang Mai Twitter hat endlich eine Bildvorschau in voller Größe eingeführt auf seinen mobilen Zeitleisten. Ein Beitrag im Twitter-Blog hat ergeben, dass die App ihren Algorithmus zum Zuschneiden von Bildern eingestellt hat, nachdem eine Analyse ergab, dass sie rassen- und geschlechtsspezifische Vorurteile aufweist.

Die Plattform begann 2018 mit der Verwendung eines Ausnahmealgorithmus, um ihre Bilder zuzuschneiden. Laut Twitter werden Ausnahmemodelle auf Daten zur Verfolgung des menschlichen Auges trainiert, die dann von der Algorithmus zum Schätzen, welche Themen / Elemente im Bild seiner Meinung nach für die meisten am wichtigsten sind Menschen.

Der Algorithmus würde dann eine Ausprägungsbewertung für alle Teile des Bildes erstellen, bevor der Punkt mit der höchsten Bewertung als Mittelpunkt des Zuschnitts ausgewählt wird.

Nachdem ein quantitativer Test durchgeführt worden war, um mögliche Verzerrungen festzustellen, stellte das Team fest, dass der Ausnahmealgorithmus Frauen gegenüber Männern und weiße Personen gegenüber schwarzen Personen zu bevorzugen schien.

Twitter testete den Algorithmus auch für den "männlichen Blick", es wurden jedoch keine Hinweise auf eine Objektivierungsverzerrung gefunden.

Selbst wenn der Ausprägungsalgorithmus angepasst wurde, um die perfekte Gleichstellung zwischen Rasse und Geschlecht widerzuspiegeln, sind wir [Twitter] besorgt durch den Repräsentationsschaden des automatisierten Algorithmus, wenn Menschen sich nicht so darstellen dürfen, wie sie es wünschen Plattform. Saliency birgt auch andere potenzielle Schäden, die über den Rahmen dieser Analyse hinausgehen, einschließlich der Unempfindlichkeit gegenüber kulturellen Nuancen.

Bei der Betrachtung der Kompromisse zwischen der Geschwindigkeit und Konsistenz des automatisierten Zuschneidens und seinen Risiken Laut Twitter hat das Team erkannt, dass das Zuschneiden eines Bildes eine Entscheidung ist, die am besten von Menschen getroffen wird - nicht Algorithmen.

Verbunden: Technologietrends, die bereits die Zukunft verändern

Twitter beseitigt das automatische Zuschneiden von Bildern

Twitter verwendet den Saliency-Algorithmus nicht mehr und zeigt jetzt Fotos mit Standard-Seitenverhältnis vollständig auf iOS und Android an. Wenn Sie einen Tweet erstellen, werden Sie feststellen, dass das neue Update auch eine echte Vorschau der hochgeladenen Bilder enthält, sodass Sie wissen, wie alles nach der Veröffentlichung aussehen wird.

Wenn Sie daran interessiert sind, die wissenschaftliche Arbeit der Studie zu lesen, finden Sie sie auf arXiv.org. Dort finden Sie auch den Twitter-Code für die Analyse unter GitHub.

So laden Sie 4K-Bilder auf Twitter hoch und zeigen sie an

Mit der Twitter-App können Sie jetzt Bilder in 4K hochladen und anzeigen. So ändern Sie Ihre Einstellungen.

Weiter lesen

Über den Autor