Twitter rimuove l'algoritmo di ritaglio delle foto dopo l'analisi dei pregiudizi razziali

Twitter entfernt Photo-Cropping-Algorithmus nach Racial Bias-Analyse

⌛ Reading Time: 3 minutes

So soll es funktionieren. Twitter wurde auf ein Problem aufmerksam gemacht, es analysiert das Problem und behebt es jetzt. Nachdem Twitter Beschwerden gehört hatte, dass sein automatischer Foto-Cropping-Algorithmus eine rassistische Voreingenommenheit aufwies, verbrachte Twitter einige Zeit damit, eine Analyse durchzuführen, entschied sich dann, das Tool zu entfernen und die Leute die Fotos selbst zuschneiden zu lassen.

Foto-Crop-Bias-Beschwerden

Im vergangenen Oktober haben sich Twitter-Nutzer darüber beschwert, dass der Algorithmus zum Zuschneiden von Fotos nicht alle gleich behandelt. Die Social-Media-Site kündigte an, ihr Tool zu analysieren, und setzte dies für die nächsten Monate fort. Es wurden Verbesserungen bei der Bewertung potenzieller Verzerrungen gemäß a eingeleitet Blogeintrag geschrieben von Rumman Chowdhury, Twitters Director of Software Engineering.

Dies war eine Teamarbeit zwischen dem ML Ethics, Transparency, and Accountability ((META)-Team und dem Content Understanding Research-Team. Das Team stellte die Frage, ob maschinelles Lernen das beste Werkzeug für das Zuschneiden von Fotos ist, und der Algorithmus wurde auf Geschlecht und Rasse getestet Voreingenommenheit und ob Benutzer ihre eigenen Entscheidungen treffen durften, wurde in Frage gestellt.

Twitter hat den Foto-Cropping-Algorithmus 2018 eingeführt. Damals war das Ziel, „die Konsistenz der Größe von Fotos in Ihrer Timeline zu verbessern und Ihnen zu ermöglichen, mehr Tweets auf einen Blick zu sehen“, so der Blog-Beitrag. Der Auffälligkeitsalgorithmus wurde entwickelt, um zu beurteilen, was ein Leser auf einem Foto sehen möchte, damit die unwichtigen Teile ausgeschnitten werden können, um das Foto besser sichtbar zu machen.

Telefon zum Zuschneiden von Twitter-Fotos

Die Analyse von Twitter berücksichtigte drei Bereiche, die zu potenziellem Schaden führen könnten. Die erste waren die Beschwerden, dass der Salienzalgorithmus Weiße gegenüber Schwarzen und Männer gegenüber Frauen bevorzugt. Ein weiterer analysierter Bereich war, ob der Algorithmus die Brust oder die Beine einer Frau anderen Objekten auf einem Foto vorzieht. Der dritte angesprochene Bereich war, dass die Funktion es den Benutzern nicht erlaubte, sich so auszudrücken, wie sie es wollten, indem sie ihnen nicht erlaubten, ihre eigenen Fotos zuzuschneiden.

Die Analyse ergab „einen Unterschied von 8% der demografischen Parität zugunsten von Frauen“ gegenüber Männern, „einen Unterschied von 4% gegenüber der demografischen Parität zugunsten weißer Personen“ gegenüber schwarzen Personen, „einen Unterschied von 7% gegenüber der demografischen Parität zugunsten weißer Frauen“ “ gegenüber schwarzen Frauen und „ein 2% Unterschied zur demografischen Parität zugunsten weißer Männer“ gegenüber schwarzen Männern.

Rsz 873ee953 59db 4927 B4da D9dc6451e2d5

Während der Salienzalgorithmus auch auf den „männlichen Blick“ getestet wurde, fanden sie keine Hinweise auf einen Objektivierungsbias.

Letztendlich wusste Twitter, dass es den Foto-Cropping-Algorithmus anpassen könnte, um die Vorurteile zu beseitigen, aber es war „besorgt über den repräsentativen Schaden des automatisierten Algorithmus, wenn es den Leuten nicht erlaubt ist, sich auf der Plattform so darzustellen, wie sie es wollen“. Es wurde auch angenommen, dass es „andere potenzielle Schäden gibt, die über den Rahmen dieser Analyse hinausgehen, einschließlich Unempfindlichkeit gegenüber kulturellen Nuancen.

Entfernen des verzerrten Algorithmus

Nachdem Twitter zu dem Schluss gekommen war, dass es möglicherweise am besten ist, den Benutzern zu erlauben, sich auszudrücken, wie sie es möchten, begann Twitter „mit dem Testen einer neuen Möglichkeit, Fotos mit Standard-Seitenverhältnis vollständig auf iOS und Android anzuzeigen – das heißt ohne den Salienzalgorithmus-Zuschnitt“. Twitter ermöglichte den Nutzern zwar mehr Kontrolle über ihre Bilder, wollte aber auch „die Erfahrung der Leute verbessern, die die Bilder in ihrer Timeline sehen“.

Für die ultimative Kontrolle sehen die Benutzer eine Vorschau des zugeschnittenen Bildes, bevor es veröffentlicht wird. Twitter ist im Klaren, da es nicht auf maschinelles Lernen angewiesen ist und Benutzer das Zuschneiden selbst vornehmen lässt.

Lesen Sie weiter, um mehr über die Bemühungen von Twitter zu erfahren, die Plattform zu monetarisieren, mit einem Plan, möglicherweise für virale Tweets zu bezahlen, und über die Flak, die Benutzer ankündigten, die „RIP Twitter“ ankündigten, als sie von dem Plan erfuhren.

How useful was this post?

Click on a star to rate it!

Average rating 0 / 5. Vote count: 0

No votes so far! Be the first to rate this post.