Rassenverzerrung im Twitter Picture-Cropping-Algorithmus festgestellt

Tendință rasială observată în Twitter Algoritmul de decupare a imaginilor
⏱️ 4 min read

Mit der heutigen Technologie und dem sozialen Bewusstsein ist es nicht mehr in Ordnung, irgendeine Art von Voreingenommenheit in einem Produkt oder einer Dienstleistung zu zeigen, egal ob beabsichtigt oder nicht. Aus diesem Grund werden die Finger auf Twitter gerichtet, nachdem der Algorithmus zum Zuschneiden von Bildern eine rassistische Tendenz aufweist.

Hat Twitter eine rassistische Neigung?

Twitter untersucht seinen Algorithmus zum Zuschneiden von Bildern nachdem Benutzer bemerkt hatten, dass schwarze Gesichter in der Bildvorschau auf dem mobilen Betriebssystem nicht immer angezeigt wurden, wenn ein Bild sowohl ein schwarzes als auch ein weißes Gesicht zeigt.

Twitter berichtete, dass es beim Testen seines Algorithmus keine Hinweise auf rassistische und geschlechtsspezifische Vorurteile gefunden habe, stellt jedoch auch fest, dass weitere Tests durchgeführt werden müssen.

Der Technologiebeauftragte des sozialen Netzwerks, Parag Agrawal, sagte, das Bildbeschneidungsmodell sei bei der Auslieferung analysiert worden, schätze jedoch, dass die Öffentlichkeit dabei hilft, es live zu testen. “Ich liebe diesen öffentlichen, offenen und strengen Test – und möchte unbedingt daraus lernen”, sagte er.

Ein Universitätsmanager in Vancouver, Colin Madland, begann dieses Unternehmen, indem er bemerkte, dass der Kopf des anderen Mannes verschwinden würde, wenn er mit einem schwarzen Kollegen zoomt. Es sah so aus, als ob die Software den dunkleren Kopf als Teil des Hintergrunds sah, also entfernte er ihn.

Madland sah ein tieferes Problem, als er darüber twitterte. Er postete auf Twitter und fragte, ob jemand wisse, was los sei, wenn das Gesicht seines Kollegen verschwinde. Sobald er jedoch ein Bild auf Zoom gepostet hatte, das sowohl sein Gesicht als auch das fehlende Gesicht seines Kollegen enthielt, beschnitt Twitter das Bild, um nur Madland und nicht den anderen Mann zu zeigen.

Bei Zoom stellte er fest, dass er das Gesicht des Schwarzen erscheinen lassen konnte, wenn ein weißer Globus hinter seinem Kopf platziert wurde, als würde es ausreichen, um ihn vom Hintergrund zu trennen. Twitter hat dies jedoch auch abgeschnitten. Es beschnitt den Mann mit dem fehlenden Kopf und das Bild mit dem Kopf vor dem Globus.

Dantley Davis, Chief Design Officer von Twitter, glaubt, dass das Problem behoben werden würde, wenn Madlands Gesichtsbehaarung und Brille entfernt würden.

„Ich weiß, dass du denkst, es macht Spaß, sich auf mich einzulassen – aber ich bin darüber genauso irritiert wie alle anderen. Ich bin jedoch in der Lage, das Problem zu beheben, und das werde ich auch “, sagte Davis. „Es ist zu 100 Prozent unsere Schuld. Niemand sollte etwas anderes sagen. “

Twitter-Nutzer führten Experimente durch, um die Theorie zu beweisen. Sie fanden heraus, dass der Algorithmus den Mehrheitsführer des US-Senats, Mitch McConnell, dem ehemaligen US-Präsidenten Barack Obama vorzog. Selbst mit einem Foto auf Lager wurde eher ein Weißer als ein Schwarzer gezeigt.

Twitter nicht allein

Nachrichten Twitter Racial Bias Map

Dies ist keine isolierte Situation bei Twitter. Dies ist auch Microsoft, IBM und Amazon mit ihren Gesichtserkennungssystemen passiert. Sie waren nicht in der Lage, sowohl farbige als auch weiße Personen zu identifizieren.

Microsoft hat angekündigt, Schritte zur Behebung des Problems unternommen zu haben, nachdem festgestellt wurde, dass das System mit überwiegend weißen Gesichtern trainiert wurde. Dem System wurden nicht genügend farbige Personen angezeigt, um zu lernen, wie man sie richtig identifiziert. Später schlug Microsoft vor, die Gesichtserkennung zu regulieren, um Verzerrungen zu vermeiden.

IBM kündigte an, eine neue Version seines Dienstes zu starten. Das Erkennungssystem von Amazon identifiziert manchmal sogar schwarze Frauen als schwarze Männer, aber es hat nicht das gleiche Problem mit weißen Frauen.

Das Problem, wie Madland auf seins hinwies Twitter-Kontoist, dass dies nicht immer so unschuldig ist wie ein Zoom-Meeting. Strafverfolgungsbehörden verwenden die Anerkennung. Menschen könnten durch dieses System falsch identifiziert und eines Verbrechens beschuldigt werden. Und das ist an sich schon ein Verbrechen.

Bildnachweis: Colin Midlands Twitter und gemeinfrei

Join our Newsletter and receive offers and updates! ✅

0 0 votes
Article Rating
Avatar of Routech

Routech

Routech is a website that provides technology news, reviews and tips. It covers a wide range of topics including smartphones, laptops, tablets, gaming, gadgets, software, internet and more. The website is updated daily with new articles and videos, and also has a forum where users can discuss technology-related topics.

Das könnte dich auch interessieren …

Abonnieren
Benachrichtige mich bei
guest
0 Comments
Inline Feedbacks
View all comments
0
Would love your thoughts, please comment.x