Tendință rasială observată în Twitter Algoritmul de decupare a imaginilor

Viés racial percebido no algoritmo de corte de imagens do Twitter

⌛ Reading Time: 3 minutes

Com a tecnologia atual junto com a consciência social, não é mais correto mostrar qualquer tipo de preconceito em um produto ou serviço, seja intencional ou não. É por isso que dedos estão sendo apontados para o Twitter depois que seu algoritmo de corte de imagens está mostrando um viés racial.

O Twitter tem preconceito racial?

O Twitter está investigando seu algoritmo de corte de imagens depois que os usuários notaram que os rostos negros nem sempre eram exibidos em visualizações de imagens no sistema operacional móvel quando uma imagem mostra um rosto preto e um rosto branco.

O Twitter relatou que não encontrou nenhuma evidência de preconceito racial e de gênero quando testou seu algoritmo, mas também percebeu que há mais testes a serem feitos.

O diretor de tecnologia da rede social, Parag Agrawal, disse que o modelo de recorte de fotos foi analisado quando foi lançado, mas agradece que o público esteja ajudando a testá-lo ao vivo. “Amo esse teste público, aberto e rigoroso – e estou ansioso para aprender com isso”, disse ele.

Um gerente de universidade em Vancouver, Colin Madland, começou esta aventura ao perceber que quando ele fazia zoom com um colega negro, a cabeça do outro homem desaparecia. Parecia que o software via a cabeça mais escura como parte do fundo, então a removeu.

Madland viu um problema mais profundo quando tweetou sobre isso. Ele postou no Twitter para perguntar se alguém sabia o que estava acontecendo com o rosto de seu colega desaparecendo. No entanto, depois que ele postou uma foto que incluía seu rosto e o rosto ausente de seu colega no Zoom, o Twitter cortou a imagem para mostrar apenas Madland e não o outro homem.

Ele descobriu no Zoom que poderia fazer o rosto do homem negro aparecer se um globo branco fosse colocado atrás de sua cabeça como se fosse o suficiente para separá-lo do fundo. No entanto, o Twitter também eliminou isso. Ele cortou o homem sem a cabeça para fora e também cortou a imagem com a cabeça vista na frente do globo.

O chefe de design do Twitter, Dantley Davis, acredita que o problema seria corrigido se os pelos faciais e os óculos de Madland fossem removidos.

“Eu sei que você acha divertido afundar em mim – mas estou tão irritado com isso quanto todo mundo. No entanto, estou em posição de consertar, e irei ”, disse Davis. “É 100 por cento nossa culpa. Ninguém deve dizer o contrário. ”

Os usuários do Twitter realizaram experimentos para provar a teoria. Eles descobriram que o algoritmo preferia o líder da maioria no Senado dos EUA, Mitch McConnell, em vez do ex-presidente dos EUA, Barack Obama. Mesmo com uma foto de estoque, um homem branco foi mostrado em vez de um homem negro.

Twitter não está sozinho

Mapa de preconceito racial do Twitter

Esta não é uma situação isolada com o Twitter. Isso também aconteceu com a Microsoft, IBM e Amazon com seus sistemas de reconhecimento facial. Eles não foram capazes de identificar pessoas de cor tão bem quanto pessoas brancas.

A Microsoft disse que tomou medidas para corrigir o problema depois de perceber que o sistema foi treinado principalmente com rostos brancos. O sistema não tinha mostrado pessoas de cor suficientes para aprender como identificá-los corretamente. Posteriormente, a Microsoft sugeriu que o reconhecimento facial deveria ser regulamentado para evitar preconceitos.

A IBM disse que lançará uma nova versão de seu serviço. O sistema de rekognição da Amazon às vezes até identifica mulheres negras como homens negros, mas não tem o mesmo problema com mulheres brancas.

O problema, como Madland apontou em seu Conta do Twitter, é que nem sempre é tão inocente quanto uma reunião do Zoom. A aplicação da lei usa o Rekognition. As pessoas podem ser identificadas erroneamente por este sistema e acusadas de um crime. E isso, por si só, é um crime.

Crédito da imagem: Twitter de Colin Midland e domínio público

How useful was this post?

Click on a star to rate it!

Average rating 0 / 5. Vote count: 0

No votes so far! Be the first to rate this post.