Twitter rimuove l'algoritmo di ritaglio delle foto dopo l'analisi dei pregiudizi razziali

Twitter remove algoritmo de corte de fotos após análise de preconceito racial

⌛ Reading Time: 4 minutes

É assim que deve funcionar. O Twitter foi alertado sobre um problema, analisou o problema e agora está corrigindo. Depois de ouvir reclamações de que seu algoritmo de corte automático de fotos mostrava um preconceito racial, o Twitter passou algum tempo realizando uma análise e, em seguida, decidiu remover a ferramenta e permitir que as próprias pessoas cortassem as fotos.

Reclamações de preconceito de corte de fotos

Em outubro passado, os usuários do Twitter reclamaram que o algoritmo de corte de fotos não estava tratando a todos da mesma forma. O site de mídia social anunciou que analisaria sua ferramenta e continuou a fazê-lo pelos próximos meses. Melhorias foram instituídas sobre como o viés potencial é avaliado, de acordo com um postagem do blog escrito por Rumman Chowdhury, diretor de engenharia de software do Twitter.

Este foi um esforço de equipe entre a equipe de Ética, Transparência e Responsabilidade (META) do ML e a equipe de Pesquisa de Entendimento de Conteúdo. A equipe questionou se o aprendizado de máquina era a melhor ferramenta para recorte de fotos, o algoritmo foi testado para gênero e raça preconceito e se os usuários estavam tendo permissão para fazer suas próprias escolhas foi questionado.

O Twitter instituiu o algoritmo de recorte de fotos em 2018. Na época, o objetivo era “melhorar a consistência no tamanho das fotos em sua linha do tempo e permitir que você veja mais tweets rapidamente”, de acordo com a postagem do blog. O algoritmo de saliência foi projetado para julgar o que um leitor pode querer ver em uma foto para que as partes sem importância possam ser cortadas para tornar a foto um tamanho mais visível.

Twitter com recorte de fotos

A análise do Twitter considerou três áreas que podem causar danos potenciais. A primeira foram as reclamações de que o algoritmo de saliência tinha preferência por brancos em vez de negros e homens em vez de mulheres. Outra área analisada foi se o algoritmo escolheu o peito ou as pernas de uma mulher em vez de outros objetos em uma foto. A terceira área abordada foi que o recurso não permitia que os usuários se expressassem da maneira que desejavam, não permitindo que recortassem suas próprias fotos.

A análise encontrou “uma diferença de 8% da paridade demográfica a favor das mulheres” em relação aos homens, “uma diferença de 4% da paridade demográfica a favor dos indivíduos brancos” sobre os indivíduos negros, “uma diferença de 7% da paridade demográfica a favor das mulheres brancas ”Sobre as mulheres negras, e“ uma diferença de 2% da paridade demográfica em favor dos homens brancos ”sobre os homens negros.

Rsz 873ee953 59db 4927 B4da D9dc6451e2d5

Embora o algoritmo de saliência também tenha testado o “olhar masculino”, eles não encontraram evidências de viés de objetificação.

No final das contas, o Twitter sabia que poderia ajustar o algoritmo de recorte de fotos para lidar com os vieses, mas estava “preocupado com o dano representacional do algoritmo automatizado quando as pessoas não têm permissão para se representar como desejam na plataforma”. Também se acreditava que havia “outros danos potenciais além do escopo desta análise, incluindo insensibilidade às nuances culturais.

Removendo o algoritmo tendencioso

Depois de chegar a essa conclusão de que pode ser melhor permitir que os usuários se expressem como desejam, o Twitter “começou a testar uma nova maneira de exibir fotos de proporção padrão completas no iOS e Android – ou seja, sem o corte do algoritmo de saliência”. Ao mesmo tempo em que permite aos usuários mais controle com suas imagens, o Twitter também queria melhorar “a experiência das pessoas que veem as imagens em sua linha do tempo”.

Para obter o máximo em controle, os usuários verão uma prévia da imagem recortada antes de publicá-la. O Twitter está limpo, pois não depende do aprendizado de máquina e permite que os próprios usuários façam o recorte.

Continue lendo para saber mais sobre os esforços do Twitter para monetizar a plataforma com um plano para possivelmente pagar por tweets virais e as críticas dos usuários que anunciaram “RIP Twitter” quando souberam do plano.

How useful was this post?

Click on a star to rate it!

Average rating 0 / 5. Vote count: 0

No votes so far! Be the first to rate this post.