A Microsoft quer que o reconhecimento facial seja regulamentado para evitar preconceitos

Microsoft möchte, dass die Gesichtserkennung reguliert wird, um Verzerrungen zu vermeiden
⏱️ 3 min read

Este artigo é uma espécie de acompanhamento. Seis meses atrás, publicamos notícias de que a Microsoft estava trabalhando para consertar seu software de reconhecimento facial que era considerado racialmente preconceituoso. Agora, a mesma empresa está pedindo que o reconhecimento facial seja regulamentado para evitar preconceitos. Então, eles foram pegos com software preconceituoso e agora querem que toda a indústria seja regulamentada para evitar que qualquer outra pessoa tenha software preconceituoso.

O problema inicial

Conforme relatamos em junho, a API Face da Microsoft, baseada no Azure, foi criticada em um artigo de pesquisa. O software teve dificuldade em reconhecer pessoas de cor e mulheres. A taxa de erro era de 20,8 por cento, mas com “rostos masculinos mais claros”, havia uma taxa de erro de zero por cento.

O raciocínio por trás dessa diferença de reconhecimento é porque a inteligência artificial precisava ser programada por pessoas. Os resultados serão tão bons quanto as pessoas que fizeram a programação. Os programadores da Microsoft não usaram pessoas suficientes com tons de pele mais escuros ou mulheres o suficiente.

A Microsoft trabalhou para consertar isso diversificando seus dados de treinamento e começou a testar internamente seus sistemas antes de implantá-los. Eles foram capazes de reduzir a taxa de erro para pessoas de pele mais escura em até vinte vezes e a taxa de erro para mulheres em nove vezes.

Empurrando para a Legislação

Seis meses depois e A Microsoft está pedindo aos governos que aprovem legislação exigir que a tecnologia de reconhecimento facial seja testada de forma independente para garantir que seja precisa, para evitar preconceitos e para proteger os direitos dos usuários.

“O gênio do reconhecimento facial, por assim dizer, está apenas saindo da garrafa”, explicou Brad Smith, conselheiro-chefe da Microsoft, em um blog.

“A menos que ajamos, corremos o risco de acordar daqui a cinco anos e descobrir que os serviços de reconhecimento facial se espalharam de forma que exacerba os problemas sociais. Nesse momento, esses desafios serão muito mais difíceis de reprimir. ”

A empresa está pedindo que os resultados do reconhecimento facial sejam revisados ​​por pessoas, em vez de deixar a tarefa para os computadores.

“Isso inclui onde as decisões podem criar um risco de danos corporais ou emocionais para um consumidor, onde pode haver implicações sobre os direitos humanos ou fundamentais, ou onde a liberdade pessoal ou privacidade do consumidor podem ser afetadas”, explicou.

news-microsoft-facial-recognition-legislação-3-pessoas

Além disso, Smith sugeriu que aqueles que usam reconhecimento facial precisam “reconhecer que não estão isentos de sua obrigação de cumprir as leis que proíbem a discriminação contra consumidores individuais ou grupos de consumidores”.

Ele também queria ter certeza de que o uso do reconhecimento facial pelo governo não prejudicaria as liberdades democráticas e os direitos humanos das pessoas.

“Precisamos garantir que o ano de 2024 não se pareça com uma página do romance 1984”, concluiu.

além disso

A Microsoft está certa, é claro. É interessante que, seis meses atrás, eles não reconheceram a necessidade de ter cuidado para que seu software não discriminasse, e agora não apenas reconhecem isso, mas também querem ter certeza de que ninguém mais pode cometer os mesmos erros eles fizeram.

Independentemente da situação anterior, a Microsoft está certa em exigir legislação e que o reconhecimento facial seja regulamentado? Deixe-nos saber sua opinião sobre a solicitação da Microsoft na seção de comentários abaixo.

How useful was this post?

Click on a star to rate it!

Average rating 0 / 5. Vote count: 0

No votes so far! Be the first to rate this post.

Você pode gostar...