Microsoft lucrează la remedierea software-ului său de recunoaștere facială orientată rasial

Microsoft lucrează la remedierea software-ului său de recunoaștere facială orientată rasial
⏱️ 4 min read

Acesta este ceva la care mulți oameni nu s-ar gândi niciodată – adică dacă nu ești o persoană de culoare. Software-ul de recunoaștere facială, sau cel puțin software-ul Microsoft, a fost programat cu fețe masculine caucaziene. Asta înseamnă că are o perioadă mai dificilă de recunoaștere a fețelor mai întunecate, în special a femeilor. Dar Microsoft anunță că au îmbunătățit acest lucru.

Cum Se Remediază Datele Mobile Car...
Cum Se Remediază Datele Mobile Care Nu Funcționează Pe Android

Latura rasistă a software-ului de recunoaștere facială

La începutul acestui an, API-ul Microsoft Face, bazat pe Azure, a primit critici într-o lucrare de cercetare. S-au uitat la rata de eroare a încercărilor de a identifica sexul persoanelor de culoare și au constatat că este până la 20,8 la sută, mai ales atunci când încerci să identifici femeile cu tonuri de piele mai închise. Cu toate acestea, cu „fețe masculine mai ușoare”, rata de eroare a fost zero la sută.

Acest lucru se datorează faptului că tehnologia inteligenței artificiale este doar asta – artificială. Trebuie să fie programat de oameni, ceea ce înseamnă că rezultatele vor depinde de cât de bună a fost programată tehnologia și de datele folosite pentru a face acest lucru.

Când Microsoft își dezvolta software-ul, nu avea suficiente imagini cu persoane cu tonuri de piele mai închise, iar acest lucru a dus la o rată de eroare mai mare a persoanelor de culoare, în special a femeilor.

Rasismul este un subiect important de luat în considerare. Microsoft cu siguranță nu și-a propus să fie rasist, dar permițând programului să fie programat în primul rând cu bărbați albi, întrebarea este dacă programatorii își arătau în mod neintenționat propria lor prejudecată rasială.

Remediul

Indiferent de motivul pentru care Microsoft a ajuns la un software care arăta părtinirea creatorilor / programatorilor săi, trebuia să îl remedieze. După ce au reparat-o, compania a spus că au reușit să reducă rata de eroare pentru persoanele cu tenul mai închis la culoare de până la douăzeci de ori. Pentru femei, indiferent de tonul pielii, ratele de eroare au fost reduse de nouă ori.

Pentru a obține această rată de eroare îmbunătățită, echipa Face API a inițiat trei modificări. De o nevoie evidentă de a fi revizuite și extinse au fost pregătirea și datele pentru reperele lor. S-au concentrat în special pe nuanța pielii, genul și vârsta.

„Am avut conversații despre diferite moduri de a detecta părtinirea și de a operaționaliza echitatea”, a spus Hannah Wallach, cercetător principal pentru laboratorul de cercetare Microsoft din New York și, de asemenea, expert în ceea ce privește corectitudinea, responsabilitatea și transparența în sistemele AI. „Am vorbit despre eforturile de colectare a datelor pentru diversificarea datelor de instruire. Am vorbit despre diferite strategii de testare internă a sistemelor noastre înainte de a le implementa. ”

știri-microsoft-facial-reconnaissance-dark

Cornelia Carapcea, principalul manager de program al echipei de servicii cognitive, a declarat că, în cele din urmă, grupul Wallach a oferit „o înțelegere mai nuanțată a prejudecății” și a ajutat-o ​​pe echipa sa să dezvolte un set de date „care ne-a tras la răspundere în tonurile pielii”.

Trecând peste

„Dacă pregătim sisteme de învățare automată pentru a imita deciziile luate într-o societate părtinitoare, folosind datele generate de acea societate, atunci aceste sisteme vor reproduce în mod necesar părtinirile sale”, a spus Wallach.

Acest lucru are un sens complet. Indiferent dacă ne place sau nu, rasismul există în societatea noastră. Poate că nu ne place să credem că da, dar uneori pur și simplu nu putem nega. Aceeași societate creează, de asemenea, tehnologia pe care o folosim și asta înseamnă că poate fi și părtinitoare rasial. Dacă vrem ca tehnologia noastră să funcționeze mai bine, atunci trebuie să facem noi mai bine noi înșine.

Ce părere aveți despre Microsoft care creează un software bazat pe prejudecățile dezvoltatorilor săi? Vă schimbă părerea despre companie? Cum crezi că se reflectă asupra societății? Adăugați părerile dvs. în secțiunea de comentarii de mai jos.

Join our Newsletter and receive offers and updates! ✅

0 0 votes
Article Rating
Avatar of Routech

Routech

Routech is a website that provides technology news, reviews and tips. It covers a wide range of topics including smartphones, laptops, tablets, gaming, gadgets, software, internet and more. The website is updated daily with new articles and videos, and also has a forum where users can discuss technology-related topics.

You may also like...

Subscribe
Notify of
guest
0 Comments
Inline Feedbacks
View all comments
0
Would love your thoughts, please comment.x
()
x