Microsoft lucrează la remedierea software-ului său de recunoaștere facială orientată rasial

Microsoft lucrează la remedierea software-ului său de recunoaștere facială orientată rasial

Acesta este ceva la care mulți oameni nu s-ar gândi niciodată – adică dacă nu ești o persoană de culoare. Software-ul de recunoaștere facială, sau cel puțin software-ul Microsoft, a fost programat cu fețe masculine caucaziene. Asta înseamnă că are o perioadă mai dificilă de recunoaștere a fețelor mai întunecate, în special a femeilor. Dar Microsoft anunță că au îmbunătățit acest lucru.

Latura rasistă a software-ului de recunoaștere facială

La începutul acestui an, API-ul Microsoft Face, bazat pe Azure, a primit critici într-o lucrare de cercetare. S-au uitat la rata de eroare a încercărilor de a identifica sexul persoanelor de culoare și au constatat că este până la 20,8 la sută, mai ales atunci când încerci să identifici femeile cu tonuri de piele mai închise. Cu toate acestea, cu „fețe masculine mai ușoare”, rata de eroare a fost zero la sută.

Acest lucru se datorează faptului că tehnologia inteligenței artificiale este doar asta – artificială. Trebuie să fie programat de oameni, ceea ce înseamnă că rezultatele vor depinde de cât de bună a fost programată tehnologia și de datele folosite pentru a face acest lucru.

Când Microsoft își dezvolta software-ul, nu avea suficiente imagini cu persoane cu tonuri de piele mai închise, iar acest lucru a dus la o rată de eroare mai mare a persoanelor de culoare, în special a femeilor.

Rasismul este un subiect important de luat în considerare. Microsoft cu siguranță nu și-a propus să fie rasist, dar permițând programului să fie programat în primul rând cu bărbați albi, întrebarea este dacă programatorii își arătau în mod neintenționat propria lor prejudecată rasială.

Remediul

Indiferent de motivul pentru care Microsoft a ajuns la un software care arăta părtinirea creatorilor / programatorilor săi, trebuia să îl remedieze. După ce au reparat-o, compania a spus că au reușit să reducă rata de eroare pentru persoanele cu tenul mai închis la culoare de până la douăzeci de ori. Pentru femei, indiferent de tonul pielii, ratele de eroare au fost reduse de nouă ori.

Pentru a obține această rată de eroare îmbunătățită, echipa Face API a inițiat trei modificări. De o nevoie evidentă de a fi revizuite și extinse au fost pregătirea și datele pentru reperele lor. S-au concentrat în special pe nuanța pielii, genul și vârsta.

„Am avut conversații despre diferite moduri de a detecta părtinirea și de a operaționaliza echitatea”, a spus Hannah Wallach, cercetător principal pentru laboratorul de cercetare Microsoft din New York și, de asemenea, expert în ceea ce privește corectitudinea, responsabilitatea și transparența în sistemele AI. „Am vorbit despre eforturile de colectare a datelor pentru diversificarea datelor de instruire. Am vorbit despre diferite strategii de testare internă a sistemelor noastre înainte de a le implementa. ”

știri-microsoft-facial-reconnaissance-dark

Cornelia Carapcea, principalul manager de program al echipei de servicii cognitive, a declarat că, în cele din urmă, grupul Wallach a oferit „o înțelegere mai nuanțată a prejudecății” și a ajutat-o ​​pe echipa sa să dezvolte un set de date „care ne-a tras la răspundere în tonurile pielii”.

Trecând peste

„Dacă pregătim sisteme de învățare automată pentru a imita deciziile luate într-o societate părtinitoare, folosind datele generate de acea societate, atunci aceste sisteme vor reproduce în mod necesar părtinirile sale”, a spus Wallach.

Acest lucru are un sens complet. Indiferent dacă ne place sau nu, rasismul există în societatea noastră. Poate că nu ne place să credem că da, dar uneori pur și simplu nu putem nega. Aceeași societate creează, de asemenea, tehnologia pe care o folosim și asta înseamnă că poate fi și părtinitoare rasial. Dacă vrem ca tehnologia noastră să funcționeze mai bine, atunci trebuie să facem noi mai bine noi înșine.

Ce părere aveți despre Microsoft care creează un software bazat pe prejudecățile dezvoltatorilor săi? Vă schimbă părerea despre companie? Cum crezi că se reflectă asupra societății? Adăugați părerile dvs. în secțiunea de comentarii de mai jos.