Microsoft vrea ca recunoașterea facială să fie reglementată pentru a preveni prejudecățile

Microsoft vrea ca recunoașterea facială să fie reglementată pentru a preveni prejudecățile

⌛ Reading Time: 3 minutes

Acest articol este un fel de urmărire. În urmă cu șase luni, am publicat știri conform cărora Microsoft lucra la remedierea software-ului lor de recunoaștere facială care era considerat părtinitor rasial. Acum, aceeași companie solicită ca recunoașterea facială să fie reglementată pentru a preveni părtinirea. Așadar, au fost prinși cu programe software părtinitoare, iar acum vor ca întreaga industrie să fie reglementată pentru a împiedica pe oricine altcineva să aibă software parțial rasial.

Problema inițială

După cum am raportat în iunie, API-ul Microsoft Face, bazat pe Azure, a fost criticat într-o lucrare de cercetare. Software-ul a avut dificultăți în recunoașterea oamenilor de culoare și a femeilor. Rata de eroare a fost de până la 20,8 la sută, dar cu „fețe masculine mai ușoare”, a existat o rată de eroare de zero la sută.

Raționamentul din spatele acestei diferențe de recunoaștere se datorează faptului că inteligența artificială trebuia programată de oameni. Rezultatele vor fi la fel de bune ca și persoanele care au făcut programarea. Programatorii Microsoft nu au folosit destule persoane cu tonuri de piele mai închise sau suficiente femei.

Microsoft a lucrat la remedierea acestui lucru prin diversificarea datelor de instruire și a început să testeze intern sistemele lor înainte de a le implementa. Au reușit să reducă rata de eroare pentru persoanele cu pielea mai închisă la culoare de până la douăzeci de ori și rata de eroare pentru femei de nouă ori.

Împingerea pentru legislație

Sunt șase luni mai târziu și Microsoft cere guvernelor să adopte legislație să solicite tehnologia de recunoaștere facială să fie testată independent pentru a se asigura că este corectă, pentru a preveni prejudecățile și pentru a proteja drepturile utilizatorilor.

„Geniul recunoașterii faciale, ca să spunem așa, tocmai iese din sticlă”, a explicat Brad Smith, consilier șef Microsoft, într-o postare pe blog.

„Dacă nu acționăm, riscăm să ne trezim peste cinci ani pentru a descoperi că serviciile de recunoaștere facială s-au răspândit în moduri care exacerbează problemele societale. Până la acel moment, aceste provocări vor fi mult mai dificil de rezolvat. ”

Compania solicită ca rezultatele recunoașterii faciale să fie revizuite de oameni, mai degrabă decât să lase sarcina pe calculatoare.

„Aceasta include cazurile în care deciziile pot crea un risc de vătămare corporală sau emoțională pentru un consumator, unde pot exista implicații asupra drepturilor omului sau fundamentale sau în care libertatea personală sau viața privată a unui consumator pot fi afectate”, a explicat el.

știri-Microsoft-legislație-de-recunoaștere-facială-3-oameni

În plus, Smith a sugerat că cei care utilizează recunoașterea facială trebuie să „recunoască faptul că nu sunt absolviți de obligația lor de a respecta legile care interzic discriminarea împotriva consumatorilor individuali sau a grupurilor de consumatori”.

De asemenea, el a dorit să fie sigur că utilizarea de către guvern a recunoașterii faciale nu a călcat pe libertățile democratice și drepturile omului oamenilor.

„Trebuie să ne asigurăm că anul 2024 nu arată ca o pagină din romanul 1984”, a conchis el.

În plus

Microsoft are dreptate, desigur. Este doar interesant faptul că în urmă cu șase luni nu au recunoscut nevoia de a fi atenți la faptul că software-ul lor nu a discriminat, iar acum nu numai că recunosc faptul că este, ci și vor să fie siguri că nimeni altcineva nu poate face aceleași greșeli au facut.

Indiferent de situația lor anterioară, Microsoft are dreptate să ceară legislație și ca recunoașterea facială să fie reglementată? Spuneți-ne părerile dvs. despre cererea Microsoft în secțiunea de comentarii de mai jos.