Twitter rimuove l'algoritmo di ritaglio delle foto dopo l'analisi dei pregiudizi razziali

Twitter elimină algoritmul de recoltare a fotografiilor după analiza prejudecății rasiale

Acesta este modul în care ar trebui să funcționeze. Twitter a fost alertat de o problemă, a analizat problema și acum o rezolvă. După ce a auzit plângeri că algoritmul său de decupare automată a fotografiilor arăta o prejudecată rasială, Twitter a petrecut ceva timp efectuând o analiză, apoi a decis să elimine instrumentul și să lase oamenii să decupeze singuri fotografiile.

Reclamații privind prejudecățile de recoltare a fotografiilor

În octombrie anul trecut, utilizatorii Twitter s-au plâns că algoritmul de decupare a fotografiilor nu îi trata pe toți în mod egal. Site-ul de socializare a anunțat că își va analiza instrumentul și a procedat astfel în următoarele câteva luni. S-au instituit îmbunătățiri cu privire la modul în care este evaluată potențialul prejudecată, conform a postare pe blog scris de Rumman Chowdhury, directorul de inginerie software al Twitter.

Acesta a fost un efort de echipă între echipa ML Etică, transparență și responsabilitate (META) și echipa de cercetare privind înțelegerea conținutului. Echipa a pus la îndoială dacă învățarea automată a fost cel mai bun instrument de folosit pentru decuparea fotografiilor, algoritmul a fost testat pentru sex și rasă. părtinire și dacă utilizatorii au voie să facă propriile alegeri a fost pus la îndoială.

Twitter a instituit algoritmul de decupare a fotografiilor în 2018. La acea vreme, obiectivul era „să îmbunătățim consistența în dimensiunea fotografiilor din cronologia dvs. și să vă permiteți să vedeți mai multe tweets dintr-o privire”, potrivit postării de pe blog. Algoritmul de sănătate a fost conceput pentru a evalua ceea ce un cititor ar putea dori să vadă într-o fotografie, astfel încât părțile neimportante să poată fi decupate pentru a face fotografia să aibă o dimensiune mai vizibilă.

Telefon de decupare a fotografiilor Twitter

Analiza Twitter a luat în considerare trei domenii care ar putea duce la un potențial rău. Prima a fost plângerile conform cărora algoritmul de salubritate ar fi preferat persoanele albe față de negrii și bărbații față de femei. O altă zonă analizată a fost dacă algoritmul a ales pieptul sau picioarele unei femei în locul altor obiecte dintr-o fotografie. A treia zonă abordată a fost că funcția nu le-a permis utilizatorilor să se exprime așa cum și-au dorit, nepermițându-le să-și decupeze propriile fotografii.

Analiza a constatat „o diferență de 8% față de paritatea demografică în favoarea femeilor” față de bărbați, „o diferență de 4% față de paritatea demografică în favoarea indivizilor albi” față de indivizii negri, „o diferență de 7% față de paritatea demografică în favoarea femeilor albe ”Față de femeile negre și„ o diferență de 2% față de paritatea demografică în favoarea bărbaților albi ”față ​​de bărbații negri.

ad-banner
Rsz 873ee953 59db 4927 B4da D9dc6451e2d5

În timp ce algoritmul de salubritate a testat și „privirea masculină”, nu au găsit nicio dovadă de prejudecată în obiectivare.

În cele din urmă, Twitter știa că ar putea ajusta algoritmul de decupare a fotografiilor pentru a aborda prejudecățile, dar a fost „îngrijorat de prejudiciul reprezentativ al algoritmului automat atunci când oamenii nu au voie să se reprezinte așa cum doresc pe platformă”. De asemenea, s-a crezut că există „alte daune potențiale dincolo de scopul acestei analize, inclusiv insensibilitățile la nuanțele culturale.

Eliminarea algoritmului părtinitor

După ce a ajuns la concluzia că ar putea fi cel mai bine să le permiteți utilizatorilor să se exprime cum doresc, Twitter „a început să testeze o nouă modalitate de a afișa în întregime fotografiile cu raport de aspect complet pe iOS și Android – adică fără recolta algoritmului de salubritate”. Deși le permite utilizatorilor un control mai mare cu imaginile lor, Twitter a dorit, de asemenea, să îmbunătățească „experiența oamenilor care văd imaginile în cronologia lor”.

Pentru controlul maxim, utilizatorii vor vedea o previzualizare a imaginii decupate înainte de a fi postată. Twitter este clar, deoarece nu se bazează pe învățarea automată și îi lasă pe utilizatori să facă singuri.

Citiți mai departe pentru a afla despre eforturile Twitter de a monetiza platforma cu un plan de a plăti eventual pentru tweet-uri virale și flak pe care l-au luat de la utilizatori care anunțau „RIP Twitter” atunci când au aflat despre plan.

Scroll to Top