Twitter rimuove l'algoritmo di ritaglio delle foto dopo l'analisi dei pregiudizi razziali

Twitter rimuove l’algoritmo di ritaglio delle foto dopo l’analisi dei pregiudizi razziali

Questo è il modo in cui dovrebbe funzionare. Twitter è stato avvisato di un problema, ha analizzato il problema e ora lo sta risolvendo. Dopo aver sentito lamentele secondo cui il suo algoritmo di ritaglio automatico delle foto mostrava un pregiudizio razziale, Twitter ha trascorso un po’ di tempo a condurre un’analisi, quindi ha deciso di rimuovere lo strumento e lasciare che le persone ritagliassero le foto da sole.

Reclami per bias di ritaglio di foto

Lo scorso ottobre, gli utenti di Twitter si sono lamentati del fatto che l’algoritmo di ritaglio delle foto non trattasse tutti allo stesso modo. Il sito di social media ha annunciato che avrebbe analizzato il suo strumento e ha proceduto a farlo per i prossimi mesi. Sono stati istituiti miglioramenti su come viene valutato il potenziale bias, secondo a post sul blog scritto da Rumman Chowdhury, direttore dell’ingegneria del software di Twitter.

Questo è stato uno sforzo di squadra tra il team ML Ethics, Transparency and Accountability ((META) e il team Content Understanding Research. Il team si è chiesto se l’apprendimento automatico fosse lo strumento migliore da utilizzare per il ritaglio di foto, l’algoritmo è stato testato per genere e razza pregiudizi, e se gli utenti potevano fare le proprie scelte è stato messo in discussione.

Twitter ha istituito l’algoritmo di ritaglio delle foto nel 2018. All’epoca, l’obiettivo era “migliorare la coerenza delle dimensioni delle foto nella cronologia e consentirti di vedere più tweet a colpo d’occhio”, secondo il post del blog. L’algoritmo di salienza è stato progettato per giudicare ciò che un lettore potrebbe voler vedere in una foto in modo che le parti non importanti possano essere ritagliate per rendere la foto di dimensioni più visibili.

Telefono per ritagliare foto di Twitter

L’analisi di Twitter ha preso in considerazione tre aree che potrebbero portare a potenziali danni. La prima riguardava le lamentele secondo cui l’algoritmo di salienza aveva una preferenza per i bianchi rispetto ai neri e per i maschi rispetto alle femmine. Un’altra area analizzata era se l’algoritmo avesse scelto il petto o le gambe di una donna rispetto ad altri oggetti in una foto. La terza area affrontata era che la funzione non consentiva agli utenti di esprimersi nel modo desiderato non consentendo loro di ritagliare le proprie foto.

L’analisi ha rilevato “una differenza dell’8% dalla parità demografica a favore delle donne” rispetto agli uomini, “una differenza del 4% dalla parità demografica a favore degli individui bianchi” rispetto agli individui neri, “una differenza del 7% dalla parità demografica a favore delle donne bianche”. ” rispetto alle donne di colore e “una differenza del 2% dalla parità demografica a favore degli uomini bianchi” rispetto agli uomini di colore.

Rsz 873ee953 59db 4927 B4da D9dc6451e2d5

Sebbene l’algoritmo di salienza abbia testato anche lo “sguardo maschile”, non hanno trovato prove di bias di oggettivazione.

In definitiva, Twitter sapeva di poter regolare l’algoritmo di ritaglio delle foto per affrontare i pregiudizi, ma era “preoccupato dal danno rappresentativo dell’algoritmo automatizzato quando le persone non sono autorizzate a rappresentarsi come desiderano sulla piattaforma”. Si riteneva inoltre che esistessero “altri potenziali danni oltre lo scopo di questa analisi, tra cui l’insensibilità alle sfumature culturali.

Rimozione dell’algoritmo distorto

Dopo essere giunto alla conclusione che potrebbe essere meglio consentire agli utenti di esprimersi come desiderano, Twitter “ha iniziato a testare un nuovo modo per visualizzare le foto con proporzioni standard per intero su iOS e Android, ovvero senza il ritaglio dell’algoritmo di salienza”. Pur consentendo agli utenti un maggiore controllo con le loro immagini, Twitter voleva anche migliorare “l’esperienza delle persone che vedono le immagini nella loro timeline”.

Per il massimo controllo, gli utenti vedranno un’anteprima dell’immagine ritagliata prima che venga pubblicata. Twitter è chiaro, in quanto non si basa sull’apprendimento automatico e consente agli utenti di ritagliare da soli.

Continua a leggere per conoscere gli sforzi di Twitter per monetizzare la piattaforma con un piano per eventualmente pagare i tweet virali e le critiche ricevute dagli utenti che hanno annunciato “RIP Twitter” quando hanno appreso del piano.

Torna su