Goldman Sachs acuzat de prejudecată de gen din cauza algoritmului cardului Apple

Goldman Sachs accusato di pregiudizi di genere a causa dell’algoritmo della scheda Apple

⌛ Reading Time: 3 minutes

La Apple Card è disponibile solo da pochi mesi, eppure è già alla base di un’indagine normativa. Tuttavia, questo non sembra che possa essere attribuito solo alla società tecnologica.

Sono state sollevate questioni relative a pregiudizio di genere per l’approvazione delle linee di credito. La Apple Card è accusata di aver fissato diversi limiti di credito per uomini e donne, con la colpa anche del suo partner Goldman Sachs.

Bias di genere della carta Apple

David Heinemeir Hansson, imprenditore danese e sviluppatore di software, è stato il primo a segnalare questo problema. Ha twittato che a sua moglie Jamie è stato negato un aumento della linea di credito sulla Apple Card, ma ha un punteggio di credito più alto di lui.

“Mia moglie ed io presentiamo una dichiarazione dei redditi congiunta, viviamo in uno stato di proprietà comunitaria e siamo sposati da molto tempo. Tuttavia, l’algoritmo della scatola nera di Apple pensa che io merito 20 volte il limite di credito che lei fa ”, ha scritto.

La coppia ha finito per presentare un reclamo interno formale dopo aver sollevato il problema con il servizio clienti di Apple. Sebbene sia stato ripetutamente assicurato che non si trattava di un caso di discriminazione, il limite di credito di Jamie è stato alla fine aumentato per essere lo stesso di suo marito, ma per lui questo non ha affrontato adeguatamente il problema.

“Non si tratta solo di esaminare un algoritmo”, ha scritto il sovrintendente del Dipartimento dei servizi finanziari di New York, Linda Lacewell. “DFS vuole lavorare con la comunità tecnologica per assicurarsi che i consumatori a livello nazionale possano avere la certezza che gli algoritmi che influenzano sempre più la loro capacità di accedere ai servizi finanziari non discriminano e invece trattano tutti gli individui allo stesso modo e in modo equo”.

Proprio come il modo in cui è stato riscontrato che il riconoscimento facciale ha un pregiudizio, così fa l’algoritmo della Apple Card. In entrambe le situazioni, sono i computer a commettere il bias definitivo, eppure quegli algoritmi sono programmati dalle persone, quindi la domanda è sempre se i computer e gli algoritmi stiano alla fine trasmettendo i pregiudizi dei programmatori.

Intervenendo sulla questione del giudicare donne e uomini separatamente, Aaron Klein, un collega della Brookings Institution, ha spiegato: “Le donne tendono ad essere rischi di credito. Sebbene sia illegale discriminare, i dati indicano che il controllo del reddito e altre cose, le donne rappresentano un rischio di credito migliore. Quindi dare agli uomini condizioni di credito migliori è illegale e sembra essere incoerente con l’esperienza internazionale “.

La risposta del pubblico a questo problema ha costretto Goldman Sachs a fornire una risposta. Hanno sottolineato che le valutazioni del merito di credito sono effettuate sulla base del reddito individuale e della solvibilità, e questo potrebbe portare i membri della famiglia ad avere “decisioni di credito significativamente diverse”.

Il portavoce di Goldman Sachs Andrew Williams ha sottolineato che “in tutti i casi, non abbiamo e non prenderemo decisioni basate su fattori come il sesso”.

Condivisione della colpa

Dopo che un ex dipendente di Apple ha twittato che era deludente per lui che questo stesse accadendo, il co-fondatore di Apple Steve Wozniak ha risposto che “la stessa cosa è successa a noi (10X) nonostante non avessimo asset o account separati. Alcuni dicono che la colpa è di Goldman Sachs, ma il modo in cui Apple è attaccata, dovrebbero condividere la responsabilità “.

Pensi che Apple sia colpevole allo stesso modo di Goldman Sachs per le sue ineguali approvazioni di credito di Apple Card? Hai la Apple Card e hai notato il pregiudizio di genere? Raccontaci le tue esperienze nei commenti qui sotto.

Credito immagine: Apple.com e dominio pubblico