Perché è il momento di smettere di credere ciecamente in Big Data

algoritmi di decidere ora che approvano il prestito, assicurazione o che ricevono un invito per un colloquio, ma spesso lo fanno ingiustamente. E aumenta solo la distanza tra gli strati della popolazione.

Katie O'Neill (Cathy O'Neil)

Il matematico, sull'analisi dei mercati finanziari specialista, autore del libro "Armi di sconfitta matematica."

Per costruire un algoritmo, abbiamo bisogno di due cose: dati (ciò che è successo in passato) e la definizione di un esito positivo (ciò che si desidera trovare utilizzando questo algoritmo). Si determina quindi quale criteri portano ad un esito positivo. Ma la definizione di successo non può essere universale.

Algoritmo - è l'opinione di qualcun altro, il codice incorporato.

Siamo abituati a pensare che gli algoritmi sono oggettive e affidabili, ma è solo una trovata di marketing progettato per intimidirci e farci fiducia in algoritmi e dati matematici.

O'Neill cita esempi in cui algoritmi possono causare gravi danni. Questo accade quando si valutano i dipendenti. Ad esempio, nel 2011 in una scuola nella contea di Washington sono stati licenziati più di 200 insegnanti dopo la loro

Inoltre, gli algoritmi sono spesso la ragione per la rimozione dei verdetti polarizzati. Notizie organizzazione ProPublica ha recentemente condotto un'indagine e fondareChe gli algoritmi che determinano il rischio di recidiva, lavoro obiettivamente. Allo stesso crimini frasi spesso presi fuori neri americani.

Siamo tutti soggetti a pregiudizi, e li mettono in algoritmi che decidono quali esigenze di dati da prendere in considerazione.

Algoritmi fanno che ripetere i nostri errori del passato, automatizzare l'ordine esistente. Quindi non possiamo fidarci ciecamente di loro, abbiamo bisogno di testare loro di essere obiettivo: ripensare la definizione di un esito positivo, l'errore, non sono assicurati da qualsiasi algoritmo. Con quale frequenza si verificano e chi è interessato? Qual è il costo di tali errori?

I professionisti che lavorano con i dati, non dovrebbero essere gli arbitri della giustizia. E 'ora di smettere di credere ciecamente big Data.