Chi è l’autrice del libro:
Cathy O’Neil ha conseguito un dottorato di ricerca, in matematica ad Harvard , è stata postdoc presso il dipartimento di matematica del MIT e professore al Barnard College dove ha pubblicato una serie di articoli di ricerca in geometria algebrica aritmetica.
È poi passata al settore privato, lavorando come quant per l’hedge fund DE Shaw nel bel mezzo della crisi del credito, e poi per RiskMetrics, una società di software di rischio che valuta il rischio per le partecipazioni di hedge fund e banche.
Ha lasciato la finanza nel 2011 e ha iniziato a lavorare come data scientist nella scena delle start-up di New York, costruendo modelli che prevedevano gli acquisti e i clic delle persone.
Ha scritto Doing Data Science nel 2013 e ha lanciato il Lede Program in Data Journalism alla Columbia nel 2014. Collabora regolarmentea Bloomberg View e ha scritto il libro Weapons of Math Destruction: come i big data aumentano la disuguaglianza e minacciano la democrazia. Di recente ha fondato ORCAA , una società di audit algoritmico.
L’ INTELLIGENZA ARTIFICIALE SI BASA SU ALGORITMI CHE SI BASANO SULLE ISTRUZIONI CHE HANNO RICEVUTO DALL’UOMO
Esempio pratico
- un bravo apprendista chef non trovava lavoro, eppure era uscito dalla scuola con ottimi voti. I suoi amici, anche con voti più bassi, avevano già un lavoro. Si seppe poi che vivendo lui in un quartiere periferico di pessima reputazione, l’algoritmo lo considerasse persona poco raccomandabile per entrare in prestigiosi alberghi.
Armi di distruzione di matematica –
di Carthy O’Neil
Come i big data aumentano le disuguaglianze e minacciano la democrazia (Saggi Bompiani)
Gli algoritmi, anche se non lo abbiamo ancora capito bene, dominano già la nostra quotidianità iperconnessa
Sono definiti:
modelli matematici oggettivi e trasparenti
[ e non è vero !]
ma sarebbe bene rifletterci sopra perché questo è il mondo che stiamo consegnando a figli e nipoti che ci potrebbero accusare di non avere fatto nulla per capire e intrevenire ...
Lungi dall’essere modelli matematici oggettivi e trasparenti, gli algoritmi che ormai dominano la nostra quotidianità iperconnessa sono spesso vere e proprie “armi di distruzione matematica”:
non tengono conto di variabili fondamentali, incorporano pregiudizi e se sbagliano non offrono possibilità di appello.
Basandosi su case studies nei campi più disparati ma che appartengono alla vita di ognuno di noi, O’Neil espone i rischi della discriminazione algoritmica a favore di modelli matematici più equi ed etici.
Sono pericolosi perché:
- non tengono conto di variabili fondamentali, incorporano pregiudizi e se sbagliano non offrono possibilità di appello
- queste armi “micidiali”, giudicano (senza possibilità di appello) insegnanti e studenti, vagliano Curriculum Vitae, decidono se concedere o negare prestiti, valutano l’operato dei lavoratori, influenzano gli elettori; promuovendo magari il politico che può permettersi la campagna elettorale più costosa, decidono e decideranno sempre di più per la nostra salute.
Armi di distruzione matematica. Come i big data aumentano la disuguaglianza e minacciano la democrazia, Carthy O’Neil, Saggi Bompiani, 15,30 euro.
