~ gabriella giudici

L’autrice è una matematica, con dottorato ad Harvard e postdottorato al Mit, che ha insegnato al Barnard College di New York, prima di passare a lavorare nel settore finanziario privato come analista quantitativa per l’hedge fund D.E. Shaw e poi come Data Scientist per diverse start-up dell’e-commerce. Insomma la O’Neill con la matematica ha lavorato a lungo e ha raccolto le sue esperienze in un blog molto frequentato, www.mathbabe.org. Il libro è una denuncia dell’uso di questo sapere per costruire quelle che l’autrice chiama “armi di distruzione di massa”.

1. Un linguaggio costruttivo e dalle potenzialità infinite

Ricco di aneddoti ed esempi, il libro mostra come le applicazioni matematiche regolino la nostra vita in maniera spesso occulta e, talvolta, con effetti perversi, per esempio contribuendo a innescare la crisi economica del 2008 o consentendo di violare la nostra privacy come nel caso di Cambridge Analitics. Ma quello di Cathy O’Neill non è un libro di denuncia. L’idea di fondo è che la matematica sia un linguaggio e, come tale, ci permetta di “narrare” e “descrivere” mondi: un linguaggio incredibilmente espressivo, chiaro e preciso.

Galielo Galilei (1564 – 1642)

Fin dall’antichità e soprattutto a partire dal Libro della Natura scritto in linguaggio matematico di Galilei, la matematica è stata uno strumento straordinario per la capacità di descrivere i fenomeni naturali modellizzandoli, ovvero operando una esplicita selezione dei loro aspetti rilevanti, come fa ogni altro linguaggio.

La matematica quindi non riproduce l’oggettività del mondo, né ha con esso una corrispondenza reale, come molti pensano sulla base di idee sulla scienza piuttosto ingenue. Ma il tratto formidabile del linguaggio matematico è che una modellizzazione corretta garantisce un carattere predittivo di fenomeni futuri, e questo carattere di efficacia molto “concreta” rappresenta ancora oggi un mistero della conoscenza.

Gottfried Wilhelm Leibniz (1646 – 1716)

Dopo Galilei, la storia della matematica ha conosciuto altri due snodi fondamentali. Innanzitutto l’idea di Leibniz che la matematica potesse essere applicata ad ogni fenomeno e non solo a quelli naturali, con la conseguenza che qualsiasi controversia avrebbe potuto essere risolta semplicemente calcolando (da cui il suo motto: “Calculemus!”): è da questa intuizione che nascerà il moderno computer.

Tuttavia un freno all’applicazione della matematica ai fenomeni sociali è dato dal fenomeno dell’“esplosione combinatoria”.

Il fenomeno è ben descritto da questo aneddoto: si narra che l’inventore degli scacchi presentò la sua invenzione al sovrano, al quale piacque a tal punto da voler ricompensare l’inventore con “qualsiasi cosa desiderasse”.

L’inventore chiese un chicco di grano nella prima casella della scacchiera, due nella seconda, quattro nella terza e così via. Fatti i calcoli, si scoprì che non sarebbe bastato l’intero raccolto del regno e così il sovrano mise a morte l’inventore per non doversi rimangiare la promessa.

In parole semplici questo aneddoto vuol dire che l’introduzione di ogni nuova variabile aumenta le possibili combinazioni in maniera esponenziale, superando così le possibilità di calcolo umano. Questa esplosione di infinite possibilità può essere limitata da “trucchi” come la statistica e la probabilità o da strumenti come i calcolatori elettronici e i loro algoritmi, che hanno reso possibile governare un numero di variabili che per l’uomo sarebbero ingestibili.

I più recenti algoritmi dei motori di ricerca, dei social network, dei siti di e-commerce sono ormai in grado di adattarsi alle nostre preferenze, selezionando per noi i post degli amici più in sintonia con i nostri interessi o una pubblicità di impermeabili dopo che su Amazon abbiamo cercato un ombrello. E il punto è che dietro questo inquietante comportamento, che simula l’intelligenza umana di un commesso esperto, ci sono delle formule matematiche. Ma l’autrice, che proprio per delle aziende di e-commerce ha lavorato, spiega che questi algoritmi non hanno nulla di automatico, perché il modello matematico sulla base del quale lavorano è costruito da esseri umani e perciò ingloba le preferenze del programmatore: un essere umano, una soggettività.

2. Scuole e università in classifica

Ma non siamo ancora alle armi di distruzione matematica. Esse appaiono quando modelli matematici e algoritmi sono applicati a ben altri ambiti. Un esempio calzante è quello dei ranking delle scuole o delle università.

Ogni famiglia, dovendo scegliere la scuola o l’università per i propri figli, s’informa su quale faccia al caso suo: un tempo avrebbe chiesto ad amici informati, magari docenti, o si sarebbe affidata alla “voce” popolare. Ma poi si è pensato: perché non usare la matematica per rendere la ricerca più rapida e meno aleatoria?

L’analogo strumento di valutazione delle scuole proposto in Italia da Fondazione Agnelli [cliccare sull’immagine per accedere al sito]

Così ha pensato il giornale americano “U.S. News”, che ha cominciato a pubblicare una graduatoria delle migliori università.

Per farlo, naturalmente, ha identificato degli indici di qualità, ne ha stabilito il peso e ha attribuito una valutazione a ciascun ateneo: come abbiamo detto, un processo nient’affatto oggettivo.

Questo meccanismo naturalmente può avere anche affetti positivi, perché costringe le università a migliorare, ma ha due effetti assai negativi: la costruzione di uno standard omologante, perché la popolarità della graduatoria ha costretto le università ad adeguare la loro offerta agli indici di qualità stabiliti da “U.S.News” (anche mentendo); l’orientamento delle risorse verso chi si è adeguato agli standard [secondo il principio dell’accountability, nota mia] e l’asfissia delle realtà che seguono altri modelli.

La cosa paradossale è che con questo sistema la scelta delle famiglie è meno informata di prima, perché esse nulla sanno delle variabili e del peso loro attribuito da chi ha costruito il modello. Tuttavia secondo Cathy O’Neill non è l’applicazione di un modello matematico al mondo a costituire l’arma di distruzione, ma il fatto che l’utente ignori come quel modello funzioni e che si faccia guidare in modo automatico dalle sue “ovvie” decisioni, anche quando queste sono dannose: ad esempio l’arma di distruzione matematica dei ranking ha fatto lievitare i costi dell’istruzione in maniera esponenziale senza migliorarne la qualità.

Ancor più disastrosi gli usi in campo finanziario o giuridico: algoritmi che decidono chi possa usufruire di pene più leggere o di misure alternative al carcere.

3. La minaccia delle armi di distruzione matematica

Ma cosa permette di riconoscere che siamo in presenza di un’arma di distruzione di massa? Cathy O’Neill consiglia di porsi tre domande:

3.1 Tre domande

3.1.1 Chi fa ricorso allo strumento matematico ha chiaro il metodo usato per modellizzarlo (le finalità dello strumento, il fatto stesso che sia stata operata una modellizzazione, l’algoritmo, ovvero le regole, alla base della modellizzazione)?

Se non c’è questa consapevolezza, allora siamo di fronte a un’Arma di Distruzione Matematica (ADM). Le ragioni per le quali spesso il metodo di modellizzazione non viene rivelato sono diverse: a volte perché il valore commerciale dell’algoritmo è molto elevato ed è un “segreto industriale”; altre volte perché esso è talmente complesso che, anche se rivelato, direbbe poco o nulla a noi profani del linguaggio della matematica; altre ancora perché conoscere il modo con cui l’algoritmo indicizza i nostri comportamenti ci permetterebbe di adeguare al suo il nostro comportamento, “truccando” a nostra volta gli esiti. In Italia abbiamo avuto esempi della segretezza delle armi di distruzione matematica: dai dati di INVALSI all’algoritmo per il trasferimento dei docenti della legge 107.

3.1.2 Il modello va contro l’interesse del soggetto? Potrebbe danneggiarlo?

Il fatto è che ogni modello trascura l’eccezione – deve farlo. Ma se il danno che un soggetto “eccedente” riceve ha un grave impatto sulla sua vita, diventano lecite le domande sull’eticità delle ADM. Nel libro vengono riportati molti casi concreti, come quello di un’insegnante licenziata per scarso rendimento a causa del fatto che non aveva fatto copiare i suoi studenti al test, al contrario delle colleghe precedenti: ed era proprio questo comportamento ad essere disfunzionale ed eccezionale rispetto allo standard.

3.1.3 Il sistema può scalare?

(“Scalare” significa cambiare livello di scala, ovvero essere esteso da una porzione particolare a un intero ambito o a una generalità di ambiti). Ad esempio le mie valutazioni scolastiche nei test possono essere utilizzate come una variabile per valutare la mia affidabilità nella concessione di un mutuo? È proprio la scalabilità che rende l’ADM un’arma terribile. Sin tanto che una valutazione negativa, giusta o sbagliata, resta in un ambito ristretto, il danno è limitato, ma se “scala” a un contesto più ampio, il danno può essere terribile.

Provate a ritrovarvi classificati dal sistema come “cattivi pagatori” e a vivere comunque una vita normale: questo capita già oggi, poiché per essere considerati tali basta aver saltato il pagamento delle rate di un debito. E che succederebbe se creassimo un modello che identifica un probabile “cattivo pagatore” mettendo questa variabile in relazione con altre caratteristiche personali rilevate statisticamente, fino a scoprire una correlazione tra “cattivi pagatori” e neri o meridionali? Chi pensa che sia futurologia o fantascienza alla Minority report non conosce i primi sistemi anti-cheating di Invalsi che prevedevano una correzione automatica dei risultati sulla base della provenienza regionale.

Il libro di Cathy O’Neill non è un invito a rinunciare al potere descrittivo e modellizzante della matematica, ma a riconoscere il suo enorme potere, i suoi usi nefasti se non addirittura fraudolenti, per poterne così chiedere un uso corretto e legittimo.