La prima pubblicazione di questo libro risale al 2019 in Francia, con il titolo “De l’autre côté de la machine: voyage d’une scientifique au pays des algorithmes”. Nel 2021 arriva in Italia con il titolo “Nel paese degli algoritmi”. Lo scopro e acquisto nel 2023 e rimane accantonato tra una torre di altri libri in attesa di essere letti, lo termino nella primavera del 2025. Tutta questa timeline per arrivare al fatto che nel bel mezzo tra pubblicazione del libro e lettura abbiamo visto sorgere il sole delle AI con il grande arrivo di ChatGPT e i suoi concorrenti nella nostra quotidianità. Il che non è banale. Anche se i tempi si accelerano in modo esponenziale e alcuni concetti rischiano di rimanere obsoleti, il suddetto non rientra affatto in questo caso. Anzi, ha più senso che mai nell’ambito della consapevolezza digitale.

Una delle cose che mi ha colpita di Aurélie Jean è la sua capacità di spiegare in modo semplice e accessibile un tema tanto tecnico quanto attuale: i bias algoritmici. Ci parla di bias e lo fa raccontandoci come questi preconcetti, che apprendiamo fin dall’infanzia, si insinuano anche nei dati e nei modelli che alimentano le nostre tecnologie. L’autrice -scienziata, esperta di algoritmi, e divulgatrice brillante– ci accompagna in un viaggio che intreccia scienza, storia, linguaggio e società.

Provo a raggruppare alcuni punti di grande interesse:

Per esempio, ci siamo mai chiesti se gli algoritmi possano essere sessisti o razzisti? O se dietro le decisioni automatizzate ci sia davvero oggettività? Aurélie Jean ci ricorda che un algoritmo non nasce neutro: è scritto da esseri umani, allenato con dati spesso pieni di pregiudizi, e opera dentro contesti socio-culturali specifici.

Attraverso aneddoti personali e domande provocatorie – “l’algoritmo ha un genere?”, “codiamo tutti allo stesso modo?” – l’autrice ci invita a riflettere sulla soggettività del codice informatico. E lo fa a partire anche da esperienze di esclusione: come la sua sorpresa nel non trovare neppure una donna citata nella prima lezione di storia dell’informatica. Un’assenza che parla di bias culturali profondi, che finiscono per riflettersi anche nei sistemi digitali.

Oltre all’approfondimento teorico, Jean porta nel libro anche esempi concreti del suo lavoro, tra cui uno particolarmente significativo in ambito medico: ha applicato la modellazione computazionale per lo studio dei traumi cranici, sviluppando algoritmi capaci di simulare il comportamento dei tessuti cerebrali sotto stress. Questi modelli aiutano a prevedere come il cervello reagisce a determinati impatti, offrendo un supporto prezioso per la diagnosi e la pianificazione dei trattamenti. Tuttavia, anche qui il rischio dei bias è presente: se i dati di partenza sono parziali o influenzati da preconcetti, anche il miglior modello matematico può diventare uno strumento impreciso. Jean sottolinea quindi la necessità di sviluppare algoritmi inclusivi e trasparenti, che considerino le variabili individuali e le differenze morfologiche tra i pazienti, migliorando così accuratezza ed equità nella medicina computazionale.

I bias non sono solo nei dati, ma anche nei modelli, nelle decisioni che prendiamo nel progettare un algoritmo. E quando entra in gioco il machine learning, le cose si complicano: le reti neurali – soprattutto nel deep learning – possono diventare così complesse da renderne opaca l’interpretazione. Cosa succede allora quando vogliamo correggere un errore? È ancora possibile?

Un passaggio che ho trovato centrale è la riflessione su come i bias cognitivi -quelli che tutti sviluppiamo fin dall’infanzia- si trasferiscano negli algoritmi. Comprenderne “il ciclo di vita, dall’umano al digitale, è fondamentale per imparare a usare le tecnologie in modo critico, consapevole”, e -perché no- per contribuire a renderle più giuste.

Alla fine, questo libro non è solo una guida nel mondo degli algoritmi. È un invito alla responsabilità. Sviluppare, ma anche usare, gli strumenti digitali con consapevolezza. Perché, come scrive l’autrice, “difendere le proprie libertà significa conoscere i propri diritti”, e oggi quei diritti passano anche dalla comprensione di come funzionano gli algoritmi che influenzano ogni aspetto della nostra vita.

Infine, lettura consigliata a chi lavora nel digitale, ma anche a chi vuole capire meglio il mondo in cui vive. Perché essere utenti consapevoli è già un atto politico.

E tu, lo hai letto? Che idea ti sei fatto dei bias algoritmici? Ti sei mai chiesto quanto il contesto in cui viviamo influenzi il nostro modo di “codificare” o di prendere decisioni?