Nei dialoghi in redazione, e probabilmente anche in quelli in libreria, è “il libro di Giussani sull’intelligenza artificiale”. Non che il titolo, ‘La mente sotto assedio’, non sia suggestivo, anzi: credo che dipenda semplicemente dalla notorietà di Bruno Giussani, giornalista e per vent’anni curatore globale dei popolari Ted Talks, e dalle alte aspettative che questa notorietà comporta.

Solo che “il libro di Giussani sull’intelligenza artificiale” è una descrizione imprecisa: quello appena pubblicato in italiano dalle Edizioni Casagrande – e che sarà presentato mercoledì alle 18 all’Hotel Unione di Bellinzona e il 13 mazo al Lac di Lgano – non è un libro sull’intelligenza artificiale, ma sulle sfide che ci attendono, in generale, “nell’era dell’intelligenza artificiale” (come peraltro è indicato chiaramente in copertina).

In concreto, significa che leggendo le 150 pagine del libro non si capirà meglio come funzionano le IA generative, per quali compiti possono essere utili e per quali altri sono invece inutili o addirittura pericolose. È piuttosto una riflessione su come le IA generative si sono inserite, e sempre più si inseriranno, nelle nostre vite e nella nostra società. E cosa possiamo fare.

Un luddista di una volta

I luddisti sono passati alla storia come quelli che distruggevano le macchine che toglievano lavoro agli operai – ingenui idealisti, nella migliore delle ipotesi, dei pericolosi idioti nella peggiore. Ma il bello della storia è che ritorna sui suoi passi e riabilita chi aveva maltrattato, come appunto i luddisti che non rifiutavano affatto il progresso e arrivarono a distruggere alcune macchine solo quando le loro richieste, pur essendo in teoria garantite da leggi e statuti, rimasero inascoltate. Come spiega molto bene Brian Merchant in ‘Sangue nelle macchine’ (Einaudi, 2025), i luddisti non chiedevano di fermare le macchine, ma che quelle macchine non servissero a schiacciare chi ci lavorava. Questa digressione per dire che Bruno Giussani è – nel senso autentico del termine – un luddista delle intelligenze artificiali generative e più in generale di quelle che definisce “tecnologie algoritmiche” (termine che sembra includere grosso modo tutto quello che è stato sviluppato negli ultimi vent’anni circa). Giussani è ben consapevole non solo del fatto che non si può tornare indietro, ma anche che le intelligenze artificiali sono potenti e possono essere utili. Il problema è che non sempre lo sono e, soprattutto, che chi ne guida lo sviluppo — a livello imprenditoriale e politico — ha come unico interesse quello di avere il controllo di strumenti più potenti di quelli della concorrenza, senza considerare il benessere della società. Così si spiega la struttura del libro. La prima parte, intitolata “La minaccia algoritmica”, è una diagnosi in dodici capitoli: dai chatbot alla guerra cognitiva, passando per l’attenzione, le allucinazioni e la corsa agli armamenti digitali. La seconda parte, “Piccolo manuale di resistenza”, è invece una prognosi in otto capitoli che suggeriscono come reagire: creare leggi e regole, riconquistare la sovranità digitale, riconoscere la manipolazione, allentare la morsa dei dispositivi. È la parte meglio riuscita e più interessante del libro, quella che offre strumenti e spunti di riflessione, analizzando pregi, difetti e limiti dei vari approcci, senza facili ricette come propongono alcuni “guru tecnologici”.

Nostalgia canaglia

Perché “la mente sotto assedio”? Perché le tecnologie algoritmiche — e qui il concetto si estende fino a includere possibili sviluppi futuri— permettono di entrare nella nostra testa. Non solo raccolgono i dati su cosa facciamo, ma analizzano le nostre emozioni, modellano le nostre attenzioni, producono contenuti personalizzati per mantenerci in uno stato di ricezione passiva. È la “guerra cognitiva”: non più propaganda o disinformazione classica, ma un tentativo sistemico di modificare in profondità il nostro modo di pensare e la capacità di comprendere la realtà. È la parte centrale del libro. E purtroppo anche la più debole. Non tanto per alcune imprecisioni o incongruenze, ma perché l’analisi è permeata da una idealizzazione del “passato prealgoritmico” che a tratti suona quasi ridicola. Nel capitolo 18, ad esempio, si legge che con le IA “anche le immagini non sono più garanti di verità”. Quando mai lo sono state? A metà Ottocento quando Roger Fenton spostava le palle di cannone per rendere più drammatiche le sue foto della guerra in Crimea? Quando Stalin ritoccava le foto facendo sparire i caduti in disgrazia? Oppure quando la rivista ‘Time’ pubblicò in copertina la foto segnaletica di OJ Simpson scurendo la sua pelle per renderlo più minaccioso? Questa non è una semplice imprecisione, ma il risultato di un ragionamento che fraintende la lezione sulla non neutralità della tecnica. Giussani parte dalla constatazione corretta che ogni tecnologia nasce in un determinato contesto culturale e ideologico e ne incorpora i valori — ma poi continua a guardare alla tecnologia come se fosse il problema in sé, anziché al sistema di interessi che la genera e la diffonde. Il bersaglio della critica rimane così la singola tecnologia, come se il problema dipendesse solo da quella e non esistesse prima di essa. In questo modo si attribuiscono alle “tecnologie algoritmiche” responsabilità che in realtà appartengono a dinamiche sociali, economiche e politiche molto più antiche.

Tutto questo disordine

Uno dei temi indagati nel libro è il “rumore cognitivo”, indicato come una delle principali minacce alla nostra capacità di pensare. Non è il semplice sovraccarico informativo: è vero che l’attenzione e la memoria umana sono limitate, ma nella storia dell’umanità sono stati messi a punto diversi strumenti per superare quei limiti (e le IA possono proprio essere uno di questi strumenti). È proprio un sistema informativo concepito per ostacolare il ragionamento. La metafora del rumore è interessante perché include l’idea del disordine: ci sono più suoni in una sinfonia di Bruckner che nel rumore di una motosega, ma la sinfonia ha un ordine e una struttura che la motosega non ha. Poi certo, la metafora ha i suoi limiti: la quantità di video brevi e ripetitivi che ci tengono incollati sui social media più che al fastidioso rumore della motosega sarebbero paragonabili ai jingle pubblicitari che ti entrano nella testa.

È indubbio che le intelligenze artificiali generative possano aumentare questo “rumore”: il loro compito è produrre testi, video e immagini sempre più raffinati e per questo convincenti, ma non necessariamente coerenti o veri. Ma il problema del rumore cognitivo non nasce con ChatGPT e neanche con i social media: è il modo in cui funzionano la nostra mente e il linguaggio – e certo, possiamo impegnarci (come persone e come società) a ridurre le conseguenze indesiderate di queste caratteristiche di mente e linguaggio oppure, al contrario, a sfruttarle. Di nuovo si confonde la tecnologia con l’ambiente ideologico nel quale è nata. ‘La mente sotto assedio’ non è certamente rumore cognitivo e men che meno un insieme di jingle concepito per incatenare l’attenzione a una sequenza inconcludente di contenuti emotivi (per quanto alcuni passaggi puntino più al facile allarmismo che all’analisi). Tuttavia, soprattutto nella prima parte di diagnosi/denuncia, non ha neanche l’ordine di una musica in grado di darci una migliore comprensione di quello che sta accadendo.