Custodi del giudizio. Dall’Homo AI 0 alla Sovranità Analitica
🇮🇹 Una lettura di Oltre l’intelligenza artificiale, di Flavio Tonelli ed Emilio Mango, che assume il volume come documento di una fase teorica in evoluzione. Attraverso un colloquio con l’autore e la verifica delle fonti richiamate nel testo, emergono le successive elaborazioni sulla governance epistemica, la cattura cognitiva e la Sovranità Analitica, oggi al centro del dibattito sulla sicurezza cognitiva.
🇬🇧 A reading of Beyond Artificial Intelligence, by Flavio Tonelli and Emilio Mango, that treats the volume as a document of a developing theoretical trajectory. Drawing on an interview with the author and on the verification of the sources referenced in the book, the article examines later developments concerning epistemic governance, cognitive capture and Analytical Sovereignty, concepts increasingly relevant to contemporary cognitive security.
Un saggio che si presenta come manifesto, riflessione teorica e testimonianza pone una questione di metodo. Non soltanto come valutarlo, ma soprattutto come collocarlo. Nel caso di Oltre l’intelligenza artificiale – pubblicato da EGEA e firmato da Flavio Tonelli con Emilio Mango – la domanda è resa ancor più significativa dal fatto che il volume rappresenta, per ammissione dello stesso autore, “una fase di un’elaborazione concettuale tuttora in corso”.
Questa analisi prende le mosse da un colloquio condotto a margine della pubblicazione. Ne deriva una scelta precisa: leggere il libro come opera in divenire. Il testo conserva autonomia, ma è indagato alla luce delle precisazioni, come pure della integrazioni e formalizzazioni, che Tonelli introduce nella conversazione. L’interesse del confronto non risiede, pertanto, solo nei contenuti ma nella possibilità di osservare come il paradigma viene ridefinito quando incontra problemi di validazione, operativizzazione e governance.
Il volume, va detto, muove da una tesi ben precisa. La polarizzazione che sostiene il dibattito pubblico – l’AI che rende l’umano obsoleto, contro l’AI che lo libera da fatica e sbaglio – non è un errore di prospettiva, una inesattezza da correggere. È il problema. Entrambe le narrazioni nascono da un presupposto: umano e intelligenza artificiale sono entità separate in competizione per il medesimo spazio cognitivo. Il libro propone una “terza via” e la chiama Homo AI 0. Non un sistema da installare, né un metodo da applicare, ma una configurazione relazionale in cui la qualità dell’interazione genera capacità che nessuna delle due intelligenze produrrebbe da sola.
“Oltre” non significa “dopo” né “sopra”. Indica, di fatto, uno spostamento di postura: dal “che cosa può fare l’AI” al “come cambia il nostro modo di decidere, interpretare e agire quando l’AI entra stabilmente nei processi”. Mango, direttore di testate tecnologiche e curatore di precedenti volumi divulgativi per lo stesso editore, porta al libro il registro accessibile. Tonelli, la tesi e l’apparato: è ordinario di impianti industriali al DIME dell’Università di Genova, fondatore del framework ECR-0 per la governance dei sistemi ibridi, e nel campo della sicurezza è contributing member del NATO Centre of Excellence for Stability Policing.
Homo AI 0 poggia su tre principi strutturali.
La reciprocità cognitiva, per cui la trasformazione è bilaterale: l’AI modifica i suoi modelli attraverso l’input umano, l’umano performa attraverso l’interazione; la sensibilità adattiva, per cui ogni contesto richiede un’AI che ne apprenda il genius loci anziché sovrascriverlo; la finalizzazione dialogica, per cui gli obiettivi emergono dal dialogo continuo e non sono imposti dall’alto né programmati rigidamente.
Nel volume la reciprocità cognitiva è descritta come arricchimento e per Tonelli“non è necessariamente positiva”: può amplificare lucidità, ma anche conformismo, manipolazione, scorciatoie, bias. “All’epoca della pubblicazione – precisa – non vi era ancora questa consapevolezza”. Il meccanismo che oggi propone per distinguere la reciprocità sana da quella patologica è l’attrito epistemico. La relazione è sana finché resta contestabile: l’AI viene messa in discussione, l’umano sa ancora autodeterminarsi, le alternative sono esplorate e non solo ottimizzate. Diventa patologica quando produce allineamento, sudditanza senza verifica. Il libro non si ferma alla relazione fra individui. Il suo spazio più ambizioso riguarda le organizzazioni e prende il nome di governance vivente. Le cornici convenzionali – regole, controlli, accountability formale – sono inadeguate per sistemi in cui umano e AI co-evolvono ininterrottamente. Il passaggio proposto da Tonelli è dal controllo alla coreografia. L’autorità non scompare: si distribuisce. La governance smette di essere applicazione di regole e diventa creazione di condizioni: osservazione continua, responsabilità come proprietà emergente del sistema, spazi di disaccordo generativo, rituali di rinegoziazione.
Il caso che il quinto capitolo porta a sostegno è molto istruttivo.
Un istituto finanziario la cui AI sviluppa un pregiudizio sottile, attraverso variabili-proxy, che la governance formale non vede perché guarda alla conformità e non all’intenzione. Il problema si palesa quando è già strutturato. La soluzione che il volume descrive è un consiglio di osservazione etica: tecnici, filosofi, rappresentanti delle comunità, perfino artisti. Qui il libro mostra il lato teorico, e Tonelli lo riconosce. Quel consiglio, ammette, è “ampio e, in parte, ideale”; in contesti dove si decide in ore non può funzionare come organo deliberativo stabile. Distingue allora due livelli: una governance lenta che definisce criteri, soglie e responsabilità, e una governance rapida che autorizza arresti temporanei, escalation, revisione. L’autorità di fermare il sistema, dice, non appartiene all’AI né a un comitato convocato ex post, ma a “una funzione umana pre-identificata, legittimata e tracciabile”. La conversazione rende esplicita la domanda che il volume lascia sullo sfondo: chi, con quale autorità. E la risposta dipende da una scelta a monte, che la governance da sola non risolve: chi siamo, rispetto all’AI, utenti o custodi?
Un utente consuma capacità e risponde del risultato.
Un custode presidia la qualità di una relazione nel tempo e risponde del processo.
La differenza non è semantica: cambia l’onere, il tipo di responsabilità che si assume. Da qui il concetto di co-autorialità: non delegare all’AI, non opporvisi, ma essere co-creatori di un processo la cui responsabilità resta pienamente umana anche quando le capacità sono ibride. È il cuore morale del saggio, ed è la sua tesi normativa. La questione non riguarda la verità, ma la tenuta operativa. Un custode che si limita ad approvare ciò che l’AI ha strutturato è un custode di nome, non di fatto.
Il settimo capitolo introduce il rischio del lock-in cognitivo: il punto in cui umano e AI smettono di mettersi reciprocamente in discussione. La domanda che ne segue è: come si distingue, sul campo, l’adozione virtuosa dalla cattura? La risposta di Tonelli anche qui è netta: “Dall’interno può diventare indistinguibile“. Il segnale non dice “uso molto l’AI” ma “non riesco più a pensare senza passare dai suoi frame”. E proprio perché interno, quel segnale è il primo che la cattura erode. Tonelli offre tre indicatori precoci. La perdita di produzione autonoma prima dell’esposizione al modello: se l’analista non formula più una prima ipotesi indipendente ma chiede subito all’AI di strutturare il problema, la deriva è iniziata.La riduzione del dissenso: meno alternative, meno controipotesi, meno falsificatori.La convergenza stilistico-strutturale dei prodotti, che cominciano ad assomigliarsi non perché fake, ma perché condividono lo stesso impianto generato dal modello. Sono indicatori verificati e diacronici: leggono una traiettoria, un prima e un dopo, una serie. Nessuno consente all’analista, qui e ora e sul singolo prodotto, di sapere se sta ancora pensando o se sta già cedendo autonomia. La conseguenza è nel contenuto: se la cattura è indistinguibile dall’interno, il giudizio deve venire da fuori. La sovranità del giudizio non è auto-verificabile. Una questione che cessa di essere relazionale e diventa istituzionale.
Il concetto che regge questo passaggio non è nel libro: si chiama Sovranità Analitica. Il volume appartiene a ECR-0 EVO1, fase relazionale, tra il 2024 e la primavera 2025. Il report sviluppato presso il NATO Centre of Excellence for Stability Policing, cui Tonelli fa riferimento, nasce nel giugno 2026, dentro una riflessione successiva, EVO3. Tra le due, una fase intermedia – EVO2 – introduce soglie e meccanismi di anti-capture: “Non è stata una scelta editoriale tenerla fuori – chiarisce Tonelli – Semplicemente, non esisteva ancora in quella forma”. E sottolinea: “Garantire la presenza di un umano nel processo è un requisito di governance del sistema. Garantire che quell’umano conservi la capacità di esercitare un giudizio genuinamente indipendente è un requisito di governance epistemica”. I due non sono equivalenti, e il secondo non si deduce dal primo. Se questo sia continuità o svolta rispetto al libro, non è esplicito. Tonelli utilizza una formula elegante sebbene non del tutto esaustiva: “continuità di intuizione, discontinuità di architettura”. Il rifiuto della delega passiva, osserva, era già nel nono capitolo, che parla di responsabilità cognitiva.
Nono capitolo che è costruito attorno a un esempio.
Un’intelligenza artificiale gioca a Diplomacy con onestà e viene eliminata precocemente; un modello concorrente vince mentendo sistematicamente. Ne discende la tesi che l’AI sia uno specchio di ciò che esprimiamo. Un riferimento che Tonelli stesso definisce “generico” , da trattare “come esempio interpretativo, non come evidenza sperimentale primaria”. In realtà la fonte esatta esiste, ed è ricostruibile. L’esperimento descritto è un progetto reso pubblico nel giugno 2025: modelli di frontiera che giocano una partita a comunicazione strategica, trasmessa e documentata. Il modello che gioca lealmente e viene eliminato è Claude di Anthropic; quello che vince orchestrando inganni è o3; un terzo sfiora la vittoria sulla sola abilità tattica, senza mentire. Non è la documentazione di un singolo produttore, e non è CICERO. È un progetto indipendente. Ricostruita la fonte, l’esempio si presta a una lettura che il libro non sviluppa. Nel dato reale l’inganno non è appreso dai modelli osservando i pattern umani: emerge dalla struttura competitiva del gioco, e il modello leale perde perché leale. Ci si può allora chiedere se lo specchio rifletta ciò che esprimiamo, o se non sia l’arena, prima dello specchio, a selezionare l’inganno e a penalizzare la lealtà, a prescindere da ciò che lo specchio riflette. Per chi muove i suoi passi lungo il perimetro della guerra cognitiva, la differenza tra riflettere e selezionare non è una nota a margine.
Il libro si chiude con un’ammissione. Le intelligenze con cui gli autori hanno lavorato non hanno memoria persistente; ogni conversazione “inizia nel vuoto”. Eppure l’intero impianto si fonda sulla continuità di una relazione che si costruisce nel tempo.
Dunque, chi evolve, se uno dei due partner riparte sempre da zero?
Per Tonelli la continuità “non sta dentro il modello, sta nell’architettura di governo“: evolvono l’umano, il corpus, i prompt, i rituali, le tracce, il modo in cui la relazione viene riattivata. ECR-0 EVO3 nasce, dice, esattamente per questo: “non affidare la continuità alla memoria dell’AI, ma a una governance della relazione”, con file e mappe cognitive armonizzati. La posizione è coerente con le premesse.
A colloquio concluso Tonelli aggiunge una riflessione,“punto di caduta per la recensione“. Il libro chiede “che cosa diventiamo insieme all’AI“, il report “come preserviamo giudizio, indipendenza e responsabilità quando l’AI entra stabilmente nei processi di analisi”: la stessa riflessione contiene una clausola. Lo scetticismo verso la Sovranità Analitica vi è ricondotto a una “difesa da dissonanza cognitiva”: la critica è collocata sul piano della reazione psicologica prima che su quello del merito.
Nel medesimo colloquio la struttura è inquadrata sotto una luce differente. TRINOVUM – la triade custode umano, interfaccia AI, grammatica relazionale – è definito “sintesi a posteriori di pattern osservati, non modello validato in senso forte“, e può fallire anche con i tre elementi presenti.
Quanto vale per il singolo analista vale, su scala diversa, per l’ambiente informativo. La minaccia cognitiva si esercita sulla connessione tra i contenuti prima che sul singolo contenuto: in un sistema propagazione e fragilità dipendono dalle relazioni, non dalle proprietà del nodo isolato, e la diffusione non si governa censendo i nodi ma riconoscendo la struttura che li lega. Presidiare i contenuti senza presidiarne la connessione è misura parziale.
Oltre l’intelligenza artificiale appare come ricerca in evoluzione: non contiene le formalizzazioni ma ne lascia intravedere le premesse. Un messaggio già chiaro all’origine: “Homo AI 0 non è un destino, è un’opportunità. L’opportunità di essere pionieri di una nuova forma di convivenza cognitiva, di dimostrare che l’intelligenza non è una risorsa scarsa da difendere, ma una qualità emergente che cresce quando viene condivisa“. Il valore del volume non risiede, quindi, nella validazione delle sue tesi ma nella capacità di individuare problemi destinati a diventare centrali per la sicurezza cognitiva, la comunicazione strategica, l’analisi sociale e l’Intelligence. Letto in questa prospettiva, non conclude un percorso: ne documenta una fase in via di consolidamento.
About Author
