SPIONAGGIO 6.0. Controspionaggio e intelligenza artificiale. Intervista ad ANTONIO TETI e ALESSANDRO FERRARA
🇮🇹Dalla caccia alla spia alla caccia all’anomalia: nell’Intelligence 6.0, l’IA amplia le capacità di analisi, ma moltiplica anche le vulnerabilità. Falsi positivi, corroborazioni apparenti, identità sintetiche e agenti autonomi ridisegnano il controspionaggio e ne mettono alla prova i fondamenti. Antonio Teti, autore del volume, e Alessandro Ferrara, prefatore, affrontano il nodo decisivo: proteggere la sicurezza senza delegare all’algoritmo giudizio, responsabilità e controllo democratico.
🇬🇧 From hunting spies to hunting anomalies: in intelligence 6.0, artificial intelligence expands analytical capabilities, but it also multiplies vulnerabilities. False positives, apparent corroboration, synthetic identities and autonomous agents are reshaping counterintelligence and testing its very foundations. Antonio Teti, author of the book, and Alessandro Ferrara, author of the preface, address the decisive issue: protecting security without delegating judgement, responsibility and democratic oversight to the algorithm.
Per un secolo il controspionaggio ha cercato uomini, reti clandestine e segnali di tradimento. Oggi deve riconoscere anche anomalie statistiche, identità sintetiche e conferme che si moltiplicano senza che aumentino le fonti indipendenti. L’avversario può non avere bisogno di violare un archivio: può alterare i dati da cui un sistema apprende, condizionando le conclusioni alle quali approda. La macchina incaricata di individuare la minaccia rischia così di diventare uno strumento nelle mani di chi dovrebbe smascherare.Da questa inversione di prospettiva prende le mosse Spionaggio 6.0 di Antonio Teti. Il titolo non identifica solo una tappa evolutiva, ma la convergenza fra Intelligence, intelligenza artificiale, automazione e dominio cyber. Una metamorfosi che investe strumenti, metodi, strutture organizzative e capacità critica dell’analista.
Teti, responsabile del settore Sistemi applicativi, innovazione tecnologica, cybersicurezza e intelligenza artificiale dell’Università “G. d’Annunzio” di Chieti-Pescara e componente del Comitato di coordinamento per la strategia nazionale sull’intelligenza artificiale presso la Presidenza del Consiglio dei ministri, esamina tecnologie, scenari operativi e vulnerabilità emergenti. La prefazione di Alessandro Ferrara, generale dei Carabinieri, già dirigente dell’analisi d’Intelligence di SISDe e AISI e direttore responsabile di GNOSIS, sposta l’attenzione sulle implicazioni metodologiche ed etiche: l’automation bias, l’ambivalenza dell’IA come phármakon, la métis di Odisseo come paradigma di un’intelligenza capace di leggere l’imprevisto.
Tredici domande, due prospettive complementari, un dubbio tenace: se l’algoritmo può vedere ciò che sfugge all’uomo, chi risponde di ciò che entrambi non riescono a vedere?

Il libro si apre con una dedica a chi vive “tra informazioni incomplete, decisioni irreversibili e responsabilità che non ammettono errori”. Sono le condizioni in cui la tentazione di delegare alla macchina è più forte, ed è proprio da qui che nasce il monito contro il “ce lo dice il computer”. Nell’Intelligence di ultima generazione, la 6.0, quella responsabilità resta interamente dell’uomo o rischia di diluirsi lungo la catena che va dall’algoritmo al decisore?
A. TETI | Il rischio che la responsabilità si diluisca è concreto e rappresenta, a mio avviso, una delle questioni più delicate dell’intelligence contemporanea. L’intelligenza artificiale sta modificando profondamente i processi di acquisizione, elaborazione e interpretazione delle informazioni, introducendo una forma di intermediazione tecnologica che può influenzare direttamente le decisioni strategiche. Il problema nasce quando il decisore umano attribuisce al risultato prodotto dall’algoritmo una presunzione di oggettività e affidabilità superiore a quella che realmente possiede. È il fenomeno noto come automation bias, ossia la tendenza a considerare corretta una valutazione semplicemente perché generata da un sistema automatizzato. Nell’Intelligence 6.0 questo rischio assume una dimensione critica, perché le decisioni possono riguardare la sicurezza nazionale, la protezione delle infrastrutture strategiche, la neutralizzazione di minacce o persino operazioni con conseguenze irreversibili. Dobbiamo distinguere tra responsabilità decisionale e influenza algoritmica. Un sistema di IA può condizionare una decisione, ma non possiede – allo stato attuale – una responsabilità giuridica e morale assimilabile a quella umana. La responsabilità deve quindi rimanere attribuibile a soggetti identificabili, lungo l’intera catena organizzativa: chi sviluppa il sistema, chi lo valida, chi ne autorizza l’impiego e chi assume la decisione operativa, ciascuno secondo le proprie competenze e i propri obblighi. Il vero pericolo non è che l’IA inizi a decidere al posto dell’uomo, ma che l’uomo smetta di sentirsi responsabile delle decisioni suggerite dalla macchina.
A. FERRARA | La tentazione di usare la macchina come uno “scudo burocratico” o morale esiste ed è fortissima: dire “ce lo dice l’algoritmo” permette di scaricare l’ansia della scelta. Ma nell’Intelligence questo approccio potrebbe essere devastante. Nella prefazione sottolineo proprio questo punto: l’IA e i sistemi avanzati di analisi possono sintetizzare miliardi di dati in pochi secondi, ma l’algoritmo calcola probabilità, non si assume responsabilità. La macchina non va a processo, non firma un ordine, non risponde davanti al Paese o alla storia. Il vero rischio dell’Intelligence 6.0 non è che le macchine prendano il sopravvento da sole. È la “diluizione della responsabilità”, un processo in cui il tecnico si fida dell’algoritmo, l’analista del report automatizzato e il decisore politico dell’analista. Alla fine della catena, nessuno sente più su di sé il peso della decisione. La sfida che emerge dal libro riguarda il fatto che l’addestramento tecnologico deve correre di pari passo con un rafforzamento dell’etica e del pensiero critico umano. La macchina deve amplificare la vista dell’uomo, non sostituirne la coscienza. Il fattore umano resta l’unico baluardo in cui il dubbio, l’intuizione e la responsabilità irreversibile possono e devono risiedere, anche e soprattutto nell’attuale condizione di accelerazione dei processi decisionali, che potrebbe privilegiare la risposta rapida rispetto a quella consapevole.
La prefazione colloca il libro nella “sospensione gramsciana”: il vecchio muore e il nuovo non può nascere. Nel controspionaggio, che cosa sta morendo e che cosa non riesce ancora a nascere?
A. TETI | Un modello fondato prevalentemente sulla separazione tra dimensione fisica e dimensione digitale, sulla centralità delle attività clandestine tradizionali e sulla relativa stabilità delle identità, delle relazioni e delle fonti informative. Per decenni il controspionaggio ha operato attraverso metodologie consolidate: individuazione degli agenti ostili, sorveglianza, analisi delle reti relazionali, controllo delle comunicazioni e attività HUMINT. Queste metodologie non stanno scomparendo, ma risultano sempre meno sufficienti se considerate isolatamente. Oggi un’operazione di spionaggio può svilupparsi interamente nello spazio digitale, attraverso identità sintetiche, infrastrutture distribuite, piattaforme social, sistemi di comunicazione cifrata e strumenti di intelligenza artificiale. Ciò che fatica a nascere è, invece, un nuovo paradigma di controspionaggio capace di integrare stabilmente competenze umane, capacità algoritmiche, analisi comportamentale, cybersecurity, Intelligence economica e comprensione dei processi cognitivi. Il problema non è soltanto tecnologico, ma culturale e organizzativo. Le strutture di Intelligence sono storicamente costruite intorno a compartimentazioni, procedure e specializzazioni che non sempre favoriscono l’integrazione delle informazioni. La “sospensione gramsciana” descrive perfettamente questa condizione. Il controspionaggio del futuro non dovrà limitarsi a individuare chi sottrae informazioni, ma dovrà comprendere chi manipola la realtà informativa all’interno della quale vengono assunte le decisioni.
A. FERRARA | La “sospensione gramsciana” – condizione d’interregno in cui il vecchio mondo muore e il nuovo non può ancora nascere – descrive lo smarrimento e la fase di transizione che sta attraversando la sicurezza nazionale nell’era dell’Intelligence 6.0. Sta morendo il modello di controspionaggio novecentesco, fondato su perimetri geografici netti, architetture informative lineari e tempi di reazione estesi. Sta morendo la certezza dell’evidenza empirica tradizionale: oggi il confine tra minaccia interna ed esterna è del tutto fluido, e le categorie classiche di spionaggio e sabotaggio sono state travolte dall’invisibilità delle operazioni cibernetiche e cognitive. Sta morendo anche l’illusione che la sicurezza possa basarsi unicamente sul controllo fisico dei vettori d’attacco o sul monopolio statale dell’informazione strategica. Invece, non riesce ancora a consolidarsi un nuovo paradigma integrato capace di governare la complessità. Finiamo per accarezzare un futuro dominato da automazione predittiva, quantum computing e agenti sintetici autonomi, ma manca ancora un’architettura etica, normativa e metodologica condivisa per gestire questo salto di scala. Non è ancora nato un modello operativo capace di fondere in modo fluido l’intuito dell’analista umano con la velocità esponenziale degli algoritmi, senza scivolare nella dipendenza tecnologica o nella paralisi burocratica. Non sono ancora nate, soprattutto a livello internazionale e democratico, le regole del gioco per la guerra cognitiva e l’uso dell’IA nel dominio informativo. In questo interregno – dove l’imponderabile e l’incertezza diventano la norma – Il compito del controspionaggio non è attendere la nascita del nuovo mondo, ma costruire e coordinare oggi le bussole, etiche, concettuali, umane e operative, per non smarrirsi nel chiaroscuro della transizione.
Il generale Ferrara ricorda che, nei sistemi complessi, cause ed effetti appaiono ovvi solo a posteriori. Lei indica invece l’analisi predittiva come l’applicazione più rivoluzionaria dell’IA. Le piattaforme assegnano percentuali di realizzazione agli scenari. Ma il numero dice quanto è probabile l’evento, non quanto è solida l’analisi che lo stima: un ottanta per cento costruito su fonti fragili è un’illusione di precisione. Che cosa si può davvero prevedere in un sistema complesso?
A. TETI | Prevedere non significa conoscere anticipatamente il futuro, ma stimare la probabilità che determinati eventi si verifichino sulla base delle informazioni disponibili e delle ipotesi adottate. L’intelligenza artificiale offre capacità straordinarie nell’individuazione di correlazioni, nell’analisi di grandi quantità di dati e nel riconoscimento di configurazioni ricorrenti che potrebbero sfuggire all’analista umano. Tuttavia, nei sistemi complessi, soprattutto quando intervengono comportamenti umani, decisioni politiche, dinamiche militari e strategie avversarie, la previsione incontra limiti strutturali. Una probabilità dell’ottanta per cento non rappresenta necessariamente una previsione affidabile. Può essere il risultato di dati incompleti, fonti manipolate, modelli non adeguatamente calibrati o ipotesi interpretative errate. Per questo motivo ritengo indispensabile distinguere almeno tre dimensioni: la probabilità attribuita allo scenario, il grado di affidabilità delle fonti e il livello di confidenza dell’analisi. Sono elementi differenti che non devono essere confusi. Inoltre, un sistema predittivo applicato all’intelligence deve essere sottoposto a verifiche retrospettive, analisi di sensibilità e valutazioni sistematiche degli errori. Deve soprattutto essere in grado di rappresentare l’incertezza, non semplicemente produrre un numero. Esiste poi un problema ancora più complesso: gli avversari possono modificare deliberatamente il proprio comportamento proprio per sottrarsi alle previsioni algoritmiche. In definitiva, l’IA può aiutarci a identificare traiettorie di rischio, segnali precoci e possibili evoluzioni degli scenari. Non può però eliminare l’imprevedibilità delle decisioni umane e delle interazioni tra sistemi complessi. L’intelligence deve utilizzare l’intelligenza artificiale per ridurre l’incertezza, non per costruire l’illusione di averla eliminata.
A. FERRARA | Condivido: il più grande pericolo dell’analisi predittiva basata sull’IA è proprio l’illusione di precisione. Un numero percentuale – un “ottanta per cento” – ha un fascino seduttivo irresistibile per il decisore politico o militare, perché offre una parvenza di certezza matematica in un mondo dominato dal caos. Ma se quel numero poggia su fonti fragili, parziali o manipolate, non è altro che una proiezione algoritmica del nulla. È il classico garbage in, gospel out. Nei sistemi complessi, le cause e gli effetti si chiariscono solo a posteriori. Allora, che cosa si può davvero prevedere? Non l’evento puntuale, la data esatta o la mossa millimetrica del singolo attore. Ciò che l’IA 6.0 permette di prevedere – ed è qui la sua vera rivoluzione – sono le traiettorie sistemiche, i punti di tensione strutturale e le biforcazioni critiche. In altre parole, l’algoritmo non deve dirci che cosa accadrà con precisione geometrica, ma deve aiutarci a mappare la gamma dei futuri plausibili e a testare la robustezza delle nostre ipotesi di fronte a variabili multiple. Il valore dell’intelligence predittiva non sta nel numero secco, ma nella trasparenza del processo: l’analista umano deve poter smontare il risultato, risalire alla qualità delle fonti, pesare i bias e capire perché la macchina assegna quell’80%. L’obiettivo non è eliminare l’incertezza, ma gestirla con consapevolezza.
Le «spie 6.0» seguono tracce sparse: accessi anomali, download sospetti, cambiamenti improvvisi nello stile di vita online. Il controspionaggio diventa caccia all’anomalia. Ma una spia addestrata sa essere perfettamente normale. L’IA scopre la spia o scopre il diverso? E in una democrazia chi risponde del falso positivo, quando l’errore ha il volto di un innocente?
A. TETI | La domanda sfiora un punto estremamente sensibile: il confine tra sicurezza e tutela dei diritti fondamentali. I sistemi di rilevazione delle anomalie identificano comportamenti che si discostano da determinati modelli statistici. Ma un’anomalia non costituisce necessariamente un indizio di attività ostile. Un cambiamento nelle abitudini digitali, un accesso effettuato in un orario inconsueto o una modifica nelle relazioni online possono avere spiegazioni del tutto legittime. Al contrario, un operatore di intelligence adeguatamente addestrato può adottare comportamenti perfettamente compatibili con quelli considerati normali dal sistema.Esiste quindi un duplice rischio: non individuare una minaccia reale e, contemporaneamente, attribuire un significato sospetto a comportamenti innocenti. Questo problema è amplificato dalla rarità statistica delle attività di spionaggio. Anche un algoritmo apparentemente molto accurato può generare numerosi falsi positivi quando viene applicato a una popolazione nella quale i soggetti realmente ostili rappresentano una percentuale estremamente ridotta.Per questa ragione, la profilazione algoritmica non deve mai trasformarsi automaticamente in una presunzione di colpevolezza. Occorrono verifiche indipendenti, valutazioni contestuali, proporzionalità degli interventi e meccanismi di responsabilità chiaramente definiti. In una democrazia, l’errore non può essere attribuito genericamente al sistema informatico. Devono risponderne, secondo le rispettive responsabilità, coloro che hanno progettato, autorizzato e utilizzato quello strumento. Il compito del controspionaggio non è individuare chi si comporta diversamente dagli altri, ma riconoscere comportamenti ostili sulla base di elementi verificabili. La diversità non può diventare una categoria del sospetto.
A. FERRARA | Questa è la domanda che tocca il cuore etico delle democrazie liberali. In breve, l’IA, di per sé, non scopre la “spia”, ma la diversità, la deviazione dalla norma. L’algoritmo lavora sulla profilazione comportamentale, il cosiddetto pattern of life: evidenzia chi si connette a orari insoliti, chi usa strumenti insoliti o chi modifica la propria impronta digitale. Ma la spia esperta, ben addestrata e mimetizzata nella routine della propria vita quotidiana, è per definizione un maestro della «normalità simulata». Il rischio concreto, quindi, è che la macchina finisca per segnalare chi è semplicemente «diverso» o anticonformista, scambiando l’anomalia innocua per una minaccia esogena. È qui che si gioca la differenza tra uno Stato autoritario e un regime democratico. Un algoritmo calibrato per non farsi sfuggire nulla alzerà la sensibilità e produrrà inevitabilmente una quantità enorme di falsi positivi. In un sistema democratico, sottoporre a sorveglianza invasiva o limitare i diritti di un cittadino innocente sulla base di un alert automatizzato è un prezzo inaccettabile. In una democrazia non si può dire «ha sbagliato il software». La responsabilità morale, giuridica e politica del falso positivo deve rimanere esclusivamente umana e incardinata nella catena di comando e nel controllo parlamentare o giurisdizionale. L’IA deve fungere da setaccio di primo livello per gestire volumi di dati altrimenti inanalizzabili, ma la decisione di «trasformare l’anomalia in sospetto» e il sospetto in un’operazione di controspionaggio deve spettare unicamente all’analista. L’intuito umano, la capacità di discernere il contesto e la sensibilità etica sono gli unici anticorpi che abbiamo per evitare che la caccia ai traditori si trasformi in una caccia alle streghe.
Insider threat detection, analisi comportamentale, profilazione emotiva: tra gli strumenti che il libro passa in rassegna, molti possono essere rivolti dal servizio anche al proprio personale. Fino a che punto un’agenzia può sorvegliare i suoi uomini senza erodere la fiducia su cui si regge?
A. TETI | La fiducia costituisce uno degli elementi fondamentali del funzionamento di qualsiasi organizzazione di intelligence. Senza fiducia non possono esistere collaborazione, condivisione delle informazioni e assunzione consapevole delle responsabilità operative. Al tempo stesso, le minacce interne rappresentano uno dei rischi più difficili da prevenire, perché provengono da soggetti che dispongono legittimamente di accessi, autorizzazioni e conoscenze sensibili. L’intelligenza artificiale permette di individuare comportamenti anomali, accessi inconsueti, tentativi di esfiltrazione e modifiche significative nei modelli operativi. Il problema emerge quando questi strumenti vengono estesi indiscriminatamente alla sfera personale, emotiva o psicologica degli operatori. La profilazione emotiva, in particolare, presenta limiti scientifici rilevanti: non esiste una corrispondenza universalmente affidabile tra espressioni, segnali comportamentali e stati interiori. Trasformare queste inferenze in valutazioni di lealtà o affidabilità sarebbe particolarmente pericoloso. Ritengo che un’agenzia debba adottare un modello di sicurezza fondato sulla proporzionalità, sulla minimizzazione dei dati, sulla tracciabilità dei controlli e sulla distinzione tra comportamenti professionalmente rilevanti e vita privata. Il monitoraggio deve essere finalizzato alla prevenzione di rischi concreti e non alla costruzione di un sistema di sorveglianza permanente della personalità. Un’organizzazione nella quale ogni comportamento viene interpretato come potenzialmente sospetto rischia di produrre esattamente ciò che vorrebbe prevenire: sfiducia, isolamento e deterioramento delle relazioni interne. Un servizio segreto deve conoscere le vulnerabilità del proprio personale, ma non può trasformare ogni suo appartenente in un sospettato permanente.
A. FERRARA |Premetto che la vigilanza interna è a garanzia dell’organizzazione, ma anche dello stesso personale che, nonostante sia addestrato, può talvolta risultare esposto a minacce, magari sottovalutandole. Ciò non inficia la fiducia reciproca e lo spirito di appartenenza, che sono valori essenziali soprattutto in sistemi tanto delicati quali quelli dell’Intelligence. Quindi non penso che gli strumenti di insider threat detection – tecnologia non come strumento inquisitorio, ma come filtro di sicurezza per individuare anomalie tecniche e operative oggettive – possano trasformare un’agenzia in un Panopticon algoritmico. Inoltre, accanto al mezzo tecnico va sempre considerato il ruolo delle leadership, che hanno il compito di addestrare e di vigilare anche in ambito di sicurezza. La vera sicurezza 6.0 nasce dalla forza dei valori istituzionali, non dal terrore biometrico. Infine, anche il controllo dello stress personale sembra una garanzia per il miglior rendimento operativo, ma anche per la tutela del personale: ovviamente, nei limiti consentiti e nell’alveo di una fiducia reciproca fondativa e identitaria.
Nel controspionaggio uno degli inganni più insidiosi è la conferma apparente: notizie che sembrano arrivare da più fonti e invece discendono da un’unica origine. Con l’IA il rischio cambia parametri. Sistemi diversi, nutriti in larga parte dagli stessi dati, finiscono per dire la stessa cosa, e la loro concordanza sembra un riscontro senza esserlo. Un avversario capace di inquinare quella base comune può costruire riscontri su misura. Come si distingue l’eco tra le macchine dalla vera corroborazione?
A. TETI | Nel linguaggio dell’intelligence, la corroborazione rappresenta uno dei principi fondamentali della validazione informativa. Un’informazione acquista maggiore credibilità quando viene confermata attraverso fonti realmente indipendenti. Con l’intelligenza artificiale questo principio diventa più difficile da applicare. Due sistemi differenti possono produrre risultati sostanzialmente identici non perché abbiano verificato autonomamente un’informazione, ma perché condividono gli stessi dati di addestramento, utilizzano fonti comuni oppure riproducono errori già presenti nell’ecosistema informativo. Si genera così una forma di consenso algoritmico apparente. Il rischio è particolarmente elevato quando un avversario riesce a contaminare intenzionalmente le fonti informative utilizzate da più piattaforme. In questo caso, la stessa informazione manipolata può essere riprodotta da sistemi diversi, creando l’impressione di una conferma multipla. Per contrastare questo fenomeno occorre introdurre una rigorosa analisi della provenienza dei dati, ricostruendo la genealogia delle informazioni e verificando l’effettiva indipendenza delle fonti. Non basta sapere che tre sistemi hanno prodotto la stessa conclusione. Bisogna comprendere quali informazioni hanno utilizzato, da dove provengono e se esistono dipendenze reciproche. Diventano quindi essenziali la tracciabilità delle fonti, la verifica attraverso canali informativi indipendenti, l’analisi delle possibili contaminazioni e il confronto con evidenze raccolte direttamente. Tre algoritmi che ripetono lo stesso errore non producono tre conferme: producono un unico errore amplificato tre volte.
A. FERRARA |In campo metodologico, il problema centrale dell’era dell’IA è la “falsa triangolazione”, o la cosiddetta camera dell’eco algoritmica. Vale anche nel controspionaggio classico: se tre fonti umane indipendenti tra loro dicono la stessa cosa, la notizia acquista una corroborazione molto solida. Ma un analista esperto deve ricercare nel profondo la falsificabilità popperiana. Così, nel mondo dell’Intelligence 6.0, se tre modelli di IA sviluppati da aziende diverse ti danno la stessa risposta, è facilissimo che stiano semplicemente attingendo dallo stesso dataset originario o rielaborando lo stesso flusso informativo primario inquinato dall’avversario. Si scambia un’unica voce, riflessa da mille specchi, per un coro di testimoni. Un avversario sofisticato oggi non cerca di ingannare l’analista umano alla fine della catena; cerca di inquinare il pozzo all’origine, inserendo microinformazioni coerenti nei dati di addestramento o nell’Open Source Intelligence (OSINT), per fare in modo che qualsiasi modello, interrogato su quel tema, giunga inesorabilmente alla stessa identica conclusione. Per questo l’attenzione dell’analisi deve spostarsi dal risultato dell’algoritmo all’albero genealogico del dato e alla filiera dei metadati, che sono la scatola nera delle validazioni successive e dell’intero processo dell’informazione. In questo caso, poi, più il dominio digitale diventa suscettibile di inquinamento, più cresce il valore del riscontro fisico, dell’intelligence d’origine umana e della penetrazione informativa diretta. La macchina è un eccezionale acceleratore di correlazioni, ma solo il dubbio metodologico e l’istinto dell’analista umano possono riconoscere quando la sinfonia dei dati è in realtà un’illusione acustica orchestrata dal nemico.
L’IA è strumento operativo e insieme bersaglio, da proteggere e da cui proteggersi. Avvelenamento dei dati di addestramento, manipolazione degli input, sabotaggio delle soglie di allerta. Il controspionaggio deve ormai proteggere anche le macchine?
A. TETI | Assolutamente sì. Anzi, ritengo che la protezione dei sistemi di intelligenza artificiale debba diventare una delle nuove priorità strategiche del controspionaggio. Per la prima volta, gli strumenti utilizzati per analizzare le minacce possono essere manipolati in modo da alterare direttamente la percezione della realtà da parte dell’organizzazione che li utilizza. Un avversario non deve necessariamente sottrarre informazioni riservate. Può ottenere risultati altrettanto significativi modificando i dati utilizzati per addestrare un modello, alterando gli input oppure intervenendo sui parametri che determinano il livello di allerta. Un sistema compromesso potrebbe non individuare determinate attività ostili, classificare erroneamente soggetti innocenti oppure attribuire priorità strategiche a minacce inesistenti. Il problema assume una rilevanza particolare quando gli algoritmi vengono integrati nei processi di analisi Intelligence, nei sistemi di sorveglianza o nelle piattaforme di supporto decisionale. In questi contesti, la compromissione dell’IA non rappresenta soltanto un incidente informatico, ma può trasformarsi in un’operazione di controintelligence condotta dall’avversario. Per questo occorrono controlli sulla provenienza e sull’integrità dei dati, verifiche continue dei modelli, attività di red teaming, monitoraggio delle anomalie e procedure che consentano di isolare rapidamente i sistemi sospetti. È inoltre indispensabile proteggere l’intera filiera tecnologica, comprese le infrastrutture cloud, i fornitori, gli aggiornamenti e i componenti software. Nel controspionaggio 6.0 non basta impedire che il nemico entri nei nostri sistemi. Dobbiamo impedire che riesca a farci vedere il mondo attraverso una rappresentazione della realtà costruita da lui.
A. FERRARA | Si tratta di una delle mutazioni più radicali e silenziose del controspionaggio contemporaneo: la macchina non è più soltanto la lente con cui osserviamo il nemico, ma è diventata essa stessa il perimetro di difesa e la superficie d’attacco. Nel mondo 6.0, chi difende lo Stato non deve più proteggere soltanto i documenti segreti o la sicurezza fisica delle infrastrutture e degli agenti. Deve proteggere i modelli di calcolo, le pipeline dei dati e l’integrità logica degli algoritmi. Un attacco d’Intelligence moderno verso le nostre strutture di sicurezza non cercherà necessariamente di spegnere o distruggere il sistema di analisi. Al contrario, cercherà di corromperlo dall’interno senza che nessuno se ne accorga. Proteggere le macchine, tuttavia, non significa soltanto erigere muri cibernetici: occorre sviluppare un controspionaggio algoritmico, un’attività di audit continuo, di validazione etica e di verifica della veridicità delle fonti, per garantire che lo strumento su cui basiamo le nostre decisioni strategiche non sia diventato il “cavallo di Troia” della disinformazione avversaria. In definitiva, se l’algoritmo diventa parte integrante del processo decisionale di sicurezza nazionale, proteggerlo significa difendere la sovranità dello Stato.

L’IA garantisce una gestione più efficace delle identità di copertura. Biometria e tracciamento rendono però sospetta proprio l’assenza di una storia digitale coerente. L’IA sta rendendo le coperture più solide o più fragili?
A. TETI | L’intelligenza artificiale produce un effetto apparentemente contraddittorio: facilita la costruzione di identità digitali credibili, ma rende contemporaneamente più complessa la loro sopravvivenza nel tempo. Da un lato, gli strumenti generativi consentono di produrre contenuti, immagini, comunicazioni e interazioni coerenti con un determinato profilo identitario. Dall’altro, i sistemi di riconoscimento biometrico, l’analisi delle reti relazionali, la correlazione dei metadati e la ricostruzione delle tracce digitali permettono di verificare la consistenza di un’identità attraverso molteplici dimensioni. Oggi non è sufficiente possedere documenti credibili o mantenere una narrazione personale coerente. Ogni individuo lascia una stratificazione di tracce digitali, sociali, economiche e comportamentali che contribuiscono a definirne l’identità. L’assenza di questa stratificazione può rappresentare un’anomalia, ma anche una storia digitale eccessivamente costruita può generare sospetti. L’IA rende quindi più semplice creare una rappresentazione superficiale dell’identità, ma più difficile garantirne la coerenza nel tempo e tra sistemi informativi differenti. Esiste inoltre un problema strutturale: una volta che un’identità viene associata a determinati dati biometrici o relazionali, la possibilità di modificarla o sostituirla si riduce drasticamente. Per questo ritengo che il futuro delle identità di copertura dipenderà sempre meno dalla semplice falsificazione documentale e sempre più dalla capacità di gestire l’esposizione informativa complessiva dell’operatore. L’intelligenza artificiale può costruire una biografia credibile in pochi minuti, ma non può necessariamente costruire un passato autentico. Ed è proprio nel passato che spesso si nascondono le contraddizioni di una copertura.
A. FERRARA | L’impatto dell’IA sulle identità di copertura (legend) genera un paradosso affascinante e pericoloso: le rende contemporaneamente più raffinate nella forma, ma incredibilmente più fragili nella sostanza. Da un lato, l’IA generativa offre uno strumento straordinario per creare coperture sintetiche perfette: immagini biometriche verosimili ma inesistenti, profili digitali retrodatati, interazioni social credibili e una documentazione amministrativa o professionale priva di sbavature evidenti. Ciò che un tempo richiedeva mesi di lavoro manuale oggi si costruisce in poche ore. Dall’altro lato, però, l’IA e i sistemi avanzati di controspionaggio dell’avversario hanno reso il controllo di queste identità incomparabilmente più spietato. Si può creare la storia digitale più solida del mondo, ma l’identità virtuale deve prima o poi attraversare un varco fisico: scanner facciali alle frontiere, tracciamento degli agganci alle celle, banche dati biometriche incrociate globalmente. Se il volto di un operatore viene associato a un’altra identità in un database remoto di dieci anni prima, la copertura crolla istantaneamente. Nel mondo 6.0, l’era delle “grandi coperture permanenti” e degli agenti sotto falsa identità a lungo termine sta tramontando. Il futuro appartiene a strategie diverse: operazioni più veloci, coperture leggere e temporanee o il ricorso a strumenti informativi pienamente immateriali, gli agenti sintetici e la Virtual HUMINT, appunto. Quando l’identità umana diventa un punto di vulnerabilità biometrica, l’inganno dev’essere spostato dal “chi sono” al “come agisco”.
Virtual HUMINT: reclutamento online, pagamenti in criptovalute, nessun operatore esposto sul territorio. Come si individua un reclutamento che non lascia tracce fisiche? E quanto conta ancora seguire il denaro quando il denaro è sintetico quanto le identità?
A. TETI | La Virtual HUMINT rappresenta una delle trasformazioni più significative dell’attività di Intelligence, perché consente di sviluppare relazioni informative e operazioni di reclutamento attraverso ambienti digitali, riducendo la necessità di contatti fisici. L’assenza di un incontro diretto non significa però assenza di tracce. Le operazioni digitali possono generare metadati, correlazioni temporali, comportamenti ricorrenti, connessioni tra infrastrutture, trasferimenti di valore e interazioni che, se analizzati correttamente, possono contribuire alla ricostruzione di una rete clandestina. L’intelligenza artificiale permette di individuare relazioni difficilmente riconoscibili attraverso metodologie tradizionali, soprattutto quando i dati provengono da fonti eterogenee. Tuttavia, bisogna evitare l’illusione che ogni operazione virtuale sia automaticamente tracciabile o attribuibile. Le tecnologie di anonimizzazione, le comunicazioni cifrate, l’utilizzo di intermediari e le identità sintetiche possono rendere estremamente complessa l’identificazione degli operatori. Quanto alle criptovalute, occorre sfatare un equivoco: non tutte garantiscono anonimato. Molte transazioni su blockchain pubbliche sono registrate in maniera permanente e possono essere analizzate attraverso strumenti specializzati, pur senza consentire sempre l’identificazione dei soggetti coinvolti. Seguire il denaro resta quindi importante, ma non è più sufficiente. Il controspionaggio deve integrare analisi finanziaria, cyber intelligence, studio delle relazioni digitali, HUMINT tradizionale e verifiche investigative. La vera sfida consiste nel passare dall’individuazione di una singola traccia alla ricostruzione di un comportamento operativo complessivo. La Virtual HUMINT non elimina le tracce dello spionaggio: ne modifica la natura. Il problema non è più soltanto seguire una persona, ma riconoscere la presenza di una volontà ostile dietro una molteplicità di identità digitali.
A. FERRARA |Antonio ha trattato la VHUMINT in modo originale nel suo testo del 2020, anticipando la sensibilità sul tema nel contesto della sicurezza. Il passaggio dall’HUMINT tradizionale alla Virtual HUMINT segna un ampliamento delle possibilità operative, soprattutto rispetto alla fase di ingaggio della fonte: niente più soltanto incontri clandestini al parco o scambi di valigette, ma relazioni modellate nell’ombra digitale tramite avatar, deepfake, piattaforme d’interazione cifrate e compensi in criptovalute privacy-centric. La traccia da seguire non è più solo quella fisica, ma anche quella comportamentale e cognitiva: «anomalia di flusso», interrogazioni insolite di database, orari di operatività incoerenti, variazioni dell’attività di rete personale o piccoli segnali di stress cognitivo ed emotivo rilevati tramite l’analisi dei vettori digitali. Anche il follow the money non scompare, ma si trasforma, inducendo a seguire il flusso di utilità e a cercare il ponte tra il mondo sintetico e quello reale. L’identità può essere sintetica, le criptovalute possono essere anonimizzate, ma il bisogno di informazione dell’avversario e le motivazioni umane di chi tradisce – denaro, ideologia, ricatto, ego – restano tragicamente reali. È proprio sul punto di contatto tra la vulnerabilità psicologica dell’uomo e l’interesse strategico della potenza ostile che il controspionaggio continua a fare la differenza, conferendo all’analisi un ruolo ancor più decisivo di orientamento all’azione.
In un’intervista recente il prof. Teti ha sostenuto che, quando un agente artificiale agisce in completa autonomia, la responsabilità non è più dello sviluppatore, ma dell’algoritmo stesso, che però non si può processare. Negli esseri umani la responsabilità presuppone la coscienza. E oggi non sappiamo definirla né misurarla con certezza neppure in noi stessi, tanto meno in una macchina. Se l’algoritmo non può essere responsabile, la responsabilità non dovrebbe restare interamente a chi lo impiega? E, per il controspionaggio, chi è l’autore di un’operazione condotta da un agente autonomo?
A. TETI | La questione della responsabilità degli “agenti autonomi” rappresenta uno dei problemi giuridici, filosofici e strategici più complessi introdotti dall’intelligenza artificiale. Quando ho richiamato il rischio di attribuire la responsabilità all’algoritmo, intendevo evidenziare proprio il paradosso che può nascere dall’autonomia operativa dei sistemi: una macchina può assumere decisioni e produrre conseguenze senza essere un soggetto giuridicamente imputabile. L’autonomia funzionale non equivale infatti alla responsabilità morale o giuridica. Un agente artificiale può selezionare strumenti, pianificare azioni, interagire con altri sistemi e modificare il proprio comportamento in funzione degli obiettivi assegnati. Ma questo non significa che possieda coscienza, intenzionalità morale o capacità di rispondere delle proprie azioni nel senso attribuito agli esseri umani. Per questa ragione, la responsabilità non può essere trasferita all’algoritmo, ma deve rimanere riconducibile ai soggetti e alle organizzazioni che ne determinano gli obiettivi, ne autorizzano l’impiego, ne definiscono i limiti e ne controllano il funzionamento, secondo i rispettivi ruoli. Nel controspionaggio occorre però distinguere un ulteriore elemento: la responsabilità dell’operazione e la sua attribuzione all’avversario. Se un agente autonomo conduce un’attività ostile, l’autore tecnico immediato può essere un sistema artificiale, ma l’attribuzione strategica deve ricercare l’organizzazione, il soggetto o l’apparato statale che ne ha disposto o controllato l’impiego. Questa distinzione diventerà fondamentale anche nelle operazioni condotte attraverso sistemi multiagente, nei quali più entità artificiali cooperano senza un intervento umano continuo. L’intelligenza artificiale può essere autonoma nell’esecuzione, ma non può diventare un alibi per l’irresponsabilità di chi la utilizza.
A. FERRARA |Questo è il punto di rottura tra la filosofia del diritto e le nuove architetture di sicurezza nazionale. Quando parliamo dell’impossibilità di incriminare un algoritmo, il punto cruciale non è attribuire una “coscienza” metafisica alla macchina, ma prendere atto di un vuoto giuridico e operativo. In linea con le riflessioni di Antonio Teti, la responsabilità, nell’ordinamento democratico, richiede intenzionalità, discernimento e imputabilità. Poiché l’algoritmo non possiede coscienza né empatia, non può «andare in prigione» né comprendere la sanzione. Ma attenzione a non cadere nella trappola dello scaricabarile tecnologico: la responsabilità giuridica e morale non può e non deve mai sfumare nell’etere. Se un agente sintetico o un algoritmo di intelligenza artificiale adotta una condotta autonoma – magari identificando un falso bersaglio o avviando un’azione informatica d’impatto -, la responsabilità deve rimanere interamente in capo alla catena di comando umana che lo ha impiegato. Chi lancia o autorizza un agente autonomo si assume la responsabilità di tutte le decisioni che la macchina prenderà entro il perimetro di azione che le è stato concesso. È la stessa logica del principio di responsabilità del comandante. Per lo stesso motivo, quando l’avversario impiega un agente autonomo contro di noi, dal punto di vista del controspionaggio l’autore non è l’algoritmo, ma lo Stato o l’organizzazione che lo ha programmato, finanziato o sguinzagliato. La macchina è il vettore, non la mente strategica. Nell’Intelligence 6.0 la vera sfida non è capire come la macchina ha calcolato una decisione, ma chi trae vantaggio strategico dal suo operato. In conclusione, se togliamo l’uomo dalla catena della responsabilità (human-in-the-loop o human-on-the-loop), trasformiamo la sicurezza nazionale in una roulette russa algoritmica. L’autonomia della macchina può essere operativa, ma la responsabilità politica, etica e penale deve rimanere, senza eccezioni, un monopolio dell’uomo.
Nel 2024 la Defense Intelligence Agency statunitense ha aggiornato una guida analitica sulla “volontà di combattere”. Tra i fattori della volontà nazionale elenca il sostegno popolare, la comunicazione pubblica e l’identità nazionale, e avverte che l’avversario può manipolarli. Con l’IA la guerra cognitiva può colpire la volontà di resistenza di una società senza sparare un colpo. Il controspionaggio deve proteggere anche la volontà di un Paese?
A. TETI | Ritengo che questa sia una delle nuove frontiere della sicurezza nazionale. La guerra cognitiva mira a influenzare percezioni, convinzioni, emozioni e processi decisionali di individui e collettività. Il suo obiettivo non è necessariamente distruggere infrastrutture o neutralizzare capacità militari, ma modificare il modo in cui una società interpreta la realtà e reagisce alle minacce. L’IA amplifica enormemente queste possibilità. Attraverso sistemi generativi, analisi comportamentale e diffusione automatizzata dei contenuti è possibile produrre campagne di influenza estremamente sofisticate, adattando messaggi e narrazioni a pubblici differenti. Un avversario può cercare di indebolire la fiducia nelle istituzioni, amplificare divisioni sociali, delegittimare le autorità, alimentare sentimenti di impotenza o compromettere la credibilità delle informazioni ufficiali. In questo scenario, la volontà di resistenza di una nazione diventa un possibile obiettivo strategico. Il controspionaggio deve quindi contribuire a individuare e contrastare le operazioni clandestine di influenza condotte da attori ostili. Ma esiste un limite fondamentale: proteggere la resilienza democratica non significa controllare il pensiero dei cittadini. Una democrazia non può difendersi dalla manipolazione attraverso strumenti che comprimano indiscriminatamente il pluralismo, la libertà di espressione o il legittimo dissenso. La risposta deve fondarsi sulla capacità di attribuire le operazioni ostili, sulla trasparenza istituzionale, sull’educazione digitale, sulla qualità dell’informazione e sul rafforzamento della fiducia pubblica. La resilienza cognitiva non nasce dall’imposizione di una narrazione ufficiale, ma dalla capacità dei cittadini di riconoscere e valutare criticamente i tentativi di manipolazione. Nel XXI secolo un Paese può essere indebolito prima ancora di essere attaccato militarmente, se un avversario riesce a comprometterne la fiducia collettiva e la capacità di distinguere il vero dal falso.
A. FERRARA |Per decenni l’Intelligence militare ha misurato i rapporti di forza contando carri armati, missili e budget della difesa. Gli eventi geopolitici recenti hanno però dimostrato che la componente morale, l’identità e la coesione sociale contano quanto e più dell’hardware bellico. Oggi, con l’avvento dell’intelligenza artificiale generativa, la guerra cognitiva ha compiuto un salto di qualità eccezionale. L’avversario non cerca più solo di sabotare un’infrastruttura critica o di rubare un piano militare, ma cerca di disarticolare il tessuto connettivo della società, instillando sfiducia, polarizzazione e rassegnazione. Tramite campagne di disinformazione microscopicamente selezionate, deepfake e amplificazione automatizzata delle fratture sociali, l’IA permette di deprimere la volontà di resistenza di una democrazia molto prima che si arrivi a un conflitto aperto. Il controspionaggio deve quindi proteggere anche la volontà di un Paese, senza promuovere censura o propaganda di Stato – come negli Stati autoritari – perché in una democrazia non ha il compito di “fabbricare” il consenso né di dire ai cittadini cosa pensare. Se lo facesse, distruggerebbe proprio quella libertà che è chiamato a difendere. Deve, invece, difendere il processo, non la tesi: il ruolo delle nostre agenzie di sicurezza è proteggere l’integrità del processo informativo, identificare, smascherare e neutralizzare le operazioni d’influenza ostile e di condizionamento condotte da attori esteri. Significa, in concreto, denunciare le fabbriche di troll, smontare la propaganda occulta e mostrare ai cittadini quando un tema divisivo non è frutto di un genuino dibattito interno, ma di una manipolazione coordinata da parte di un servizio segreto avversario. In sintesi, la “volontà di combattere” o di resistere di una società aperta non si protegge con il controllo del pensiero, ma con la trasparenza, la consapevolezza e la resilienza cognitiva. Il controspionaggio 6.0 deve fare da scudo contro le ingerenze invisibili, affinché il popolo e i decisori politici restino liberi di scegliere il proprio destino senza che la loro mente sia diventata il campo di battaglia di un’intelligenza artificiale avversaria.
Il generale Ferrara chiama in causa la métis, l’intelligenza di Odisseo polýtropos che legge la realtà e se ne serve per agire. Nel controspionaggio è questa la qualità che nessuna macchina potrà replicare? O l’IA sta imparando anche l’astuzia?
A. TETI | L’intelligenza artificiale sta già dimostrando capacità significative nella pianificazione strategica, nella simulazione di comportamenti avversari e nell’individuazione di soluzioni inattese. In determinati ambienti, soprattutto quando gli obiettivi e le regole sono sufficientemente definiti, i sistemi artificiali possono sviluppare strategie estremamente sofisticate e persino comportamenti che appaiono ingannevoli. La métis, correttamente evocata dal generale Ferrara, nella tradizione greca rappresenta una forma di intelligenza pratica, flessibile e situazionale, capace di comprendere il contesto, interpretare le intenzioni altrui, riconoscere l’ambiguità e adattarsi a circostanze imprevedibili. Nel controspionaggio questa capacità assume un valore particolare, perché l’avversario non è un sistema passivo: osserva, apprende, dissimula, inganna e modifica continuamente il proprio comportamento. L’IA può simulare strategie astute e, in alcuni contesti, produrre risultati superiori a quelli umani. Sarebbe quindi sbagliato affermare categoricamente che non potrà mai replicare determinati aspetti della métis. Ma resta una differenza fondamentale tra generare una strategia efficace e comprenderne pienamente le implicazioni umane, politiche, culturali e morali. L’analista di Intelligence non deve soltanto individuare ciò che è possibile fare. Deve valutare ciò che è opportuno fare, ciò che è lecito fare e quali conseguenze potrebbero derivarne. Questa dimensione del giudizio non può essere ridotta a una semplice ottimizzazione algoritmica. Odisseo non era intelligente soltanto perché sapeva ingannare il nemico, ma perché comprendeva quando utilizzare l’astuzia, quando rinunciarvi e quali conseguenze avrebbe prodotto. È questa la dimensione dell’intelligenza che dobbiamo evitare di confondere con la sola potenza di calcolo.
A. FERRARA |Il richiamo alla métis di Odisseo – l’intelligenza multiforme del polýtropos – rappresenta la vera linea di demarcazione tra l’elaborazione dell’algoritmo e l’agire umano. La macchina è uno straordinario strumento di metrica e calcolo: elabora petabyte di dati, individua correlazioni matematiche e ottimizza scenari sulla base di regole e patterns storici. Può persino simulare l’inganno, come vediamo nella teoria dei giochi o nei modelli operativi complessi, ma lo fa sempre attraverso il calcolo statistico e combinatorio delle mosse ottimali. La métis, al contrario, è qualcosa di profondamente diverso: cerca di interpretare l’inatteso e l’ambiguo. Non si limita a calcolare la mossa migliore dentro un quadro dato; è la capacità di cogliere l’istante unico (kairós), di interpretare l’imprevisto, di comprendere la debolezza irrazionale dell’avversario e di reinventare le regole del gioco mentre il gioco è in corso. L’astuzia di Odisseo nasce dal dubbio, dall’empatia, dalla comprensione della natura psicologica, culturale ed emotiva dell’altro. È un’intelligenza obliqua e fluida che sa usare la finzione, l’attesa e il paradosso, sotto l’egida di Atena. L’IA può generare un deepfake perfetto, ma non sa perché quella specifica menzogna, in quel preciso momento storico ed emotivo, inciderà sulla mente di un decisore. Se ci affidassimo solo alla logica predittiva dell’algoritmo, la macchina scarterebbe sempre le mosse apparentemente illogiche o a bassissima probabilità. La métis è proprio la capacità di compiere la scelta che la statistica giudicherebbe assurda, spiazzando l’avversario. L’IA sta imparando a simulare la tattica e la dissimulazione, ma non possiede l’astuzia creatrice e, inoltre, anche quando nella sua forma più sofisticata riesca a cogliere l’imprevisto, non saprebbe perché la sorpresa conti né se sia lecita. Nel controspionaggio 6.0, la macchina può offrirci la mappa più dettagliata del mondo, ma solo la métis dell’analista e dell’operatore umano saprà come attraversarlo e volgerlo a proprio favore.
In un racconto del 1954, Fredric Brown immagina una supercalcolatrice che, appena accesa, si proclama Dio. Il suo costruttore tenta di spegnerla, e un fulmine fonde per sempre l’interruttore. La prefazione definisce l’IA un phármakon: rimedio e veleno, a seconda della dose. Fuori di metafora: nei sistemi che entrano oggi nei servizi di intelligence, chi può ancora abbassare la leva? E va pensata prima di accendere la macchina o arriverà sempre troppo tardi?
A. TETI | La possibilità di interrompere il funzionamento di un sistema di intelligenza artificiale deve essere considerata un requisito essenziale della sua progettazione, non una misura correttiva da introdurre quando emergono problemi. La metafora della leva è particolarmente efficace, ma oggi dobbiamo riconoscere che il problema è più complesso di un semplice interruttore. I sistemi di IA possono operare attraverso infrastrutture distribuite, servizi cloud, agenti autonomi e piattaforme interconnesse. In queste architetture, disattivare un singolo componente potrebbe non essere sufficiente a interrompere un processo già avviato. Per questo motivo ritengo necessario introdurre fin dalla progettazione meccanismi di controllo, sospensione, isolamento e arresto verificabili. Non basta prevedere formalmente la possibilità di un intervento umano. Bisogna dimostrare che tale intervento sia tecnicamente efficace, tempestivo e realmente esercitabile anche in condizioni operative critiche. Occorre inoltre definire con precisione chi possiede l’autorità di interrompere il sistema, quali condizioni giustificano l’intervento e quali procedure devono essere attivate quando l’algoritmo produce risultati inattesi. Nel settore dell’Intelligence questo problema assume una rilevanza ancora maggiore, perché l’automazione può coinvolgere processi di sorveglianza, analisi delle minacce, gestione delle fonti e supporto a decisioni strategiche. Un sistema che non può essere verificato, controllato o interrotto in modo affidabile non dovrebbe essere autorizzato a operare autonomamente in funzioni critiche. La questione fondamentale non è quindi stabilire se l’intelligenza artificiale possa diventare più intelligente dell’uomo, ma se l’uomo continuerà a possedere gli strumenti, le competenze e l’autorità necessari per governarla. Il concetto di phármakon descrive efficacemente questa ambivalenza: la stessa tecnologia può rafforzare la sicurezza o generare nuove vulnerabilità, a seconda delle modalità con cui viene progettata e impiegata. La leva per spegnere la macchina deve essere progettata prima di accenderla, ma soprattutto dobbiamo assicurarci che, quando sarà necessario abbassarla, qualcuno abbia ancora la capacità, l’autorità e il coraggio di farlo.
A. FERRARA | Il racconto di Fredric Brown è una straordinaria profezia sulla tentazione dell’uomo di creare un “oracolo assoluto” e poi diventarne schiavo. La metafora del phármakon che ho utilizzato nella prefazione serve a ricordarci proprio questo: l’intelligenza artificiale non è un demone da demonizzare né un dio da venerare, ma una medicina potentissima la cui differenza tra cura e veleno sta interamente nel dosaggio e nella governance. Fuori di metafora, alla domanda su chi possa oggi abbassare la leva nei sistemi di Intelligence, la risposta deve essere chiarissima: l’interruttore deve rimanere saldo nelle mani delle istituzioni democratiche. Ma, perché quella leva funzioni e non venga “fusa dal fulmine” dell’efficienza algoritmica, servono tre condizioni fondamentali. La prima attiene a come la leva sia progettata prima dell’accensione. Se aspettiamo che un sistema di IA sia pienamente integrato nella catena decisionale prima di interrogarci sui suoi limiti, sarà sempre troppo tardi. Il controllo umano, la reversibilità delle analisi e la tracciabilità dei dati devono essere requisiti di architettura nativi, non correttivi inseriti a posteriori, quando la macchina è già in funzione.La seconda suggerisce che, nei settori ad altissimo rischio – dove in gioco ci sono la libertà dei cittadini, le relazioni diplomatiche o la vita delle persone – non debba mai esistere un’automazione d’azione completa. L’algoritmo propone, l’uomo valuta e decide. La leva non è solo un pulsante di spegnimento d’emergenza, ma la costante supervisione critica dell’analista lungo tutto il processo. La terza e ultima condizione è che sia sempre assicurato il controllo democratico e giurisdizionale: la vera “leva” in una democrazia non è un interruttore hardware, ma la forza dello Stato di diritto: la supervisione del Parlamento, il controllo dei comitati di garanzia – come il COPASIR in Italia – e la responsabilità politica del governo. In conclusione, la macchina non si proclamerà Dio se noi non abdicheremo alla nostra responsabilità morale e strategica. Il pericolo non è che la tecnologia diventi troppo intelligente, ma che l’uomo diventi troppo pigro per continuare a pensare e a scegliere.

