Intelligenza artificiale, sicurezza e giudizio umano
🇮🇹 A partire dall’intervista di Rosario Bonavita a Gian Luca Foresti, pubblicata su La Voce del Patriota, una riflessione sui limiti epistemologici dell’intelligenza artificiale, sulle vulnerabilità dei sistemi algoritmici e sul ruolo insostituibile del giudizio umano nei processi di Intelligence e sicurezza.
🇬🇧 Drawing on Rosario Bonavita’s interview with Gian Luca Foresti, published in La Voce del Patriota, this article examines the epistemological limits of artificial intelligence, the vulnerabilities of algorithmic systems, and the irreplaceable role of human judgment in intelligence and security decision-making.
Il rischio più sottovalutato dell’intelligenza artificiale non è che diventi troppo simile all’uomo. È che l’uomo cominci a trattarla come se già lo fosse: nelle sale operative, nei sistemi di allerta, nei processi decisionali che non ammettono correzioni a posteriori. È un rischio che cresce in proporzione alla velocità con cui la tecnologia si propaga e in proporzione inversa alla comprensione di ciò che realmente è in grado di fare.
È all’interno di questa cornice che si colloca l’intervista realizzata da Rosario Bonavita a Gian Luca Foresti, pubblicata su La Voce del Patriota: una conversazione che affronta il rapporto tra intelligenza artificiale, sicurezza e processi decisionali senza cedere né all’entusiasmo tecnocratico né agli allarmismi diffusi.
Uno spazio di equilibrio in cui Foresti – ordinario di Informatica all’Università di Udine, direttore del Master in Intelligence and Emerging Technologies e membro del direttivo SOCINT – si sofferma a riflettere. La sua postura è quella dello specialista che non teme la semplificazione purché sia onesta: i sistemi di intelligenza artificiale, compresi i grandi modelli linguistici, non comprendono il mondo nel senso in cui lo comprendono gli esseri umani. Riconoscono schemi, individuano correlazioni e producono inferenze sulla base delle regolarità apprese dai dati. La loro capacità di generare risposte convincenti non coincide con una comprensione causale della realtà. La distinzione è la premessa epistemica da cui dovrebbe partire qualsiasi valutazione operativa e che, troppo spesso, manca nei dibattiti istituzionali sull’adozione di questi strumenti.
Il divario tra intelligenza artificiale e intelligenza umana, argomenta Foresti, non si misura sulla potenza di calcolo né sulla capacità di memoria, domini in cui le macchine hanno ampiamente superato l’uomo. Si misura sul piano della comprensione del mondo, del ragionamento causale, dell’apprendimento efficiente. Un essere umano generalizza da pochi esempi perché non parte da zero: porta con sé milioni di anni di evoluzione, un modello del mondo costruito attraverso l’esperienza fisica, quello che comunemente chiamiamo buon senso. I grandi modelli di IA operano senza quell’esperienza incarnata e compensano l’assenza attraverso l’analisi di quantità immense di dati che nessuna mente umana potrebbe processare. Possono descrivere il mondo con straordinaria efficacia, ma non sperimentarlo.
Questa distinzione diventa prioritaria nel momento in cui si valuta l’affidabilità di un sistema automatizzato in contesti critici. I modelli di Deep Learning, che offrono prestazioni superiori su dati non strutturati – come immagini, audio, testo e traffico di rete – raggiungono le loro conclusioni attraverso miliardi di parametri in un percorso che nessuno è in grado di ricostruire. Il sistema produce una risposta, non un perché verificabile. In contesti dove l’errore ha costi operativi, giuridici o strategici, questa opacità è, a tutti gli effetti, vulnerabilità. La regola aurea che Foresti enuncia – mai oracolo, sempre strumento di supporto – valica il perimetro ingegneristico in cui viene formulata. È un principio di igiene mentale/decisionale che attraversa ogni contesto in cui l’automazione incontra scelta e tempi strategici.
Ancora più densa di implicazioni è la trattazione dei rischi legati alla manipolazione dei dati di addestramento. Data poisoning, backdoor, adversarial attacks: tre modalità distinte di compromissione di un sistema supervisionato, accomunate da una logica elementare e per questo doppiamente insidiosa perché chi controlla i dati controlla il modello. La backdoor è forse la più subdola: il sistema è addestrato a comportarsi normalmente, in ogni condizione, ma a reagire in modo prestabilito di fronte a un trigger segreto noto solo all’attaccante. Supera i test. Sembra perfetto. Contiene una fragilità azionabile a richiesta. In ambienti in cui la produzione e la circolazione dei dataset avviene sempre più in spazi velati, a cavallo tra attori pubblici/privati e tra giurisdizioni difficilmente tracciabili, lo scenario rappresentato non è ipotetico: è, a tutti gli effetti, una superficie d’attacco attenzionata da avversari motivati. La sicurezza di un sistema di analisi automatizzata si misura, pertanto, non sull’output ma a monte, nell’integrità e nella verificabilità dei dati su cui è stato costruito.
La riflessione sui deepfake e sulla cosiddetta diminished reality è la controparte più fallace della realtà aumentata: non aggiunge artefatti ma cancella l’esistente lasciando una versione credibile. E’ la differenza tra una bugia confessata e una verità nascosta. La seconda è assai più difficile da rilevare, perché non si sa neppure cosa cercare. La risposta strutturale che Foresti indica – autenticare la fonte piuttosto che smascherare il falso, costruire catene di custodia crittograficamente verificabili – è coerente con quanto emerso nella riflessione degli ultimi anni sulla resilienza informativa. Ma chiama in causa un’architettura istituzionale dell’informazione che ancora non esiste nella sua forma compiuta: chi certifica, con quale autorità, secondo quali standard, con quale grado di interoperabilità tra sistemi e giurisdizioni diverse.
È proprio da questa soglia che il ragionamento di Foresti apre verso orizzonti più ampi.
La manipolazione dei dati, la produzione di contenuti sintetici e la compromissione dei sistemi di rilevamento automatico non sono minacce astratte: sono strumenti integrati nelle operazioni di influenza e nelle strategie di competizione cognitiva adottate da attori statali e non statali. Il campo informativo è divenuto una dimensione operativa a tutti gli effetti e la qualità delle percezioni collettive rappresenta, sempre più, una variabile strategica. Rimane aperta una questione che il contributo di Foresti lascia implicita ma che la logica del suo ragionamento suggerisce con forza: il nodo non è solo la macchina, ma l’analista che la utilizza.
Dante, nel tredicesimo canto del Paradiso, fa pronunciare a Tommaso d’Aquino parole di avvertimento di sorprendente attualità: perch’elli ‘ncontra che più volte piega | l’oppinion corrente in falsa parte, |e poi l’affetto l’intelletto lega. Un’opinione orientata è piegata verso il falso dalla sequenza cognitiva manomessa : prima si forza il giudizio, poi l’affetto addormenta l’intelletto, lo lascia apparentemente funzionante ma incapace di revisione. È ciò che oggi chiamiamo automation bias: la tendenza dell’analista a fidarsi dell’output automatizzato perché il processo di adesione alla conclusione inizia ben prima della sua verifica critica. I metodi analitici strutturati nascono per interrompere questo procedimento. Preservare la capacità di mettere in discussione il risultato prodotto dalla macchina è la condizione necessaria e indispensabile per renderla sicura. C’è però un ulteriore grado di distanza che il conflitto ha reso strutturale.
Il drone, il missile a guida autonoma, l’operatore davanti a uno schermo a migliaia di chilometri introducono distanza fisica dal bersaglio e mediazione tecnologica, elementi che – nella vita reale come in quella digitale – affievoliscono la consapevolezza. Contesti diversi, analoga temperatura: né calda né fredda. Quel “tiepido dantesco”, che non odia, non ama, non sceglie. Interagisce.
Karl Jaspers (1883-1969) distingueva tra responsabilità criminale, politica, morale e metafisica. La crescente automazione dei processi bellici non elimina queste dimensioni, ma tende a renderle meno visibili, diluendole lungo catene decisionali sempre più frammentate e opache.
Anche per questo la questione non riguarda soltanto l’affidabilità delle macchine, ma la qualità del giudizio umano che interviene nel manovrarle. Quanto più sofisticati diventano gli strumenti, tanto più necessario diventa preservare la capacità critica di chi li utilizza.
Il contributo di Foresti, raccolto e valorizzato nell’intervista di Bonavita, offre alla riflessione un lessico e una postura che meritano di essere assunti: la prudenza verso l’antropomorfizzazione delle macchine, la consapevolezza dei vettori di manipolazione, la centralità irriducibile del giudizio umano nella catena decisionale.
Sono questi i punti di controllo su cui costruire la mappa che ci aiuterà a capire come funziona l’intelligenza artificiale, come viene usata, da chi, con quali intenzioni e con quali conseguenze per gli equilibri della sicurezza nazionale e globale. Perché nell’era degli algoritmi il problema non è – o non è solo – distinguere il vero dal falso. E’ decidere di chi/cosa possiamo ancora fidarci.
About Author
