Dai droni alle armi autonome. Lasciare l’Apocalisse alle macchine? (Franco Angeli ed.) a cura di Francesca Farruggia con Prefazione di Giorgio Parisi
Questo è davvero un libro eccellente, che mi auguro venga letto da molti, e specialmente da tutti coloro che possono influenzare i futuri eventi in questa materia: militari, diplomatici, politici, nonché il più vasto pubblico. È una chiara esposizione di una problematica che ha forse una valenza analoga a quella della possibile proliferazione delle moderne armi di distruzione di massa (chimiche, batteriologiche, e specialmente nucleari), nella misura in cui apre a sua volta la realistica possibilità di una evoluzione tecnologica che condurrà alla eliminazione totale dell’umanità dal nostro pianeta in questo, o al più tardi nel prossimo, secolo; se non si troverà presto il modo di impedire questa fine della commedia umana. Si tratta della introduzione delle cosiddette armi autonome, cioè strumenti micidiali – droni, velivoli, navi, sommergibili, macchine di guerra di ogni tipo, portatrici di morte – dotati di intelligenze artificiali che ne determinano l’azione senza alcun controllo umano. [Il problema etico di affidare la decisione di uccidere un essere umano ad una macchina non è del tutto nuovo; già una vecchia mina antiuomo – nascosta nel terreno in un contesto bellico e poi ivi dimenticata – ma essa stessa capace di distinguere se veniva calpestata da una lepre o da un essere umano, e di agire solo nel secondo caso, magari a distanza di anni – era in qualche senso una arma autonoma. Ma ben più autonomo è un drone capace di volare da solo da un luogo all’altro anche in condizioni meteo diverse, perché guidato da un computer a bordo – a sua volta istruito in modo da diventare una intelligenza artificiale – che magari, oltre a guidarne il volo e conoscere la destinazione di arrivo, è in grado durante il volo di reagire alle previsioni meteo connettendosi ad internet; o magari uno intero stormo di droni, capaci di volare in gruppo controllandosi a vicenda e ciascuno portatore di un ordigno micidiale da recapitare su un obiettivo strategico…].
Che armi di questo tipo possano essere realizzate è oramai cosa nota; anzi, in qualche misura, già ne cominciano ad esistere esempi, quanto meno in fase sperimentale; come ben descritto e documentato nella prima parte di questo libro. E la loro diffusione – nel mondo in cui viviamo – sembra difficile da arrestare.
Nella seconda parte del libro si discutono in modo chiaro, competente e dettagliato le motivazioni etiche, nonché le misure giuridiche e politiche, che potrebbero/dovrebbero evitare questa esiziale deriva tecnologica della situazione strategica mondiale; sia quelle già in qualche misura vigenti, sia quelle auspicabili e forse attuabili nel prevedibile futuro.
Osservo però che sembra ancora mancare – nella comunità mondiale di esperti che si occupa con competenza e buona fede di questi problemi nel mondo – comunità di cui fanno parte i 12 autori italiani di questo libro – sembra ancora mancare una forte consapevolezza, che ogni benemerita misura volta a creare tanto norme di diritto internazionale quanto istituzioni politiche sovranazionali aventi il compito di garantirne la efficace implementazione, richiederebbe la indispensabile introduzione di procedure in grado di garantire che tali norme vengano rispettate da tutti gli Stati tecnologicamente avanzati del mondo. Ma questo sarà di fatto impossibile fino a quando nel mondo esisteranno Stati tecnologicamente avanzati governati da despoti i quali dispongono – e in qualche caso essi stessi addirittura provengono – da servizi segreti potentissimi, praticamente incontrollabili dal resto del mondo; che sono inoltre ben noti per aver cercato di assassinare oppositori politici utilizzando armi proibite da trattati internazionali ratificati dai loro stessi Stati; talvolta purtroppo riuscendoci, talvolta fortunatamente senza successo; ed almeno in un clamoroso caso non riuscendo ad evitare che tale tentativo fallito venisse poi documentato in maniera assolutamente certa (perfino con un film-documentario decorato quest’anno dall’Oscar ed oggi visibile in Italia!).
Questo mi sembra un motivo di forte preoccupazione per il futuro dell’umanità.
Il libro è arricchito da una presentazione di 4 chiarissime pagine di cui è autore Giorgio Parisi (GP). Il quale penso abbia scoperto con sconcerto e preoccupazione che perfino una delle imprese scientifico-tecnologiche da lui compiute o guidate – probabilmente una delle meno importanti, ma forse la più divertente fra quelle che gli hanno ben meritato il premio Nobel per la fisica – è ora anche alla base di alcuni sviluppi militari di questo tipo: il possibile uso di sciami di centinaia o migliaia di droni volanti, ciascuno portante un’arma micidiale e ciascuno dotato di una autonoma intelligenza artificiale che consente all’intero sciame di comportarsi collettivamente come un sistema d’arma capace di difendersi e di attaccare in modo intelligente un nemico; magari allo scopo di immolarsi collettivamente, distruggendo tale obiettivo, militare o civile: magari una intera metropoli. Chi legge questo libro apprenderà che presto siffatti sciami potranno esser prodotti con relativa facilità e con spese del tutto modeste rispetto ai bilanci militari di moltissimi Stati.
[Sicché un capo militare potrà in futuro decidere di causare enormi danni al nemico senza dover mettere a rischio alcuna vita umana del proprio esercito (che a tal punto sarà perciò composto solo da esperti tecnologi). E poi forse anche il capo militare, e lo stesso supremo despota, diventerà a sua volta superfluo; e tutto il mondo sarà magari governato da una Superiore Intelligenza Artificiale che a suo tempo imparerà a non aver più alcun bisogno degli esseri umani – se non, magari, per divertirsi ad osservare lo spettacolo offerto dalla commedia umana… O forse questo è già successo nel passato ed è il meccanismo che regola il funzionamento del nostro Universo? Ma no, non perdiamo la testa con ipotesi troppo fantascientifiche, e torniamo al presente come lo vediamo oggi…].
Immagino lo sconcerto di GP nello scoprirsi destinatario involontario di un destino analogo a quello degli scienziati che aprirono la strada alla comprensione delle leggi fisiche che governano la struttura dei nuclei degli atomi e la conseguente possibilità di produrre esplosioni con una resa energetica circa un milione di volte superiore – a parità di peso delle materie prime causa di tali esplosione – del caso in cui queste sono prodotte da esplosivi convenzionali, cioè da reazioni chimiche anziché nucleari. Con la conseguenza – poi rivelatasi inevitabile nel contesto della nostra civilizzazione – di portare alla accumulazione di arsenali di armi nucleari che, ove mai venissero usate tutte in una totale guerra mondiale, potrebbero rendere il nostro pianeta sufficientemente radioattivo da non esser più abitabile da mammiferi…
È dunque possibile/probabile la fine del genere umano sul nostro pianeta? Ebbene – per chi crede alla scienza e solo alla scienza – questo esito è in effetti una previsione considerata alquanto certa dai più competenti esperti di cosmologia, i quali ritengono che l’evidenza sperimentale dimostri che l’Universo è nato nel passato con un Big Bang (quella che in matematica si chiama una singolarità delle equazioni che – per quel che ne sappiamo oggi noi scienziati – descrivono l’evoluzione dell’Universo), e che finirà dopo un tempo finito con un analogo Big Bang (anche se qualcuno ha mostrato che è possibile inventare plausibili teorie cosmologiche compatibili con le correnti nozioni scientifiche in cui questo non accadrebbe: l’Universo potrebbe continuare indefinitamente ad oscillare alternando fasi di espansione – come quella attuale – a fasi di compressione senza mai incappare in alcuna singolarità). Ritengo comunque che, poiché la scala dei tempi cosmologici è enormemente più lunga della presumibile vita dell’umanità, le considerazioni qui accennate abbiano assai scarsa rilevanza rispetto a questioni umane quali l’etica e la politica, che riguardano l’oggi e il domani, non il futuro remotissimo.
Invero – purtroppo – gli sviluppi di cui si tratta dettagliatamente nel libro qui recensito riguardano invece il presente ed un futuro assai prossimo, che si misura addirittura in decine di anni. E non si limitano purtroppo al solo esempio di sviluppo tecnologico che abbiamo qui più dettagliatamente descritto. Anche perché l’esempio di armi autonome che qui abbiamo usato – trascinati dal suo fascino, simile a quello degli sciami di storni che spesso vediamo sul cielo di Roma muoversi come un solo grande uccello – è in realtà solo il più divertente – ma certamente non il più semplice – dei tipi di armi autonome che sono in corso di progettazione e sviluppo nel mondo. Purtroppo molte altre analoghe informazioni si trovano nella prima parte di questo libro di cui ancora raccomando la lettura. Anche se devo in conclusione confessare due verità. La prima è che io sono uno scienziato molto stagionato (un vecchio fisico teorico e matematico), non specificamente competente negli argomenti tecnici – cioè i dettagli di come si utilizzino le tecniche di intelligenza artificiale – nei progetti trattati in questo libro, e ovviamente tanto meno in quegli aspetti giuridici e politici di questa problematica che pure sono ivi diffusamente trattati (anche se ho dedicato qualche anno della mia vita al controllo internazionale delle armi di distruzione di massa nel mondo, servendo dal 1989 al 1997 come Segretario Generale di quella organizzazione internazionale di scienziati che ha ricevuto, insieme a Joseph Rotblat, nel 1995 – cinquantesimo anniversario di Hiroshima e Nagasaki – il Premio Nobel per la Pace). La seconda è che – poiché ho molto lodato questo libro – mi sembra doveroso avvertire chi legge che alcuni dei suoi autori sono amici miei… anche se tutti per loro fortuna molto più giovani di me…
Francesco Calogero è Professore Emerito di Fisica Teorica all’ Università di Roma “La Sapienza”; dove si è laureato ed ha trascorso il resto della sua vita come docente (pur con intervalli in giro per il mondo). Dal 1989 al 1997 è stato Segretario Generale delle Pugwash Conferences on Science and World Affairs, ed in tale veste ha accettato ad Oslo nel 1995 (50esimo anniversario della annichilazione di Hiroshima e Nagasaki), a nome del Pugwash, il Premio Nobel per la Pace assegnato in parti uguali a Joseph Rotblat ed al Pugwash “for their efforts to diminish the part played by nuclear arms in international politics and in the longer run to eliminate such arms.” Nel 2019 ha ricevuto il Premio del Presidente della Repubblica assegnato ogni due anni ad uno scienziato italiano dall’ Accademia dei Lincei.