VASP: etica nell’uso di armi autonome guidate da AI.

0

Bastano alcune riflessioni e una petizione firmata da illustri scienziati che si occupano di AI (e non solo) per limitare l’uso dei VASP in ambito militare?

Il settore bellico è certamente quello che ha subito il maggiore progresso tecnologico nella storia dell’uomo. È un campo talmente vasto ed affascinante da aver beneficiato dei contributi (talvolta indiretti) dei più grandi scienziati di tutti i tempi.

Negli ultimi decenni abbiamo assistito al perfezionamento di veicoli comunemente chiamati UAV (anagramma inglese di Unmanned Aerial Vehicle), che tradurrò in italiano come VASP (Veicolo Aereo Senza Pilota). La differenza sostanziale con i ”classici” APR (Aereomobile a Pilotaggio Remoto), consiste nel fatto che i VASP non ricevono comandi in tempo reale, ma eseguono operazioni con un ampio margine di autonomia, seguendo algoritmi di AI. Un notevole traguardo tecnologico, di cui essere certamente orgogliosi, ma che tuttavia lascia spazio a non poche preoccupazioni come sottolineato anche dall’Arcivescovo Silvano M. Tomasi (rappresentante permanente della Santa Sede presso le Nazioni Unite e altre organizzazioni internazionali a Ginevra), che si è soffermato sull’implicazione etica dell’utilizzo di sistemi automatizzati in contesto bellico, ricordando che

«Le decisioni su vita e morte sono di una difficoltà unica, una responsabilità pesante per un essere umano e carica di sfide. […] Un sistema automatizzato, pre-programmato a rispondere a determinati input di dati, fondamentalmente dipende dalla programmazione piuttosto che da una capacità innata di distinguere ciò che è giusto da ciò che è sbagliato. Pertanto, qualsiasi tendenza a una maggiore automatizzazione della guerra dovrebbe essere gestita con grande cautela».

Bisogna inoltre fare i conti con la realtà: nonostante i VASP abbiano numerosi vantaggi rispetto all’impego di contingente umano, e sia possibile “addestrarli” semplicemente copincollando un algoritmo di AI, sono e restano delle macchine. Per quanto “intelligenti” possano diventare in futuro, avranno sempre una pecca: la vulnerabilità ai virus informatici. Laddove è oggi estremamente difficile corrompere un militare con molti anni di addestramento e di esperienza sul campo, sarà relativamente più semplice in futuro “infettare” un intero esercito di soli VASP… e magari rispedirli al mittente.

Nonostante queste legittime preoccupazioni, come ricordato dal giornalista italiano esperto di geopolitica e diplomazia Mario Sechi, in un’intervista rilasciata a Francesco Marino di dronemagazine.it,

«i droni saranno sempre di più al centro delle guerre, proseguiranno la salita fino ad un valore di mercato stimato intorno agli 80 miliardi di dollari per i prossimi 10 anni», il che giustifica l’urgenza nell’adozione di «regole internazionali che ne disciplinino l’uso, che mettano dei paletti».

E se fossero i VASP le “famose” armi con cui Einstein non riuscì a prevedere si sarebbe combattuta la terza guerra mondiale?

Le premesse ci sono tutte, come sottolineato dai circa ventimila firmatari dell’Open Letter from AI & Robotics Researchers, in cui si osserva che le moderne “armi autonome” rappresentano la terza rivoluzione nel settore bellico, dopo la polvere da sparo e le armi nucleari; giungendo a profetizzare che in poco tempo potranno diventare i «Kalashnikov di domani», onnipresenti e disponibili in grandi quantità a prezzi irrisori, a disposizione di terroristi, dittatori e criminali spregiudicati.

Tutti coloro i quali credono nell’enorme potenziale pacifico dell’AI, e ne ripudiano l’uso offensivo in campo militare, possono visitare la pagina http://futureoflife.org/AI/open_letter_autonomous_weapons e sottoscrivere la “lettera aperta”, come fatto già da diversi illustri scienziati del nostro tempo.

E - VASP Lista firmatari

Alcuni degli illustri scienziati che hanno sottoscritto la petizione

POST SCRIPTUM

Scrivendo questo articolo, mi è tornata in mente la trama del film “Lei” (titolo originale “Her”, scritto e diretto da Spike Jonze), e ho improvvisamente pensato ad un risvolto positivo dell’impiego dei VASP. Se accettiamo come possibile uno scenario futuro in cui una macchina intelligente possa provare dei sentimenti nei confronti degli umani (e “innamorarsene”), è possibile anche che possa affezionarsi alla vita umana. Un giorno, magari, i VASP impiegati in teatri di battaglia, potrebbero addirittura smettere di cercare “chi” colpire, e iniziare a chiedersene il “perché”, provando sentimenti simili alla compassione e alla misericordia, giungendo a rifiutarsi di continuare una guerra che non gli appartiene.

Lettura consigliata: Teoria del drone. Principi filosofici del diritto di uccidere (Gregoire Chamayou) Ed. Derive e Approdi

Image credits: https://www.flickr.com/photos/goffcustoms; http://futureoflife.org

External links:

http://futureoflife.org

www.dronemagazine.it

www.perseonews.it

Share.

About Author

Leave A Reply