Robot-soldato vs umanità?

scena dal film Robocop 2014

di Alberto Carrara, L.C.

Dopo aver presentato brevemente nei giorni scorsi i due protagonisti del rapporto promosso dal Pentagono “Visualizzare il campo di battaglia tattico nell’anno 2050”, cioè i robot-soldato e i cosiddetti “uomini-aumentati” o potenziati, e prima di addentrarmi nella presentazione delle 60 pagine di questo rapporto e della recentissima Open letter petitions UN to ban the development on weaponized AI, firmata tra l’altro da Stephen Hawking, Wozniak, Chomsky e centinaia di altri scienziati ed intellettuali e promossa dal Future of Life Institute, oggi riporto l’analisi di Roberto Cingolani, direttore scientifico dell’ITT.

Roberto Cingolani, co-autore con Giorgio Metta del volume Umani e umanoidi (Il Mulino), è direttore scientifico dell’IstitutoItaliano di Tecnologia (ITT). Martedì scorso 28 luglio a pagina 29 del quotidiano La Repubblica, accanto all’articolo di Maurizio Mucci “2050. La guerra dei robot”, Cingolani spiega che il vero progresso sta nell’aumento del rispetto della vita, vita umana, ovviemente! Ecco alcuni passaggi dell’analisi di questo esperto in materia di tecnologia e cyborg.

«Da quando l’uomo esiste combatte, e da quando combatte cerca mezzi per aumentare le sue prestazioni. La mazza, la spada, l’arco, la pistola non sono altro che tecnologie per aumentare le prestazioni del guerriero. Alla base di tutto vi è sempre stato l’uomo, con le sue abilità, i suoi riflessi, la sua fisicità». Così Cingolani introduce il discorso sull’evoluzione tecnologica e l’avvento del cyborg.

«Adesso però si comincia a parlare di qualcosa di più inquietante. Non più un essere umano che usa strumenti per essere più potente basandosi sulla sua abilità, ma un essere umano potenziato geneticamente o interconnesso a una macchina robotica (esoscheletro) che lo modifica. E, passaggio successivo, non più umani che combattono, ma direttamente macchine più veloci, forti e precise di qualsiasi essere vivente». È lo scenario presentato e discusso qualche mese fa nel Maryland dai 29 militari esperti di cyberdifesa o di management, docenti universitari che si occupano di computer, intelligenza artificiale e bioinformatica, tecnici di psicologia bellica e propaganda riuniti dal Pentagono in un hotel, la cui sintesi di idee e prospettive si è plasmata nel rapporto di 60 pagine pubblicato il mese scorso (giugno 2015) ed intitolato: Visualizing the Tactical Ground Battlefield in the Year 2050: Workshop Report, in italiano: “Visualizzare il campo di battaglia tattico nell’anno 2050: rapporto dell’incontro di lavoro”.

p. 29 di Repubblica del 28/07/2015

Cingolani avverte: «Tutto questo non è giustificabile. Se potenziare uno sportivo col doping è inaccettabilmente grave, modificare un essere umano per renderlo un’arma invincibile è mostruoso. Abbiamo già assistito ad aberranti sperimentazioni naziste nel secolo scorso. La lezione dovrebbe bastare».

Sulla linea della recentissima Open letter petitions UN to ban the development on weaponized AI Cingolani afferma: «Per quanto riguarda i robot guerrieri, l’idea è ancor più preoccupante. Ammesso e non concesso che un giorno queste macchine diventino davvero più veloci, precise e performanti dei soldati umani, la vita e la morte di un nemico verranno decise da un algoritmo.

Viene da chiedersi quali saranno i loro nemici? Altri esseri umani? Non credo l’umanità potrebbe sopravvivere a se stessa se dovesse un giorno decidere di sviluppare macchine così sofisticate per uccidere altri umani. Si potrebbe obiettare che queste macchine esistono già: droni, bombe intelligenti, missili di precisione. Ma non è così. Queste armi servono a distruggere qualcosa (edifici, installazioni, aerei, etc..), ma non esplicitamente ad annullare l’esistenza di altri umani. Illudiamoci che possano essere usate limitando al massimo i danni collaterali ad altri esseri umani. Il robot soldato sarebbe un’altra cosa: un’arma letale anti-uomo che combina la violenza adattativa dell’essere umano con la precisione chirurgica della macchina».

Robot-soldati non più a servizio dell’uomo, ma contro l’uomo: è vero progresso? «Tutto questo è difficile da spiegare nell’ambito del concetto di progresso dell’umanità, a meno che la guerra non diventi una partita esclusiva fra robot soldati.

Proviamo a sognare: in futuro nessun umano farà del male a un suo simile. Le controversie si risolveranno con guerre fra robot, una pura gara tecnologica con l’accordo che l’umano diventi intoccabile. Troppo bello per essere vero? Come sempre il vero pericolo di qualsiasi tecnologia sta nel suo utilizzatore e non nella tecnologia in sé. Anche un cuscino usato per soffocare una persona può diventare un'arma letale, perciò non demonizziamo i cuscini, ma educhiamo gli umani alla convivenza. Lasciamo ai robot il loro compito: quello di essere macchine utili all’uomo, e speriamo che il vero progresso non sia nell’aumento delle prestazioni del soldato robot ma nell’aumento del rispetto della vita».

Nei prossimi giorni presenterà la Open letter petitions UN to ban the development on weaponized AI e il Visualizing the Tactical Ground Battlefield in the Year 2050: Workshop Report.