Cybersecurity: nel 2050 i robot ci difenderanno?

scena del film Automata (2015)

di Alberto Carrara, L.C.

Se le prospettive trans e post-umanistiche (o presunte tali) che ho descritto negli anni passati in diversi post in questa pagina e in numerose lezioni e conferenze a qualcuno potevano sembrare elucubrazioni fantascientifiche, basterà sfogliare il quotidiano La Repubblica di oggi e leggersi le pagine 28 e 29. Si parla di qualcosa che in lingua inglese suona abbastanza bene: “Cybersecurity”, in italiano sarebbe “cyborg-sicurezza”. Ma qualcuno la chiama anche “cyberguerra” o Cyborg-war. Di cosa si tratta?

Beh, immaginiamoci la scena che potrebbe benissimo essere l’inizio di un film come Automata (2014), Humandroid-Chappie (2015) o Ex Machina (2015): 29 persone, militari esperti di cyberdifesa o di management, docenti universitari che si occupano di computer, intelligenza artificiale e bioinformatica, tecnici di psicologia bellica e propaganda si ritrovano in una sala di un hotel, diciamo del Maryland, su invito del Pentagono... Ognuno di loro presenta le proprie idee sulla cybersecurity...

Quest’incontro è realmente accaduto: lo scorso marzo 2015!

I 29 personaggi sono esseri umani in carne ed ossa, tra cui spiccano: Alexander Kott (Computational and Information Sciences Directorate, ARL), David Alberts (Institute for Defense Analyses Amy Zalman, World Future Society), Paulo Shakarian (Arizona State University), Fernando Maymi (Army Cyber Institute), Cliff Wang (Army Research Office) e Gang Qu (University of Maryland).

Proprio loro sono i curatori del rapporto di 60 pagine pubblicato il mese scorso (giugno 2015) ed intitolato: Visualizing the Tactical Ground Battlefield in the Year 2050: Workshop Report, in italiano suona come: “Visualizzare il campo di battaglia tattico nell’anno 2050: rapporto dell’incontro di lavoro”.

p. 28 di Repubblica del 28/07/2015

Quest’oggi Maurizio Ricci su Repubblica ne fa una breve introduzione e descrizione. Ne ripropongo la prima parte del testo con qualche commento (le frasi in grossetto le ho sottolineate io). Il titolo dell’articolo è emblematico: «2050. La Guerra dei robot. Tra 35 anni il campo di battaglia sarà popolato da automi che non solo combatteranno, ma guideranno le offensive, e da “umani aumentati”. È lo scenario previsto dal Pentagono. Che però sorvola sul rischio hacker».

Potremmo descrivere la cybersecurity in questo modo: «Siete pronti per la guerra dei robot? Nel 2050 il campo di battaglia sarà popolato da automi che non solo combatteranno, ma guideranno le offensive, e da “umani aumentati”... La sfida sarà la cyberguerra per sabotare l’armata nemica. Il ritmo dei conflitti accelererà al di là delle nostre capacità. L’uomo si limiterà a osservare».

Ricci introduce la tematica relativa al cyborg, cioè all’evoluzione della robotica e delle neuroscienze, prendendo spunto dalla cinematografia che, in effetti, non è che il riflesso di verità e dettagli della realtà scientifica del momento. «La fantasia ha i suoi limiti. Al cinema, abbiamo già visto tutto: superuomini, megarobot, sciami di droni, eserciti di automi che si contendono il pianeta. Certo, nessun regista – finora – ha avuto tanto cattivo gusto (o i soldi per effetti speciali) da mettere insieme proprio tutto: Transformers, Terminator, Captain America, X-Men, La guerra dei robot (italiano, 1978) e i droni impegnati in una sorta di nuoto sincronizzato al ritmo della colonna sonora dei film di James Bond». Si potrebbero, come ho fatto all’inizio, citare le ultimissime versioni: Automata (2014), Humandroid-Chappie (2015) o Ex Machina (2015), per non parlare di Transcencence (2014).

E veniamo alla data: quella del 2050. «Infatti, “2050: la guerra dei robot” non è un film. È qualcosa di molto più inquietante. Immaginate un giorno dello scorso marzo e 29 persone che si ritrovano in una sala di un hotel del Maryland, su invito del Pentagono. Sono militari esperti di cyberdifesa o di management, docenti universitari che si occupano di computer, intelligenza artificiale e bioinformatica, tecnici di psicologia bellica e propaganda. Ognuno con la sua presentazione PowerPoint e un mucchio di idee. Ne discutono a lungo, per due giorni. Il risultato è un rapporto: “Visualizzare il campo di battaglia tattico nell’anno 2050”. È un workshop, sono idee in libertà, il Pentagono si guarda bene dallo sposarne ufficialmente anche solo una. Ma quando, nel palazzo che ospita il vertice militare della unica superpotenza mondiale circola un rapporto che discute seriamente di umani con superpoteri, non è il momento di andare al cinema».

Copertina del rapporto pubblicato a giugno

Il rapporto “Visualizzare il campo di battaglia tattico nell’anno 2050” sostanzialmente idividua due grandi protagonisti della cybersecurity o cyberguerra. Il primo è il robot.

Come sarà lo scenario bellico tra 35 anni? «Il campo di battaglia del 2050 avrà assai poco a che vedere con quelli che conosciamo in questi giorni, sui campi di grano dell’Ucraina o sulle piane aride della Siria o dell’Iraq. In buona sostanza, non è più un posto per noi: i soldati normali saranno pochi e mal sopportati. E capiranno poco o nulla di quello che avviene. Il terreno, infatti, sarà lastricato di sensori di ogni genere e tipo, che convoglieranno montagne inimmaginabili di informazioni, che andranno processate e tradotte in azione a una velocità vertiginosa. Il ritmo della battaglia sarà il primo elemento che contraddistingue la guerra di domani da quella di oggi: attacchi, contrattacchi, diversioni, avanzate, svolte strategiche si succederanno in un baleno, ogni mossa giustificata da un megaflusso di informazioni e, successivamente, attuata con un altro torrente di informazioni, impossibili da gestire per un soldato o un ufficiale di oggi. È, infatti, la guerra dei robot, tutto il ventaglio degli automi: dallo sciame di robot piccoli come insetti, capaci di muoversi come un’unica entità o in perfetto coordinamento ai grandi trasporti; dal robot pallottola a quello destinato a fare da scudo alla popolazione civile; dai nanorobot che si collocano sopra o dentro un obiettivo – un altro robot o un comandante avversario – per spiarne stato e reazioni a quelli che devono proiettare un campo di forza che respinga i colpi del nemico».

il robot Chappie manifesta (nel film)
auto-consapevolezza di sé

Ma c’è di più: la prospettiva di una vera e propria “umanizzazione” dei robot in grado di acquisire una sorta di coscienza che gli permetterebbe di prendere decisioni e di eseguire scelte ponderate. «Decine di film di fantascienza ci avevano già anticipato questi robot soldato. Quello che, per lo più, non ci avevano annunciato sono i robot-comandante. Toccherà, infatti, a quelli che il rapporto chiama “agenti autonomi” «filtrare le informazioni, verificarle, decidere chi deve sapere cosa, distribuire gli ordini specifici alle singole unità, stabilire cosa devono cercare i sensori e modificare di conseguenza i piani di battaglia». È un passaggio cruciale che contraddice la dottrina ufficiale del Pentagono, ma che i partecipanti al workshop ritengono inevitabile. La guerra del 2050 non è soltanto la guerra che fanno i robot. È, soprattutto, la guerra che decidono i robot. Oggi, un drone non vola se non c’è un pilota umano – a terra – a guidarlo. Domani, avverte il rapporto, non ci sarà tempo e modo per farlo. E, tanto meno, per decidere le operazioni. Il ritmo della battaglia accelererà al di là delle possibilità umane. Nel gergo del rapporto, non abbiamo «sufficienti capacità di processare le informazioni e una banda cognitiva abbastanza larga». L’uomo si limiterà ad assistere. In altre parole, non sarà necessario un esplicito via libera umano per attuare una decisione. «Gli umani potranno solo osservare i comportamenti che si sviluppano (e, in alcuni casi, le decisioni che sono state prese e le ragioni che le hanno determinate), ma potranno intervenire solo dopo il fatto o in anticipazione di comportamenti previsti», in sostanza per bloccare uno sviluppo che ci si aspetta. Per dirla tutta, la battaglia ce la racconteranno il giorno dopo i robot». 

(continua)...