Cronache dall’esilio XLVIII: Killer Robots

Il celebre fisico Stephen Hawaking ci ha messo in guardia che uno sviluppo incontrollato della robotica e dell’intelligenza artificiale possa mettere in pericolo la sopravvivenza dell’umanità. Sembra essere una paranoia fantascientifica, ma non è così. Già oggi “droni killer” possono bombardare ed uccidere esseri umani in maniera “mirata” (sic!). Le principali potenze militari si stanno muovendo in questa direzione (USA, Cina, Russia, Regno Unito, Israele, Sud Corea, fonte F. Russo www.agi.it, 13.11.2017), anzi stanno elaborando sistemi che conferiranno alle macchine una “maggiore autonomia di combattimento”. Ciò vuol dire che potranno essere programmate per uccidere esseri umani indipendentemente dal controllo di un “operatore umano”, che sembra essere cosa diversa da un umano. Ovviamente il timore, antico nei romanzi di fantascienza, è che le macchine ribellarsi al controllo umano, ma vi è un pericolo molto più attuale: i droni killer o i killer robots, ammantati dai soliti nomi inglesi, che celano quasi sempre una fregatura, possano fin da ora esercitare uccisioni sommarie in base ad algoritmi inevitabilmente semplificati. Ci si preoccupa che simili tecnologie elettroniche possano finire in mano ai terroristi islamici: è vero, ma si rischia di confondere il dito con la luna. Alcuni gruppi di scienziati, sotto l’ombrello della campagna Stop Killer Robots, hanno invocato l’intervento della commissione ONU in relazione alla Convenzione sulle Armi Convenzionali, cioè quella che ha cercato di mettere al bando le armi chimiche e batteriologiche con i risultati che sappiamo. Gli stessi scienziati hanno criticato l’ONU di muoversi con “la lentezza di un iceberg”. Mi è tornato in mente un passo di un vecchio libro contro la disumanità della guerra dell’antifascista Emilio Lussu (Un anno sull’altipiano, 1938): l’autore, ufficiale di complemento sul Carso nella grande guerra, inquadra nel suo mirino un giovane ufficiale austriaco e può ucciderlo senza che quello possa vederlo neppure in faccia, alla fine Lussu racconta che proprio per questo non sparò. E’ proprio l’assassinio anonimo che rende drammatica e totalmente disumana qualsiasi situazione di questo tipo.