L’allarme di 57 scienziati: “Corea del Sud sta progettando robot assassini”

Una sentinella autonoma congela un “intruso” durante una prova del 2006 del sistema di armi da parte dell’esercito sudcoreano. KIM DONG-JOO / AFP / GETTY IMAGES

Cinquantasette scienziati provenienti da 29 paesi hanno chiesto il boicottaggio di una delle migliori università della Corea del Sud a causa di un nuovo centro volto a utilizzare l’intelligenza artificiale (AI) per rafforzare la sicurezza nazionale. Gli scienziati dell’IA affermano che l’università sta sviluppando armi autonome o “robot assassini“, mentre i funzionari universitari affermano che l’obiettivo della ricerca è migliorare i sistemi di difesa esistenti. Il 20 febbraio 2018, l’Istituto coreano avanzato di scienza e tecnologia (KAIST) a Daejeon, in Corea del Sud, ha celebrato il suo nuovo centro di ricerca per la convergenza della difesa nazionale e l’intelligenza artificiale. Una pagina web che è stata rimossa dall’università ha detto che il centro, gestito congiuntamente con la società di difesa sud-coreana Hanwha Systems, avrebbe lavorato su “sistemi di comando e decisione basati su AI, algoritmi di navigazione compositi per veicoli sottomarini senza equipaggio su scala magica, sistemi di addestramento di velivoli intelligenti basati su AI e tecnologia di localizzazione e riconoscimento di oggetti intelligenti basata su AI”. In passato si era parlato di posizionare robot a controllo remoto al confine con la Corea del Nord.

- Prosegue dopo la pubblicità -

Toby Walsh, scienziato informatico presso l’Università del New South Wales a Sydney, in Australia, che ha organizzato il boicottaggio, teme che la ricerca possa essere applicata alle armi autonome, che possono includere droni o sottomarini senza pilota, missili da crociera, cannoni sentinella azionati autonomamente o robot sul campo di battaglia“È spiacevole che un’istituzione prestigiosa come KAIST cerchi di accelerare la corsa agli armamenti per sviluppare tali armi”, una lettera aperta da parte degli stati boicottisti. “Dichiariamo quindi pubblicamente che boicotteremo tutte le collaborazioni con qualsiasi parte di KAIST fino a quando il Presidente di KAIST non fornirà assicurazioni, che abbiamo cercato ma non ricevute, che il Centro non svilupperà armi autonome prive di un significativo controllo umano”. Già nel 2015 un documentario lasciò intendere il percorso futuro dell’esercito sudcoreano verso questa direzione:

- Prosegue dopo la pubblicità -

- Prosegue dopo la pubblicità -

In risposta a una richiesta di  Science Insider, il presidente di KAIST Sung-Chul Shin ha preparato una dichiarazione che escludeva tali attività. “Sono rattristato dall’annuncio del boicottaggio di KAIST per i presunti robot killer in via di sviluppo. Vorrei ribadire che KAIST non ha alcuna intenzione di impegnarsi nello sviluppo di sistemi letali di armi autonome e di robot killer. KAIST è significativamente consapevole delle preoccupazioni etiche nell’applicazione di tutte le tecnologie inclusa l’intelligenza artificiale. ” La lettera di boicottaggio non definisce un “controllo umano significativo“, ma la frase viene spesso interpretata come se ponesse il grilletto nella mano di una persona. La prossima settimana a Ginevra, in Svizzera, il Gruppo di esperti governativi delle Nazioni Unite sui sistemi letali di armi autonome esplorerà gli elementi di “controllo umano significativo” come parte di una discussione in corso sulle tecnologie emergenti. Walsh ha detto di essere rincuorato dalla dichiarazione di Shin. “È bello vedere un impegno pubblico da parte di KAIST per la prima volta al” controllo umano significativo “. Ciò aggiungerà peso alle discussioni dell’ONU “.

Boicottare un’intera università a causa della ricerca che potrebbe svolgersi in un laboratorio sembra “un po ‘estremo per me”, dice Ronald Arkin, scienziato informatico al Georgia Institute of Technology di Atlanta. “Per favore, dimmi in particolare quali tipi di sistemi queste persone stanno pianificando per una ricerca che giustifichi un boicottaggio”, dice Arkin, che osserva di non essere contrario a un bando, ma ritiene che questo sia prematuro. “Questa è una domanda giusta, no?” Tutto questo fa ricordare anche a progetti come Method-2, un “megabot” comandato da un uomo all’interno di una cabina. In quel caso non si parlava di un vero e proprio robot ma piuttosto di un esoscheletro animatronics in grado di emulare i movimenti dell’uomo che lo pilota dall’interno un po’ come visto nel film Aliens. Tutto questo lascia presupporre che in Corea del Sud le parole seguono ai fatti. E il tutto è tremendamente inquietante. Il video del megabot Method-2:

- Prosegue dopo la pubblicità -