Gli esperti militari chiamano armi autonome o sistemi di armi autonome (AWS) tipi di armi che fanno tutto da soli: trovano un bersaglio e completano un compito senza l'intervento umano. Uno dei più famosi, finora solo nei film di fantascienza e nei libri AWS, sono i cosiddetti "robot killer".
Elon Musk e più di un centinaio di altri esperti di robotica scrivono della minaccia mortale dei robot killer in una lettera di avvertimento aperta alle Nazioni Unite. Musk, Mustafa Suleiman, il creatore della società di intelligenza artificiale DeepMind Technologies, che ora è di proprietà di Google, e 114 esperti di 26 paesi avvertono le Nazioni Unite che la corsa agli armamenti in AWS potrebbe aprire un vaso di Pandora, che può causare imprevedibili e molto grande danno per l'umanità. Chiedono il divieto dello sviluppo e dell'implementazione di sistemi d'arma autonomi.
Tutti i firmatari sono esperti in materia perché lavorano nel campo dell'intelligenza artificiale (AI). Sono fiduciosi che l'introduzione di robot killer negli armamenti degli eserciti dei paesi sviluppati avrà lo stesso significato per gli affari militari dell'invenzione della polvere da sparo e delle armi nucleari, che chiamano la prima e la seconda rivoluzione negli affari militari. AWS, credono, sarà la terza rivoluzione.
"Una volta portati a un livello elevato, i sistemi di armi autonomi porteranno i conflitti militari a un livello di grandezza che l'umanità non ha mai visto prima", afferma la lettera collettiva. - Inoltre, accadrà con grande velocità. L'AWS può diventare un'arma del terrore, un'arma che despoti e terroristi useranno contro i civili…”
Gli autori della lettera mettono in guardia su un'arma ancora ipotetica che può distruggere le persone senza l'intervento umano. È vicino il giorno in cui diventerà una dura realtà dalla categoria della finzione e ci costringerà a cercare risposte a molte domande difficili, che vanno dalla gestione sicura di tali sistemi ai problemi morali ed etici causati dalla crudeltà e dall'imprevedibilità "di ferro" di macchine mortali.
Musk, con i sostenitori che condividono la sua posizione sui pericoli dell'AWS per l'umanità, sottolinea che non c'è tempo per la riflessione e la discussione e che è necessario agire immediatamente. "Abbiamo pochissimo tempo", scrivono all'Onu, "una volta che il vaso di Pandora sarà aperto, sarà molto difficile chiuderlo".
Il momento per scrivere una lettera aperta non è stato scelto a caso. Gli esperti hanno voluto coincidere con l'inizio della Conferenza internazionale sull'intelligenza artificiale (IJCAI) a Melbourne. Doveva aprire lunedì 21 agosto, ma l'Onu ha deciso di rimandarlo a novembre.
Alla fine di una lettera aperta, Elon Musk e i suoi colleghi chiedono alle Nazioni Unite di raddoppiare gli sforzi per creare una strategia entro novembre per proteggere il pianeta dai robot killer.
In precedenza, lo stesso Musk aveva avvertito dei pericoli del lavoro sull'intelligenza artificiale in quanto tale, poiché i sistemi basati su di essa possono sfuggire al controllo umano. Allo stesso tempo, le auto con motori elettrici Tesla stanno già guidando sulle strade degli Stati Uniti in modalità non presidiata, che non è priva di incidenti.
