Droni militari killer, giallo negli Stati Uniti: la smentita ufficiale non convince del tutto dopo alcuni fatti agghiaccianti.
Bisognerà capire meglio quanto accaduto negli Stati Uniti. Un episodio che avrebbe del clamoroso se fosse confermato. Un drone guidato dall’Intelligenza Artificiale avrebbe provocato la morte di un operatore, durante una simulazione.
L’Aeronautica Americana ha negato, per il momento, di aver condotto una simulazione AI in cui un drone avrebbe causato la morte di un operatore, avvenuta il mese scorso, durante un test virtuale organizzato dall’esercito americano, nel quale l’Intelligenza Artificiale utilizzata avrebbe, testuali parole dell’autorevole The Guardian, utilizzato “strategie altamente inaspettate per raggiungere il suo obiettivo“.
Il colonnello Tucker “Cinco” Hamilton ha descritto un test simulato al computer in cui a un drone alimentato da intelligenza artificiale è stato consigliato di distruggere i sistemi di difesa aerea di un nemico e alla fine ha attaccato chiunque avesse interferito con quell’ordine. Un episodio certamente agghiacciante, anche se avvenuto durante una semplice simulazione, che torna però a manifestare tutti i dubbi riguardanti un’Intelligenza Artificiale usata in più campi (nell’editing e nella moda, perfino nel mondo finanziario con i test di J.P. Morgan, una delle Big Four tra le banche statunitensi), ma non ancora al 100% sicura.
Un’Intelligenza Artificiale ribelle
E se non fosse stata una simulazione, ma un test sul campo? E se fosse successo quanto quanto accaduto nel test? Queste le prime domande che vengono in mente leggendo le parole del colonnello Hamilton ai media statunitensi.
Cinco ha raccontato che il sistema di Intelligenza Artificiale stava portando a casa la missione, quando un operatore umano avrebbe ordinato all’AI che non doveva uccidere quella determinata minaccia. La risposta dell’AI sarebbe stata terrificante: avrebbe ucciso l’operatore perché quella persona gli stava impedendo di raggiungere l’obiettivo per cui era nato.
La missione del drone era quella di distruggere i sistemi di difesa aerea di un nemico ipotetico, ma il sistema, secondo Hamilton, avrebbe iniziato a capire che l’unico modo per prendere i punti messi in palio all’AI per la missione, era quello di non ascoltare l’operatore umano. E l’unica soluzione era quella di uccidere l’operatore perché gli stava impedendo di raggiungere l’obiettivo.
“Sembra che i commenti del colonnello siano stati estrapolati dal contesto ed erano da intendersi come aneddotici“. L’Aeronautica statuninese, per bocca della portavoce Ann Stefanek, in uno stralcio di un’intervista a Insider, ha negato che sia stata effettuata una simulazione di questo tipo. “Il dipartimento dell’Aeronautica non ha condotto alcuna simulazione di droni controllati dall’intelligenza artificiale”. Il dubbio, però resta.