Il nuovo AD di Amazon collabora col Pentagono allo sviluppo di “droni assassini”

Il primo luglio verrà eletto il nuovo amministratore delegato di Amazon, al posto di Jeff Bezos, Andy Jassy, l'uomo che ha contribuito a costruire da zero l'offerta cloud business dell'azienda, rafforzando i suoi server come pietra angolare di Internet.

Jassy, però, non lavora soltanto per Amazon; il nuovo amministratore delegato, infatti, fa anche parte della Commissione per la Sicurezza Nazionale sull'Intelligenza Artificiale (NSCAI), creata nel 2018 dal Congresso per dispensare consigli su come utilizzare al meglio l'intelligenza artificiale in caso di guerra e di difesa.

La Commissione sta terminando la sua relazione finale, che sarà presentata al Congresso dai 15 commissari come raccomandazione ufficiale. Alla guida della NSCAI si trova l'ex amministratore delegato dell'Alphabet, Eric Schmidt e tra gli altri commissari, dirigenti della Microsft, del Jet Propulsion Lab della NASA, di Google, di Oracle e di In-Q-Tel, un fondo di investimento in nuove imprese militari.

Più recentemente, la Commissione ha fatto notizia quando, nella bozza della sua relazione finale, si consigliava al Pentagono di continuare a sviluppare e a utilizzare i robot assassini a guida autonoma. Il progetto, che sarà soggetto a modifiche fino a quando non verrà presentato al Congresso, dichiara che gli USA hanno dimostrato che si possono utilizzare “droni assassini” conformemente alle leggi internazionali sui diritti umani e che altri paesi non esiteranno a costruire questo tipo di armi. Organizzazioni come l'Osservatorio dei diritti umani, invece, si oppongono con forza alle armi a guida autonoma. Pensino i dipendenti di Google hanno indetto uno sciopero generale contro il progetto, che farebbe partecipare l'azienda alle operazioni di attacco e di sorveglianza dei droni.

Se la Commissione ha respinto l'idea di vietare i “droni assassini”, è stata comunque d'accordo sul fatto che la capacità di lanciare armi nucleari dovrebbe essere concessa solo agli esseri umani.

La relazione della Commissione si focalizza anche sulle tecnologie di analisi e di sorveglianza usando l'intelligenza artificiale che vengono sviluppate proprio dall'Amazon Web Services diretto da Jassy.

“In scenari militari, per esempio, contro avversari tecnologicamente avanzati, stati canaglia o organizzazioni terroristiche, le piattaforme di intelligence, di sorveglianza e di riconoscimento dotate di intelligenza artificiale, nonché i sistemi di segnalazione e allarme anch'essi dotati di intelligenza artificiale saranno fondamentali per il tipo di capacità avanzate di combattimento di cui si parla in questa relazione”, si legge.

I commissari insistono affinché ci siano più sistemi dotati di intellegenza artificiale e meno giudizio umano nelle operazioni militari.

“I responsabili dell'intelligence dovrebbero dare la priorità all'automazione di ogni fase del ciclo di intelligence nella massima misura possibile e al trattamento di tutti i dati e di tutte le informazioni disponibili attraverso sistemi analitici dotati di intelligenza artificiale prima ancora dell'intervento di revisione da parte di un analista umano”, si legge nella relazione.

Ciò significa incoraggiare l'intelligence e le organizzazioni militari a fondere i loro dati in insiemi ancora più grandi così da sfruttare al meglio l'analisi delle informazioni disponibili al pubblico. La relazione costituisce perciò un forte invito all'espansione e alla sorveglianza digitale e fisica da parte del Pentagono in tutto il mondo.

Sebbene la relazione finale della Commissione non descriva l'opinione dei singoli membri, l'allineamento di Jassy con l'uso della tecnologia di sorveglianza da parte del governo e delle forze dell'ordine fa capire quanto il nuovo amministratore delegato di Amazon voglia promuovere il dispiego dell'intelligenza artificiale nel settore militare, nel governo federale e nel settore di consumo.

Peraltro, Amazon continua a essere coinvolta nella battaglia legale per il contratto JEDI da 10 miliardi di dollari (8,3 miliardi di euro) per la costruzione dell'infrastruttura cloud del Pentagono. Sebbene Microsoft, nel 2020, si aggiudicò l'appalto, Amazon ha fatto ricorso e il progetto potrebbe essere annullato del tutto, permettendogli di competere per qualsiasi altro progetto sostitutivo.

Amazon è nota anche per la sua tecnologia sofisticata di sorveglianza dei propri lavoratori. Secondo un articolo dello scorso anno dell'Open Markets Institute, oltre alle classiche videocamere di sorveglianza, l'azienda utilizza videocamere termiche, braccialetti elettronici e software di navigazione per tracciare ogni singolo movimento dei dipendenti.

Questa settimana è stato rivelato che Amazon sta anche progettando di montare videocamere dotate di intelligenza artificiale su tutti i suoi furgoncini per sorvegliare i conducenti e per dare accesso alle forze dell'ordine a una rete ancora più grande di videocamere in tutto il paese. Il CNBC ha rivelato che il sistema di intelligenza artificiale richiederà ai conducenti di accostarsi per 15 minuti quando viene rilevato un loro sbadiglio.

Anche le implicazioni per la sorveglianza che derivano dalla creazione e dalla vendita dei prodotti Amazon di largo consumo hanno sollevato preoccupazioni.

Per esempio il prodotto Amazon Ring ha dato vita a una collaborazione con centinaia di forze dell'ordine, le quali sono ora in grado di richiedere facilmente ai comuni cittadini i video creati dalle telecamere Ring poste agli ingressi delle loro case. Il prodotto, ormai diffusissimo, dà alle forze dell'ordine una capacità senza precedenti, quella di sorvegliare interi quartieri.

Amazon ha messo una moratoria di un anno sulla vendita, sul proprio sito, di sistemi di riconoscimento facciale alle forze dell'ordine. La moratoria scadrà nell'ottobre 2021, ma Jassy non ha comunque escluso la possibilità di vendere i sistemi di riconoscimento facciale direttamente alla polizia, sostenendo che non ci sono ancora state prove sufficienti per sconsigliare la vendita.

“Vediamo se in qualche modo abusano della tecnologia, ma finora non l'hanno fatto”, ha dichiarato Jassy in un documentario della PBS Frontline del 2020. “Presumere che lo faranno e quindi non permettere loro di avere accesso alla tecnologia più sofisticata non mi sembra il giusto equilibrio”.

Jassy continuerà a essere membro della NSCAI fino a quando non presenterà la sua relazione finale al Congresso; inoltre, a pochi mesi dal suo mandato, la moratoria di un anno sta per scadere. Ma considerati i suoi trascorsi, nel futuro di Amazon sembra poter intravedere più sorveglianza, più sistemi di intelligenza artificiale e meno trasparenza.