L'era digitale pretende un esercito digitale

È stata pubblicato ieri il tanto atteso documento finale della Commissione di Sicurezza Nazionale sull'Intelligenza Artificiale (NSCAI), un organismo costituito due anni fa dal congresso statunitense per fornire indicazioni sull'uso dell'intelligenza artificiale nel mondo militare. L'attesa era accompagnata da grande preoccupazione nei confronti di quella che si delinea come una nuova corsa degli armamenti, alimentata questa volta dall'adozione imprudente dell'intelligenza artificiale in contesti operativi militari.

Senza nulla togliere ai progressi dovuti all'introduzione dell'intelligenza artificiale in numerosi campi, dove svolge un ruolo cruciale nella comprensione e nel trattamento delle enormi moli di dati prodotte dalle tecnologie moderne, è innegabile che proprio queste applicazioni abbiano mostrato al tempo stesso una serie di problematiche tipiche dei primi passi di una rivoluzione tecnologica: sottovalutazione dell'impatto sociale e dei costi, errori grossolani di integrazione, scorciatoie mal pensate e ancora peggio implementate, mancanza di trasparenza.

Di fronte a queste problematiche, che gli stessi esperti non mancano di denunciare da tempo, appare estremamente preoccupante l'approccio del mondo militare, tradizionalmente restio a vincoli morali e al controllo esterno. La National Security Commission on Artificial Intelligence era stata costituita dal Congresso proprio per delineare alcune linee guida nell'affrontare la profonda trasformazione strutturale che viene richiesta dall'adozione dell'AI.

Tra i membri della commissione "indipendente" spiccano i nomi di CEO, ex-CEO e dirigenti delle principali aziende tecnologiche statunitensi (Google, Amazon, Oracle, Microsoft), oltre a rappresentanti del mondo militare (come l'ex-vicesegretario alla Difesa Work), accademici, istituti di ricerca ed esperti vari. "Indipendente" tra virgolette perché tutte le aziende coinvolte nella commissione sono in competizione diretta per i contratti miliardari del Pentagono riguardanti proprio l'ammodernamento delle forze armate statunitensi nel campo delle nuove tecnologie.

Non c'è quindi da stupirsi come la commissione, con una retorica esaltatrice della sfida tecnologica e militare che attende gli Stati Uniti, abbia chiarito innanzitutto gli investimenti necessari, chiedendo 8 miliardi di dollari all'anno da parte del Ministero della Difesa, e risorse federali che raddoppino di anno in anno fino a raggiungere 32 miliardi di dollari l'anno per il 2026.

Il documento (allegato a questo articolo) è stato pubblicato in grande stile sul sito della commissione, e per facilitarne la fruizione (si tratta di quasi 800 pagine) è anche accompagnato da un documento digitale che ne presenta gli aspetti principali, comunque organizzati in 16 capitoli e diverse appendici.

Cerchiamo, con qualche semplificazione, di riassumerne i punti più significativi. 

Non c'è tempo da perdere, la Cina è avanti

Non mancano parole forti, che dovrebbero risuonare come potenti segnali di allarme per i destinatari di questo documento (il congresso e la nuova amministrazione Biden): vulnerabilità, propaganda estera, campagne informative fuorvianti, minacce alla sicurezza nazionale, sottrazione di dati privati, commerciali, e di segreti nazionali. C'è perfino un cenno a nuove armi "biotech". La commissione denuncia in particolare l'arretratezza statunitense nel settore manifatturiero dei microprocessori, che è stato lasciato in mano alla Cina. 

Rischi e responsabilità

È parecchio deludente, anche se prevedibile vista la formazione della commissione, la presa di posizione rispetto ai rischi derivati dall'uso dell'AI in ambito militare. Viene ammesso che debbano esserci delle precauzioni, ma vengono declinate solo nei termini tradizionali di attenzione ai valori della libertà e della democrazia, valori che sappiamo bene come possano essere piegati alle più opportune interpretazioni. C'è invece una spaventosa mancanza di spirito auto-critico, accompagnata da una presunzione di infallibilità, e dalle onnipresenti lodi sulla strabiliante "performance" dei sistemi autonomi. Siccome l'intelligenza artificiale si è dimostrata superiore agli esseri umani nel giocare a Go, ora ha diritto di scegliere quando sparare, da un drone o da una sistema missilistico. Il rischio di abuso da parte dell'AI viene  contemplato solo nel contesto del terrorismo interno.

Quando nel capitolo 4 viene finalmente il momento di affrontare gli aspetti etici, la commissione esprime 4 pareri.

Il primo parere offre una facile forma procedurale per uscire dall'eventuale empasse: l'importante è che l'utilizzo di questi sistemi autonomi sia approvato da un comandante umano. Il prossimo passo sarà il robot che si assegna le medaglie da solo.

Il capolavoro in termini di contraddizione interna avviene nel parere n. 2: dopo aver criticato per tutto il resto del documento l'inadeguatezza dell'attuale apparato militare rispetto alle nuove tecnologie, si afferma che però il Pentagono è perfettamente in grado di valutarne il loro uso e quindi non necessita di particolari restrizioni.

Il nocciolo del problema è confessato nel parere numero 3: siccome non pare esserci nessuna indicazione che i competitori (leggi Russia e Cina) si stiano preoccupando di alcun vincolo etico, perché mai ci si dovrebbe preoccupare di introdurre legacci morali, tanto più che si è rimasti clamorosamente indietro nell'adozione di queste tecnologie?

No alla messa al bando

Il chiodo sulla bara viene messo con un'affermazione tragicamente asciutta, senza nessuna argomentazione, pronunciata nel quarto parere. La commissione è fermamente contraria alla messa al bando globale delle armi autonome. Proprio ciò che viene chiesto con forza da esperti del settore e dalla società civile.

Le uniche raccomandazioni riguardano un generico invito a cercare un dialogo con la Russia e la Cina, accompagnato da un sistema di sorveglianza / spionaggio.

Gli Stati Uniti come leader mondiali

Una frase del documento riassume la linea di pensiero della commissione: l'intelligenza artificiale riorganizzerà il pianeta e gli Stati Uniti devono "guidare la carica". Con tanto di bandierine, tutti gli "alleati" e ovviamente la NATO vengono invitati a partecipare a questa profonda trasformazione, che parta dall'infrastruttura distribuita fino a un'integrazione profonda di tutti i sistemi, sempre più autonomi.

Da leggere tra le righe: ci saranno soldi per tutti quelli che vorranno partecipare.

Il soldato del futuro

Fonte: https://reports.nscai.gov/final-report/chapter-3/

Chiudi

La trasformazione della relazione tra uomo e macchina

Siamo davanti a una trasformazione profonda della "difesa" e del ruolo svolto dai militari.

C'è soprattutto da ri-educare tutti, dai soldati ai generali, rimasti indietro di fronte alla rivoluzione dell'intelligenza artificiale. Una trasformazione culturale del "far-guerra", accompagnata da investimenti enormi in infrastruttura, ricerca e sviluppo.

Un nuovo sistema educativo militare

Non è pensabile affrontare questa trasformazione profonda solo con il miglioramento delle competenze interne. C'è un bisogno disperato di "talento", inteso come nuove leve che il mondo universitario dovrebbe produrre in linea con i bisogni della sicurezza nazionale.

Ecco quindi la proposta di rendere il sistema educativo statunitense, già brutalmente al servizio del capitalismo, ancora più succube dell'agenda nazionalista, finanziando le materie scientifiche collegate alla trasformazione digitale e prevedendo una corsia preferenziale per tutti i programmi di studio che abbiano una ricaduta sul mondo militare. Non escludendo l'apertura a talenti esteri, attentamente selezionati tra i richiedenti un visto d'ingresso.

I brevetti come arma

Secondo la commissione, gli Stati Uniti hanno lasciato un pericoloso vuoto nella competizione internazionale sulla proprietà intellettuale nell'ambito dell'intelligenza artificiale. E la Cina ne ha approfittato, depositando brevetti ovunque, e al tempo stesso rubando segreti industriali statunitensi. 

Non solo AI

Infine, tutta una serie di tecnologie "accessorie" devono essere incluse in questo sforzo di modernizzazione: biotecnologie, quantum computing, 5G, robotica, infrastruttura per risorse energetiche.

Tecnologia e ruolo globale

Per concludere, siamo indubbiamente di fronte a una rivoluzione tecnologica che, come le precedenti (ad es. l'avvento di internet, il cloud, gli smartphone, i social) avrà un impatto profondo sulla società moderna, in particolare quella benestante.

Si rimane però profondamente allarmati dal fatto che invece di affrontarla in termini collaborativi, la si voglia gestire in termini di competizione militare. Senza dubbio una importante differenza è dovuta al fatto che le precedenti trasformazioni tecnologiche globali erano in qualche modo guidate da multinazionali statunitensi che propagandavano valori in linea col modello capitalista in un mondo in costante crescita.

Ora ci si trova in un contesto molto più frammentato e fragile. Non tanto per l'attuale pandemia, che nella narrazione strategica militare di lungo termine potrebbe essere semplicemente un incidente di percorso. Sorge invece il sospetto che il senso di urgenza, l'allarme lanciato in queste 800 pagine debba essere letto nel contesto di una crisi strutturale, energetica, climatica e demografica, accompagnata dall'emergenza di un competitore come la Cina. E che l'intelligenza artificiale rappresenti l'ultima leva possibile per poter ristabilire un'egemonia militare mondiale necessaria a mantenere i privilegi acquisiti.