I computer sotto la lente di Darwin

Le tappe fondamentali dell'evoluzione naturale applicata all'intelligenza artificiale: la costante è una sola, lo scetticismo.

Nessuno ha mai messo in dubbio che a Ok computer spetterà un posto di assoluto riguardo nella storia del rock. Fin dalla sua uscita nel 1997 è stata chiara una cosa: i Radiohead - questi cinque ragazzi di Oxford, colti, intelligenti, sofisticati, dimessi, viziati e piagnucolosi come nessun altra band ha mai osato essere prima di loro - hanno creato qualcosa che solo accidentalmente può definirsi musica pop. La loro è una rappresentazione tragica, complessa, asfissiante e purtroppo affatto credibile degli stati di alienazione e del disagio nella civiltà del capitalismo avanzato, al volgere del nuovo millennio. La questione è semmai un'altra, ovvero un interrogativo che continua a riaffiorare con l'inevitabilità di un ritornello ogni qualvolta si torna a parlare dell'album: perché proprio quel titolo? Cosa ci vogliono dire i Radiohead con Ok Computer? Che il computer è ok, un fatto positivo? Oppure che a un'umanità ormai consapevole di dover capitolare allo strapotere informatico non resta che alzare le mani e pronunciare la sua dichiarazione di resa: «Ok, computer. Che sia come vuoi tu»? A molti non sarà parso privo di significato che proprio nel 1997 Deep Blue, il supercomputer della Ibm, abbia sconfitto a scacchi il campione del mondo Garry Kasparov. Interpellare gli interessati ovviamente è servito a poco. Tra le tante delucidazioni elusive fornite nel tempo dai componenti della band ce n'è una di Thom Yorke che farebbe perdere la pazienza a un maestro zen: «Ok Computer non tratta davvero di computer». Ma è la verità.

I temi realmente affrontati nelle canzoni sono altri e riguardano la crisi d'identità, la paura, la politica, la mancanza di senso che subentra quando l'informazione diventa un valore assoluto, la difficoltà di esistere in qualità di individuo in una società dove tutto è convertito in enormi ammassi di numeri e convogliato in un sistema per la gestione dei dati. Certo, soprattutto per quanto concerne l'ultimo punto, il computer è una immagine più che appropriata, il simbolo per antonomasia della nostra epoca; un simbolo quasi triviale, per quanto è scontato. Ma ciò non sembra essere una risposta sufficiente né tantomeno soddisfacente. Il quesito resta: perché Ok computer?

Non meraviglierà nessuno che Pablo Picasso non condividesse il diffuso entusiasmo per l'avvento dell'era informatica. Per lui i computer erano oggetti inutili in quanto danno soltanto risposte. Avesse avuto la possibilità di dialogare con l'interfaccia di un qualunque Pc di oggi, avrebbe scoperto che si sbagliava. Seppure a modo loro, i computer fanno domande; ci chiedono, per esempio, se devono salvare un file o se siamo sicuri di volere interrompere una sessione di lavoro. Forse, la loro intelligenza artificiale non consentirà mai di formulare domande che non siano servili e preconfezionate, forse non saranno mai capaci di dubitare realmente, ma di fatto i computer domandano. Solo un tipo di quesito è loro precluso, al momento: il perché delle cose. E non è detto che sia uno svantaggio.

Per certi aspetti, la richiesta di un perché è quasi sempre una domanda mal posta. Il perché corrisponde al bisogno tipicamente umano di trovare sensi e ragioni. Non di rado, però, l'esistenza di un senso è soltanto una pia illusione. Spesso i perché o non esistono o vanno al di là della nostra comprensione o, e questo è il caso più frequente, sono talmente numerosi, vaghi e ingarbugliati da rendere incompleta qualsiasi risposta. Reclamare il perché di un titolo come Ok computer è anch'esso una domanda mal posta. Non è affatto improbabile che i Radiohead non intendessero essere tanto ambiziosi o radicali da dimostrare che le cause del contemporaneo male di vivere debbano essere ricondotte al potere assunto dalle intelligenze di tipo artificiale. Forse non ci sono altre ragioni per quel titolo, se non quella che suona bene. Perché suona bene davvero. Suona così bene che ancora oggi critici, intervistatori e semplici appassionati sono impegnati nella ricerca del suo senso riposto.

Non sarebbe allora più proficuo cercare di capire cosa conferisce a due parole di uso tanto comune il fascino ipnotico di un mantra custode di segreti non meglio pronunciabili? Una possibile risposta è che l'accostamento dei due termini, pur suonando bene, abbia un che di stridente. Pur mettendo da parte le cacce alle streghe in versione elettronica e i fantasmi di una realtà fatta ostaggio delle macchine sul modello di Matrix, è innegabile che la parola computer evochi alle nostre orecchie paure e apprensioni di vario genere. Li usiamo tutti i giorni, permettiamo che organizzino la nostra vita, eppure la sensazione abbastanza diffusa è che ci fidiamo dei computer malgrado noi, quasi non avessimo alternativa, quasi potessero tradirci da un momento all'altro. Molti di questi timori sono infondati, altri derivano dal fatto che i computer possono diventare uno strumento di micidiale e incontrollabile efficacia se posti nelle mani di coloro che vogliono derubare, truffare e spiare il prossimo. Per parte loro, i computer non si sono ancora organizzati in un impero del male, eppure saremmo ipocriti qualora ci dichiarassimo del tutto tranquilli, se non ammettessimo di essere sfiorati dal dubbio, anche solo di sfuggita, ogni qualvolta seminiamo in Internet il nostro numero di carta di credito. Di fatto ci fidiamo dei computer come di una puttana che dice di farlo per amore. Ma non è soltanto questo. Sotto sotto, oltre a non fidarci, li disprezziamo, gli rinfacciamo di non avere la nostra fantasia, di non provare sentimenti, di essere quello che sono: macchine. Ciò che ci spinge a chiedere spiegazioni in merito al titolo di quell'album dei Radiohead è che Ok computer sembra una contraddizione in termini. Suona bene proprio perché è una perfetta dissonanza, perché ci piace coccolarci con l'idea che non possa esserci niente di davvero ok in un computer. E sarebbe sbagliato ritenere che simili biechi atteggiamenti prosperino solo nell'ignoranza, nelle menti di chi sa poco o nulla dei flussi di bit che si agitano dietro un'interfaccia. È piuttosto vero il contrario: non di rado sono proprio i costruttori di queste duttili macchine a sollevare dubbi, a perdersi in ragionamenti che poco sanno di scienza, a usare lo stesso linguaggio fumoso e sibillino dell'oracolo di Matrix, a esprimersi per paradossi, veri e propri haiku della logica come questo composto da un ingegnere informatico: «Vent'anni fa ebbi modo di profetizzare che entro due decenni l'uso di un computer sarebbe stato assimilabile a quello di un normale telefono. Non mi sbagliavo. Due decenni sono passati e infatti non ho la minima idea su come far funzionare il mio cellulare».

L'apprensione al momento più comune è che i computer non sappiano custodire i segreti che gli affidiamo, per non parlare dei soldi. Apprensione più che giustificata: un'analisi effettuata nel 2001 dal Computer Security Service negli Stati Uniti rivela che l'85% delle aziende interpellate ammette di aver riscontrato falle nei sistemi di sicurezza e il 64% ha segnalato perdite economiche dovute a intrusioni informatiche. Tutto ciò nell'arco di un solo anno. Una percentuale altissima, che sembrerebbe dare ragione al vecchio detto per cui il solo computer sicuro è quello spento. Kevin D. Mitnick, hacker di fama mondiale, dimostra in modo purtroppo inconfutabile che certi problemi riguardano poco l'efficacia di firewall e password (L'arte dell'inganno, ed. Feltrinelli): «la sicurezza informatica sarà sempre una chimera finché esisterà il fattore umano».

Un esempio su tutti. Nell'ormai lontano 1978, Stanley Mark Rifkin riuscì a farsi trasferire su un conto svizzero appositamente aperto la ragguardevole somma di otto milioni di dollari. L'impresa gli valse un posto di rilievo nel guinness dei primati sotto la voce «le più grandi truffe informatiche». Il problema è che Rifkin fece tutto senza sfiorare una sola tastiera. Telefonò sotto falso nome a un paio di impiegati, con un po' di parlantina ottenne le informazioni necessarie e poi si limitò a chiedere, sempre per telefono, il trasferimento del denaro. Niente di più. Un'arte del raggiro pomposamente denominata «ingegneria sociale»; questa tecnica, benché vecchia come il mondo, è il grimaldello molto efficace e poco dispendioso che apre agli hacker le porte di quei sistemi che aziende e uffici governativi spacciano per inviolabili.

Altra questione è l'affidabilità dei programmi. Nel suo Computer a responsabilità limitata (ed. Einaudi) David Harel, uno dei maggiori esperti di informatica, ricorda la storia del razzo francese Ariane 5, esploso nel 1996 pochi secondi dopo il lancio provocando perdite commerciali stimate nell'ordine di molti miliardi di dollari. L'immancabile commissione d'inchiesta riuscì a stabilire che tutto era dovuto a «errori di specifica nel software gestore del sistema di riferimento inerziale». Tradotto in termini più accessibili, il programma incriminato immagazzinava un numero di 64 bit in un registro lungo soltanto 16 bit, causando quello che in termini tecnici si chiama overflow ovvero uno «straripamento». Una svista imperdonabile. Stiamo però parlando di un errore di una sola riga all'interno di un programma di enormi dimensioni; un po' come scrivere la parola «gatto» con tre T in un romanzo di centinaia di pagine. Qualcosa di fisiologico.

Oltre ai piccoli refusi, capaci comunque di portare al collasso un intero sistema, esistono poi i cosiddetti errori di logica. In questi casi il programma non contiene sbagli evidenti, bensì falle nella definizione di determinati problemi, per cui il computer è costretto a interpretare le nostre richieste a modo suo dando luogo a effetti indesiderati. Individuare simili problemi è molto difficile e spesso non c'è altro modo per verificare la bontà di un programma se non quello di farlo girare più volte finché non si presenti qualche inconveniente.

Ma il vero problema non è l'affidabilità dei computer, qualunque ne sia la causa, bensì il nostro atteggiamento a dir poco contraddittorio: diffidiamo dell'intelligenza artificiale per la sua mancanza di umanità, ma non siamo disposti a tollerare che faccia la cosa più umana di tutte, sbagliare. Proseguendo su questa linea: come dovremmo intendere l'affermazione di Alan Turing per cui una macchina può essere considerata davvero intelligente se può far credere a un essere umano di comunicare con un altro umano? Non è perlomeno curioso che non si sia pensato a qualcosa di più edificante dell'inganno quale prova di intelligenza per una macchina?

Sempre stando alle parole di Turing, un computer è una macchina «capace di simulare qualunque altra macchina». Una specie di Zelig artificiale, insomma. E anche questo dovrebbe indurci a riflettere. Se poi consideriamo che un computer è, per estensione, una macchina «capace di fare qualunque cosa possa essere descritta in termini matematici», non dovremmo più meravigliarci se il dibattito in materia è spesso sprofondato in un terreno melmoso dove tutto equivale a niente e viceversa. Ancora oggi esperti e enfant terrible della scena high-tech quali Jason Lanier liquidano fiumane di calcoli, parole e teorie con affermazioni del tipo «l'intelligenza artificiale è più un sistema di credenze che una tecnologia», e chiunque voglia muovere i primi passi in questa nuova forma di teologia che, come ogni buona scienza del divino, tutto contempla fuorché il senso del ridicolo, può dare un'occhiata all'agile Storia dell'intelligenza artificiale di Sam Williams (ed. Garzanti).

Negli ultimi due secoli solo la teoria sull'origine della specie è stata altrettanto controversa ed era perciò inevitabile che qualcuno individuasse nel progresso informatico svolte di natura darwiniana. Scrive Ray Kurzweil nel suo celebre articolo The Age of Spiritual Machine (1999): «La più grande creazione dell'evoluzione, l'intelligenza umana, sta fornendo i mezzi - la tecnologia - per il prossimo stadio evolutivo... un ulteriore esempio di come l'evoluzione faccia uso delle proprie innovazioni di un periodo (gli esseri umani) per creare le successive (le macchine intelligenti)». A molti apparirà sconcertante che importanti studiosi si esprimano come lo scienziato pazzoide del più prevedibile film di fantascienza, dipingendo scenari in cui le macchine si liberano di chi le ha create per diventare padrone del proprio destino. L'astrusità di molte riflessioni trova però una sua precisa ragione di essere nell'enorme sproporzione tra l'ipotesi di una macchina intelligente e la sua effettiva realizzazione. Questa sproporzione è stata non solo la premessa ma anche ciò che ha condizionato fino a oggi il destino del computer.

Tra l'ingegnosa calcolatrice che Leibniz presentò alla Royal Society nel 1673 e l'ormai storico saggio del 1936 On Computable Numbers con cui Alan Turing pose definitivamente le basi per la costruzione di una macchina universale, corrono i tre secoli che Martin Davis racconta nel Calcolatore universale (ed. Adelphi). Trecento anni fatti di tanti «sogni» e speculazioni fondamentali, ma anche di scarsi risultati concreti; basti pensare che ancora in pieno `900 la «ruota di Leibniz» era spesso presente nei calcolatori.

La data di nascita del primo computer vero e proprio è il 12 maggio 1942. Si chiamava Z3 e venne assemblato da Konrad Zuse, un ingegnere berlinese, usando ripetitori telefonici per immagazzinare i dati e pellicole di vecchi film perforate come programmi; particolare, quest'ultimo, di innegabile fascino. Da lì in avanti il destino della macchina universale ha corso a una velocità impressionante, ma ciò che più sorprende è la sfiducia che ha accompagnato senza posa il progresso tecnologico. Poche invenzioni, infatti, sono state circondate da una diffidenza tanto pronunciata e così in contraddizione con le premesse teoriche. Nel 1943 un dirigente della Ibm azzardò una previsione: «Credo che sul mercato dell'intero pianeta ci sia spazio per cinque computer al massimo». Trent'anni dopo, nel 1977, la si pensava ancora così: «Non c'è nessuna ragione per cui una persona dovrebbe volere un computer in casa»; lungimirante considerazione attribuita a Kenneth Olsen della Digital Equipment Corporation. È sufficiente sfogliare le pagine di Computers. An Illustrated History di Christian Wurster (ed.Taschen) per farsi una ragione del fatto che il nostro pessimismo è spesso immotivato. Eppure quando si è celebrato il compleanno di Hal, il computer cattivo di 2001 Odissea nello Spazio, gli esperti di Silicon Valley sono accorsi in massa. Abbiamo informatizzato gli aspetti più disparati della nostra vita, non sappiamo immaginare il nostro futuro senza queste macchine, ma non possiamo fare a meno di guardarle come potenziali minacce.

Finché si tratta di disquisire sulla possibilità che un computer possa essere ok tutto va bene. Il dubbio che sorge spontaneo, come si dice, è un altro: perché lo stesso scetticismo non viene applicato dagli artefici di belle pensate quali la sperequazione economica o le guerre umanitarie? Non è affatto escluso che, semmai conquisteranno il potere, la macchine possano dimostrarsi più umane di chi ci governa oggi. Anche se, bisogna riconoscerlo, non sarebbe poi così difficile.

(fonte: Il Manifesto – 17 dicembre 2003)