Macchine coscienti?

Cosa ci rende umani? A questa domanda molti – compresi personaggi famosi come lo storico israeliano Yuval Noah Harari[1] e il fondatore di OpenAI, Sam Altman[2] – rispondono: «l’umorismo», «l’immaginazione», «le emozioni». Noi sosteniamo che queste risposte sono filosoficamente e teologicamente ingenue e, in ultima analisi, inadeguate: la caratteristica distintiva della condizione umana si trova piuttosto nella coscienza, che è anche comunemente considerata il «Sacro Graal» della ricerca sull’intelligenza artificiale (IA).

In questo articolo vorremmo mostrare che la cosiddetta «intelligenza artificiale generativa» non può, in linea di principio, essere intelligente come noi, ossia che le macchine non saranno mai «autocoscienti». Naturalmente, queste affermazioni richiedono una spiegazione più sfumata, per evitare le trappole del pensiero antiscientifico e dell’«arroganza clericale»: due trappole nelle quali i teo­logi sono occasionalmente caduti dall’inizio dell’era moderna.

La domanda fondamentale

Per introdurre l’argomento, presentiamo un breve aneddoto. Due monaci si trovano sulla riva di un ruscello e contemplano l’acqua increspata. All’improvviso, uno di loro dice, pensieroso: «Vorrei essere felice come quel pesce nell’acqua!». L’altro replica: «Come puoi essere sicuro che quel pesce sia felice? Tu non sei un pesce». Il primo risponde: «Come fai a sapere che non posso saperlo? Tu non sei me».

Questo racconto esprime in modo appropriato uno dei problemi più dibattuti nella ricerca sull’IA di oggi: come facciamo a sapere che le macchine attuali sono davvero «intelligenti»? Può un computer essere più intelligente o più creativo del suo creatore, l’uomo? E chi è qualificato per decidere tali questioni?

La possibilità di creare robot intelligenti non è certo una questione nuova. Anzi, è stata una viva preoccupazione dell’immaginazione di romanzieri e registi, che hanno lavorato nel genere fantascientifico negli ultimi decenni. Qui vogliamo fare riferimento a tre film che ormai sono diventati classici.

2001: Odissea nello spazio è un film di fantascienza americano del 1968, che ha avuto un grande successo. È stato così famoso che il suo impatto ha lasciato un segno duraturo nella cultura cinematografica a causa delle sue soluzioni cinematografiche originali. Anche la sceneggiatura ha catturato l’attenzione del pubblico: ad esempio, uno dei personaggi principali di questo colossal era un supercomputer infallibile chiamato HAL, con una personalità propria, che improvvisamente si ribellava al suo creatore, prendeva il controllo dell’astronave (leggendo il labiale, aveva ascoltato una cospirazione umana contro di lui) e solo dopo molte avversità ed emozioni veniva infine disarmato.

Un’intera generazione di mezza età si ricorderà del primo episodio di Star Wars 1: