SUPERINTELLIGENZA

Tendenze, pericoli, strategie

Recensioni - Göran Sundström

14 marzo 2019

NICK BOSTROM
Superintelligenza. Tendenze, pericoli, strategie
Milano, Bollati Boringhieri, 2018, 522, € 28,00.

L’Intelligenza Artificiale (IA) è uno dei temi centrali dell’odierno progresso tecnologico: computer sempre più sofisticati eseguono attività tradizionalmente svolte dall’uomo; il riconoscimento facciale e le automobili a guida autonoma stanno caratterizzando la cosiddetta «quarta rivoluzione industriale». Le aziende scorgono benefici nell’introduzione di servizi e processi «intelligenti» per ottimizzare le loro operazioni. E sia nel settore pubblico sia in quello privato vengono messe in evidenza ragioni per introdurre simili tecnologie, come l’aumento dei profitti e i vantaggi per i clienti.

Sebbene questa situazione trovi diffusi consensi e venga considerata un passo avanti nella crescita delle imprese e delle strategie aziendali, sotto la superficie si cela un problema più sottile, che riguarda la possibilità stessa, per le macchine avanzate, di incrementare i livelli dell’autoconsapevolezza e dell’autonomia, fino ad avvicinarsi, in ultima analisi, allo stato di agenti morali. Nel futuro le macchine potrebbero guadagnarsi un vantaggio strategico irrevocabile sugli esseri umani, aprendo così l’era della «superintelligenza», senza più alcuna possibilità di ritorno.

Di rado le ampie implicazioni esistenziali di questi sviluppi vengono approfondite seriamente, e il libro dello studioso svedese Nick Bostrom tenta di colmare questa lacuna. Bostrom è il responsabile scientifico del Future of Humanity Institute, un centro di ricerca multidisciplinare all’interno dell’Università di Oxford, e ha dedicato molti anni allo studio delle crisi che l’umanità potrebbe trovarsi ad affrontare. Fra queste, una evidente sta nell’eventualità che la superintelligenza consideri controproducente la presenza umana, traendone la conclusione logica che l’uomo andrebbe eliminato. Il tema principale del libro è proprio la gestione di tale rischio esistenziale, il cosiddetto «problema del controllo». È chiaro: in qualche modo va garantito che la superintelligenza sia «buona».

Ma la questione di ciò che è buono o cattivo è molto problematica, e tra l’altro dipende dalla specifica posizione filosofica che si assume. Sotto il profilo ontologico, il libro prende le mosse dal riduzionismo, secondo cui il mondo è meramente materiale. Non vengono discusse prospettive alternative riguardo al significato e ai fondamenti dell’esistenza. Di fatto, il volume si orienta verso un approccio interdisciplinare alle scienze della computazione e della gestione strategica del rischio. L’A. delinea diversi itinerari verso la superintelligenza. Più di altri metodi che possono apparire promettenti – come l’emulazione del cervello o l’ingegneria genetica –, l’Intelligenza Artificiale basata sul computer sembra in grado di fornire capacità cognitive di gran lunga superiori in un arco di tempo più ridotto.

Il processo di transizione verso la superintelligenza conferirà alle macchine abilità che andranno molto al di là di quelle degli esseri umani. Pertanto, esse saranno capaci di sviluppare ulteriormente la tecnologia per conto proprio, prescindendo del tutto dall’intervento umano. Quindi, il problema fondamentale riguarda il controllo della superintelligenza: è una questione di progettazione, di far sì che fin dall’inizio essa venga dotata dei giusti valori morali. La soluzione riguarda ciò che in effetti desideriamo noi esseri umani. Sebbene su temi del genere tenda a restare sul vago, l’A. riassume la questione in un concetto che egli definisce «la coerente volontà estrapolata». Afferma che si tratta della «vera sorgente dei nostri valori», la volontà che arrecherebbe benefici all’intera umanità.

Poiché non ci si può aspettare che gli esseri umani conoscano ciò che vogliono o dovrebbero volere, e tantomeno concordino in proposito, il compito di determinarlo andrebbe lasciato alla superintelligenza in quanto epistemicamente superiore a noi. Poi bisognerebbe assicurarsi che le macchine non facciano ciò che noi diciamo loro di fare, ma quello che avremmo dovuto desiderare se avessimo saputo che cosa fosse. Ecco la soluzione al problema del controllo. Da quel momento in poi dovremmo obbedire con fiducia alle decisioni e alle azioni della superintelligenza, per il nostro stesso bene. Così, secondo l’A., potremmo ottenere «una vita ricca e felice».

Da questo libro emerge l’ottimistica visione di base secondo cui la tecnologia resta ancora al servizio dell’uomo. Senza questo atteggiamento, il ragionamento potrebbe condurre soltanto a una distopia.