Visto che il delirio continua, proviamo a sollevare qualche voce bassa tra le grida. E chiediamoci: Chi ci guadagna dalla paura di un’apocalisse causata dall’intelligenza artificiale?
L’apocalisse orienta l’attenzione pubblica, giustifica investimenti e può conferire autorità a chi promette di proteggerci – guarda caso, le stesse aziende che ci "minacciano" o gli orridi governi con cui sono alleate. Per questo, oltre a chiederci quanto sia fondato il timore, dovremmo domandarci chi trae vantaggio dal modo in cui se ne parla. Mentre siamo in preda al panico altrove si decide chi possiederà strumenti cognitivi molto potenti e a quali condizioni potremo usarli. E magari chissà, questi sedicenti "guardiani" che coincidono coi carnefici ne approfitteranno per chiedere di limitare l'open source che li minaccia...
Il problema di queste dubbie previsioni sull’estinzione è che dipendono da una lunga catena di ipotesi e variabili ignote. Dobbiamo supporre che i sistemi sviluppino determinate capacità (ok sono superpotenti, ma no, non sono ancora neanche lontanamente superintelligenze), che si comportino in un certo modo e che vengano impiegati in circostanze tali da rendere possibile la catastrofe. Su ciascun passaggio esistono incertezze considerevoli e manca un metodo affidabile per calcolare la probabilità dell’intera sequenza.
Nemmeno l’enormità del danno basta a stabilire quanto sia urgente occuparsene. Se fosse sufficiente immaginare una catastrofe e ammettere che è possibile, anche un’invasione aliena potrebbe richiedere attenzione e risorse illimitate. Il paragone riguarda il criterio con cui scegliamo le nostre priorità, senza presumere che i due eventi abbiano la stessa probabilità. Per decidere servono elementi che rendano uno scenario credibile e permettano di confrontarlo con gli altri.
Lo stesso criterio delle distopie dovrebbe inoltre valere anche per le utopie. Possiamo immaginare un’AI che favorisca progressi medici straordinari e ci aiuti ad affrontare la crisi climatica – e faremmo lo stesso errore ad affidarci a questi sogni.
Il problema diventa poi particolarmente evidente quando confrontiamo gli scenari sull’AI con pericoli di cui conosciamo già moltissimo. La crisi climatica comporta rischi catastrofici e irreversibili, mentre guerre e genocidi (spesso legate alla crisi climatica) piagano il mondo. Qui le conoscenze disponibili giustificano già interventi radicali, eppure tolleriamo rinvii e inerzie e ci spaventiamo dei robottoni cattivi.
Una parte di questa sproporzione trova una giustificazione filosofica nel lungotermismo e similari, non a caso filosofia in voga nella silicon valley. Il lungotermista attribuisce un peso enorme alle innumerevoli persone che potrebbero esistere nel futuro remoto per cui la sofferenza presente può diventare trascurabile nel confronto. Basta così moltiplicare un beneficio ipotetico per un numero abbastanza grande di vite future perché quel beneficio prevalga sui bisogni di chi esiste adesso. E guarda un po', chi ci guadagna? Chi non vuole che si combattano le disuguaglianze attuali.
Le élite tecnologiche possono trovare in questa filosofia una legittimazione del proprio potere, presentando le loro decisioni come necessarie alla sopravvivenza dell’umanità. Senza contare l'immensa pubblicità gratuita per il loro prodotto.
La paura di uno strumento potentissimo può diventare una ragione per affidarlo a pochi, magari agli stessi soggetti che promettono di proteggerci, e magari "regolando" l'open source che minaccia il loro monopolio. A me sembra che la potenza di questo strumento cognitivo renda ancora più importante un accesso diffuso, accompagnato dalla formazione e dalla possibilità di partecipare alle decisioni sul suo sviluppo.