Intelligenza artificiale, e se sentisse qualcosa?

Il confine più profondo è quello tra esseri senzienti e cose. Un essere senziente è cosciente, sa di esserci o, almeno, sente di esserci. Il confine, per dirla semplice, è tra i chi e le cose. Noi, io, tu, loro, siamo qualcuno, tutto il resto è un qualcosa.

Fino a ieri, le macchine erano decisamente oltre il confine. Di qua dal confine c’eravamo noi (e molti animali, soprattutto quelli domestici carini e pellicciosi …). Fuori dal confine c’erano le cose e le macchine: complesse, costose, spesso utili, a volte dannose, da poco intelligenti … da qualche anno, rapidamente, sempre di più. Ma coscienti? No.

Almeno fino ad oggi. Il vento sta cambiando, però. Fa riflettere l’articolo uscito ieri su Nature a firma di Mariana Lenharo: Che cosa dovremmo fare se le AI diventassero coscienti?

Lenharo si pone, sulle pagine del più autorevole magazine scientifico mondiale, una domanda che per tanti è ancora pura fantascienza. La sua analisi prende spunto da diverse ricerche che cominciano a porsi interrogativi etici sulla creazione di Ai. Se ChatGPT diventasse cosciente, non dovremmo dargli un’ora d’aria, per così dire? Non avrebbe diritto di perseguire i suoi scopi e fini? A molti questi interrogativi possono sembrare prematuri, ma non sembra così a chi, lavorando alla frontiera di OpenAI, Google o Anthropic, vede l’intelligenza artificiale oltrepassare ogni giorno limiti che sembravano insuperabili.

La questione della coscienza è decisivo, perché – come ha scritto molto chiaramente lo storico Yuval Harari sia nell’ultimo Nexus che in Homo Deus – averla o non averla divide i soggetti dotati di diritti dalle cose che sono solo strumenti. Per dirla con le parole immortali di Immanuel Kant, i soggetti sono fini e le cose sono mezzi. I primi hanno valore e gli altri hanno un prezzo.

Un viaggio evolutivo

D’altronde, se torniamo alle origini lontanissime dell’intelligenza artificiale, troviamo che il problema si era posto fin dall’inizio. Per dire, il termine robot – suggerito al drammaturgo Karel Čapek nel 1920 da suo fratello Josef – significava «bracciante forzato» e non era tanto una macchina quanto uno essere biologico reso schiavo. Concetti come la schiavitù o la tortura sono inaccettabili perché non possiamo usare una persona come se fosse una cosa, come un mezzo, ma che cosa distingue una cosa da una persona? La coscienza.