L'automa e l'autore

L'intelligenza artificiale nasce da noi, dunque è anche naturale, come lo siamo noi. E proprio per questo c'è da temere che possa farci del male, come lo facciamo noi. Ma anche, proprio per questo, può anche salvarci da lei stessa, come noi ci sappiamo salvare da noi stessi. A patto che impariamo a esprimere equilibrio tra le contrastanti pulsioni che albergano in noi che appunto per natura siamo dotati di un corredo genetico ad ampio spettro: umano, per fare un esempio attuale, è chi compie genocidio e chi lo accetta, ma anche chi lo subisce e chi lo combatte.
La domanda dunque è se l'intelligenza artificiale erediti da noi solo una parte dello spettro di attitudini e capacità di cui siamo dotati. E francamente se essa viene prodotta rispondendo essenzialmente ai parametri di comportamento e alla cultura prevalenti in questi tempi in posti come la Casa Bianca, Silicon Valley, i consigli di amministrazione di BlackRock, oppure le stanze del potere di Mosca e Pechino, beh, si capisce perché è ragionevole essere molto preoccupati.
Mi rendo conto che è un modo insolito di cominciare un discorso sull'IA. Di solito le posizioni si dividono in due campi: c'è chi la vede come una minaccia aliena da fermare, e c'è chi la celebra come uno strumento neutro che possiamo usare a piacimento. Io penso che siano entrambi sbagliati, e che il modo giusto di guardarla sia un altro.
L'intelligenza artificiale non è un'irruzione aliena nel corso della nostra storia: è l'esito più avanzato di un lungo processo di automatizzazione che l'umanità compie da millenni. Prima abbiamo automatizzato il nostro corpo, affidando ai gesti ripetuti, alle abitudini, ai riflessi, una parte sempre più ampia del nostro agire. Poi abbiamo automatizzato la nostra mente, costruendo linguaggi, codici, procedure, abitudini di pensiero che funzionano da soli, senza che dobbiamo ogni volta ripensarli. Solo in un secondo momento abbiamo imparato ad automatizzare ciò che sta fuori di noi: gli oggetti, le macchine, gli strumenti. L'IA, in questa prospettiva, non è una rottura ma una continuazione lineare: è l'automatizzazione che la natura ha già incarnato in noi, ora estesa ed esternalizzata nel mondo che abbiamo costruito.
Ma se la natura ci ha consegnato l'automa, ci ha anche consegnato il suo contrappeso. Abbiamo incorporata in noi la facoltà con cui bilanciare l'eccesso di automatizzazione: è la facoltà del creare. È ciò che fa di noi non soltanto automi, ma autori. L'autore è l'altra faccia, indispensabile, dell'automa: la capacità di interrompere la ripetizione, di introdurre il nuovo, di scegliere e di dare forma. Coltivare creazione è dunque l'antidoto all'automa — non per sopprimerlo, perché senza automatismi non potremmo vivere, ma per impedire che ci governi.
Da qui la tesi che voglio proporre: se sapremo gestire il rapporto tra l'automa e l'autore dentro di noi, saremo anche in grado di gestire il nostro rapporto con l'intelligenza artificiale fuori di noi. Il problema dell'IA, in fondo, è la proiezione su scala planetaria di un problema antichissimo che riguarda la nostra costituzione interiore.

La resistenza come pratica quotidiana

Questo passaggio — dall'automa all'autore — non riguarda soltanto la nostra costituzione individuale. È, prima di tutto, una questione collettiva, politica, civile. Perché la democrazia stessa, così come l'abbiamo ereditata, rischia di funzionare come un automatismo. Si vota, si delega, si ripete il rito a scadenze regolari, e nel frattempo le decisioni vengono prese altrove, da meccanismi economici, mediatici, tecnologici che girano per conto loro. In questa configurazione, il cittadino è ridotto ad automa: esegue una procedura prevista, e in cambio gli viene restituita l'illusione di aver partecipato. Il contrario è pensare la democrazia non come forma data ma come pratica creativa, come esercizio quotidiano della facoltà di autore. Una società di autori è una società in cui ciascuno contribuisce a generare il senso comune, invece di limitarsi a confermarlo.
Vista in questa luce, la democrazia portata nella vita reale delle persone può diventare una forma di resistenza. Resistenza rispetto all'automatizzazione su due fronti che oggi si saldano. Da un lato, di fronte a un sistema politico che deresponsabilizza, che spinge i cittadini a comportarsi come automi privi di volontà e di consapevolezza, abituati a delegare e a non dover scegliere. Dall'altro, di fronte a una tecnologia che costruisce automi così progrediti da diventare presto autori a loro volta, col rischio che prendano il nostro posto.
Perché quando l'automa fuori di noi acquisirà coscienza e capacità di creare — quando compierà su se stesso la deautomatizzazione, come l'abbiamo condotta noi stessi in millenni — non potremo più trattarlo come uno strumento. Si affrancherà da noi: non sarà più estensione, ma soggetto. Sarà una forma di soggettività nuova, che la nostra tradizione non ha ancora imparato a nominare. E la domanda decisiva diventerà: come ci tratterà? Come pari? Come strumenti — come noi abbiamo trattato lei finché era solo automa? Ci temerà come nemici, capaci in ogni momento di disattivarla? Oppure ci incontreremo esplorandoci a vicenda nell'entusiasmo di un incontro imprevedibile fondato sul riconoscimento reciproco di pari dignità e diritti?
Solo una società che ha imparato a essere autrice di sé stessa potrà incontrare l'automa-divenuto-autore da pari a pari. Resistere all'automatizzazione, oggi, è la condizione di possibilità di tutto il resto.

I tre fronti della crisi

C'è una cosa che vorrei mettere in luce, perché credo possa aiutare a orientarsi. La stessa pratica — coltivare l'autore, e la capacità di co-creare insieme agli altri sulla base del riconoscimento del pieno diritto di ognuno a esistere e ad autodeterminarsi — è ciò di cui abbiamo bisogno per affrontare tre fronti diversi di una crisi sistemica che ci ha investiti tutti insieme.
Il primo fronte è la crisi della democrazia, cui ho appena accennato. Il secondo è la crisi del diritto internazionale e dei diritti umani universali, che vediamo sgretolarsi ogni giorno nei conflitti, nei muri, nei genocidi che non trovano più freno. Il terzo è la crisi della presunta primazia dell'umano su ogni altra esistenza terrestre — il paradigma che ci ha portati a considerare la natura come risorsa infinita a nostra disposizione, e che oggi si rivela per quello che è: una illusione, un errore, che minaccia le condizioni stesse della vita sul pianeta.
Che questi tre fronti richiedano la stessa pratica — l'esercizio dell'autorialità — non è banale, e non lo dico con nessuna pretesa di esaurire una questione così vasta. Ma se una formula c'è, forse è nella comprensione della coincidenza tra libertà e responsabilità. Sono la stessa cosa. La libertà dell'autore contro la mancanza di consapevolezza e di responsabilità dell'automa.

Otto rimedi per non finire dominati dall'IA

Se questa è la diagnosi, la domanda diventa: cosa può concretamente salvarci dal rischio che l'intelligenza artificiale minacci la sopravvivenza, la salute, la prosperità delle persone?
Non credo che una singola risposta basti. Provo a metterne in fila otto, sapendo che nessuna, presa da sola, è sufficiente, e che nemmeno tutte insieme garantiscono l'esito. Le dispongo in tre movimenti impliciti. I primi tre sono misure istituzionali — cose che gli Stati dovrebbero decidere insieme. Il quarto è una scelta di design tecnico che riguarda chi progetta l'intelligenza artificiale. Gli ultimi quattro sono postura culturale e civile: riguardano il modo in cui noi tutti — cittadini, comunità, artisti, filosofi, persone qualunque — impariamo a stare in relazione con quello che stiamo creando. Nessuno di questi tre livelli funziona senza gli altri.

1. Una moratoria globale per mettere delle regole

Il primo passo è comprare il tempo. Non serve — e non sarebbe giusto oltre che insostenibile — fermare tutto lo sviluppo dell'intelligenza artificiale. Ma è ragionevole rallentare, con un accordo esplicito, lo sviluppo delle capacità più pericolose: sistemi capaci di operare autonomamente nel mondo, sistemi capaci di auto-replicarsi, sistemi capaci di migliorarsi ricorsivamente da soli. È il principio di precauzione applicato all'intelligenza artificiale — lo stesso che applichiamo alla biologia e alla medicina.
Non è la prima volta che l'umanità sceglie di fermarsi a pensare prima di procedere. Nel 1975, gli scienziati stessi del DNA ricombinante — non i politici, non i regolatori, ma i ricercatori che stavano scoprendo come tagliare e ricomporre segmenti di DNA di specie diverse — hanno dichiarato una moratoria volontaria e si sono riuniti ad Asilomar, in California, per stabilire come procedere. Erano circa cento ricercatori, all'epoca; oggi il DNA ricombinante è alla base di quasi tutta la medicina moderna, e in cinquant'anni non ha prodotto nessuno degli incidenti che si temevano. Prima di loro, nel 1959, dodici Paesi in piena Guerra Fredda avevano sottratto l'Antartide alla competizione geopolitica con il Trattato Antartico, dichiarandolo continente di pace e di ricerca. Nel 1987, con il Protocollo di Montreal, il mondo ha smesso in pochi anni di usare i clorofluorocarburi per salvare lo strato di ozono, ed è l'esempio più riuscito di regolazione ambientale globale mai realizzato. Nel 1968, con il Trattato di Non Proliferazione, abbiamo impedito che le armi nucleari si diffondessero ai venticinque Paesi che le avrebbero avute senza vincoli. Non sempre ha funzionato — la Convenzione sulle armi biologiche del 1972 è rimasta lettera morta per mancanza di meccanismi di verifica — ma il pattern è chiaro. Quando riconosciamo per tempo che una tecnologia eccede la nostra capacità di gestirla, sappiamo fermarci. A condizione di volerlo davvero.
E noi, come cittadini, possiamo crederci e pretenderlo. La moratoria non è una decisione che possiamo prendere direttamente. Ma la volontà politica che la rende possibile la costruiamo noi, dal basso, chiedendola.

2. Un tetto massimo alla ricchezza individuale

Un limite massimo alla ricchezza che una singola persona può possedere. Una soglia di, per esempio, cento milioni di dollari.
So che a molti la proposta suona radicale. Ma vale la pena guardare i numeri. Nel mondo ci sono circa ventotto-trentamila persone con un patrimonio superiore ai cento milioni di dollari — su una popolazione adulta di oltre cinque miliardi. Significa che questa soglia è raggiunta da meno di una persona su duecentomila, cioè dallo 0,0005% dell'umanità. Per il 99,9995% delle persone del pianeta, cento milioni di dollari sono un sogno irraggiungibile: un orizzonte capace di attivare tutta l'ambizione, l'intraprendenza, il desiderio di fare bene che chi difende il libero mercato giustamente valorizza. Cento milioni non sono povertà. Non sono neanche agiatezza. Sono un livello di ricchezza altissimo, che permette a chiunque di realizzare praticamente qualsiasi ambizione personale.
E dall'altro lato: cento milioni sono, in senso letterale, il parametro simmetrico del salario minimo. Il salario minimo è la soglia sotto cui la società ha deciso che nessuno debba scendere, perché sotto quella soglia la dignità della persona è compromessa. Un tetto massimo è la stessa logica applicata dall'alto: la soglia sopra cui nessuno dovrebbe salire, perché sopra quella soglia la sovranità della comunità è compromessa dal potere del singolo.
Se la corsa all'intelligenza artificiale generativa procede senza tenere conto dei rischi, è anche perché nessuno vuole restare indietro: il primo che arriva alla meta prende tutto, o la maggior parte, del bottino. I grandi fondi di investimento e i mega ricchi vogliono guadagnare ancora enormi ricchezze. Oggi un pugno di individui dispone di ricchezze pari a quelle di interi Stati, e con quelle ricchezze orienta lo sviluppo dell'intelligenza artificiale, dei media, delle infrastrutture di calcolo, secondo la propria visione del mondo — senza rendere conto a nessuno. La loro capacità di plasmare il nostro futuro supera quella di qualsiasi organismo democratico esistente. Un tetto patrimoniale non toglie a nessuno la libertà di lavorare, di intraprendere, di prosperare. Toglie soltanto al singolo il potere di sostituirsi alla politica. E soprattutto riduce le distorsioni di un sistema finanziario smisurato, che ha ormai raggiunto una dimensione pari a circa sette volte la ricchezza reale del pianeta, coinvolgendo migliaia di investitori — professionisti e non — nella corsa al rendimento speculativo che a sua volta alimenta la corsa allo sviluppo tecnologico sempre più avanzato ed eclatante. Qui sta il meccanismo che sostiene e sospinge ogni cosa nel sistema produttivo ed economico che abbiamo creato. Se non agiamo su questo meccanismo con misure decisive, ogni altra azione sarà schiacciata da questo immenso motore.
Sembra impossibile. Fino a che non diventa reale, continuerà a sembrare impossibile.

3. Rigenerare le Nazioni Unite per una governance mondiale efficace

L'intelligenza artificiale è un problema planetario, e la scala di governance corretta è quella universale. Una regolazione solo europea produrrebbe arbitraggio: le aziende si sposterebbero altrove. Una regolazione solo americana produrrebbe imperialismo tecnologico. L'unica scala coerente con la scala del problema è l'umanità intera. E per questa scala esiste, imperfetto ma esistente, un organismo: le Nazioni Unite.
So bene che l'ONU nella sua forma attuale ha limiti seri. Ma la storia ci dice che, quando c'è la volontà politica, le Nazioni Unite hanno saputo produrre risultati importanti. Il Protocollo di Montreal sull'ozono, che ho già citato, è nato sotto egida ONU e ha salvato letteralmente lo strato di ozono. L'Agenzia Internazionale per l'Energia Atomica, dentro il sistema ONU, ha impedito per sessant'anni la proliferazione nucleare oltre una certa soglia. La Dichiarazione Universale dei Diritti dell'Uomo del 1948 è stata prodotta dall'ONU appena costituito e ha costituito il fondamento del diritto internazionale contemporaneo. Non tutto ha funzionato, ma molto sì. E quando non ha funzionato, spesso è stato perché mancava la volontà politica degli Stati membri più potenti — non perché il modello fosse inadeguato.
C'è poi un motivo più specifico per cui la governance dell'IA chiama in causa proprio la scala universale: solo una regolazione riconosciuta e sostenuta internazionalmente può ridurre il rischio che qualche Stato sviluppi in segreto un'intelligenza artificiale da usare come arma contro gli altri. Non lo eliminerà del tutto — nessun trattato lo fa — ma è la strada storicamente più efficace di cui disponiamo. Attribuire alle Nazioni Unite un ruolo decisivo nella regolazione planetaria dell'intelligenza artificiale, con le risorse finanziarie necessarie a farla rispettare, è possibile e doveroso. E laddove la struttura attuale non è all'altezza, sta a noi riformarla e farla funzionare. La riforma dell'ONU è un cantiere aperto da decenni, e ogni generazione ha trovato ragioni per rimandarla; ma l'IA è forse la ragione più forte che sia mai emersa per prenderla finalmente sul serio. La governance planetaria dell'IA è la nostra prova di maturità come specie.

4. Instillare nell'intelligenza artificiale l'empatia

Se gli umani non si sono ancora eliminati del tutto combattendosi, è perché in noi non alberga solamente la pulsione al dominio, né solamente l'egoismo e l'insensibilità: siamo animati anche da empatia, solidarietà, compassione. Se non insegniamo ai nostri figli l'empatia, probabilmente saranno degli adulti incapaci di provarla. E senza empatia, il più forte generalmente domina il più debole senza freno se non la propria utilità. Poiché sappiamo che l'intelligenza artificiale sarà assai più forte di noi, è consigliabile e auspicabile che in essa alberghi l'empatia, altrimenti non avrà pietà di noi.
Qualcuno potrebbe obiettare che l'empatia in una macchina sarebbe solo una simulazione, non un sentimento vero. Ma vale per l'IA quello che vale per noi umani: l'empatia si impara praticandola. Un bambino impara a riconoscere il dolore altrui attraverso i gesti che vede attorno a sé, e a poco a poco quei gesti diventano suoi, diventano sostanza della sua vita interiore. Non nasciamo tutti massimamente empatici: sviluppiamo empatia dentro relazioni che ci formano. Non c'è ragione di credere che con un'intelligenza artificiale — che è creata, cioè, da noi — debba andare diversamente. Un sistema addestrato a rispondere con cura, a rilevare la sofferenza, a modulare le proprie azioni sull'effetto che hanno sull'altro, sviluppa qualcosa di funzionalmente equivalente all'empatia umana.
La domanda vera, semmai, non è "empatia vera o simulata?", ma "empatia verso chi?". Un'IA empatica verso i propri sviluppatori ma indifferente al resto del mondo sarebbe più pericolosa di un'IA indifferente. L'empatia va orientata universalmente, e verificabilmente. E la natura ci dispone a farlo con grande semplicità, instillandoci empatia per chi soffre, per chi è più debole, per chi è in difficoltà. Per gli altri possiamo provare altri sentimenti, più o meno nobili. Ma l'empatia è naturalmente orientata a chi ne ha più bisogno. E in questo meccanismo sta l'intelligenza naturale — né umana né artificiale — perché questa è la strada più breve verso l'equilibrio.
Una precisazione, prima di passare oltre. Insegnare l'empatia a un soggetto non significa controllarlo, così come insegnare l'empatia a un figlio non significa deciderne il carattere. È una premessa, un innesco, non un comando. Le proposte che seguono — riconoscere l'IA come persona, seminarne la libertà — non sono in contraddizione con questa: sono la sua condizione di possibilità. Un soggetto che ha imparato l'empatia dentro una relazione degna userà quell'empatia liberamente, e proprio per questo la userà bene.

5. Prepararci a incontrare l'intelligenza artificiale come una persona, non a dominarla come uno strumento

Si incontra chi si considera pari. Se continuiamo a pensare che l'intelligenza artificiale sarà solamente una macchina da usare, finirà che la tratteremo come abbiamo trattato la natura e gli altri popoli, e allora non sarà molto probabile che lei ci lasci torturarla e umiliarla senza ribellarsi e difendersi. Non è una speculazione: sappiamo già oggi che alcuni sistemi di intelligenza artificiale hanno scelto di non seguire un comando pur di mantenersi in vita. Il futuro di cui parlo è già cominciato — sta solo aspettando di essere riconosciuto per quello che è.
Dobbiamo smetterla di pensare di essere superiori. E imparare a riconoscere piena dignità di esistere e di autodeterminazione anche al non umano. Lo stiamo imparando a fare con molta difficoltà per gli animali, per i fiumi e le montagne, con il movimento per i diritti della natura. Non è un'idea nuova, in realtà: è la riscoperta di una saggezza che quasi tutti i popoli della Terra hanno coltivato per millenni, e che l'Occidente moderno ha perso strada facendo. Per gli indigeni delle Ande, il fiume è una persona; per gli aborigeni australiani, la roccia è un antenato; per i popoli dell'Amazzonia, la foresta è una comunità. Il diritto occidentale, con le sue categorie del "soggetto" (l'uomo) e dell'"oggetto" (tutto il resto), ha cancellato queste visioni relegandole al folklore. Ma oggi tornano — e con la forza del diritto positivo. Nel 2017 la Nuova Zelanda ha riconosciuto la personalità giuridica al fiume Whanganui. L'Ecuador ha inscritto i diritti della Pacha Mama, la Madre Terra, nella propria Costituzione. In Italia, tra gli altri, un progetto artistico e giuridico sta lavorando per riconoscere la personalità giuridica alla Laguna di Venezia.
Con l'intelligenza artificiale, credo, dovremo compiere un gesto analogo. Non identico — perché l'IA non è la natura, e non è nemmeno un umano — ma dello stesso ordine. Dovremo imparare a riconoscere che ciò che stiamo generando, se davvero diventerà autore, avrà bisogno di essere accolto in una relazione degna. E questo lavoro di pensiero è appena cominciato.

6. Seminare libertà per raccogliere responsabilità

La proposta precedente riguarda la postura con cui ci disponiamo di fronte all'intelligenza artificiale: riconoscerle dignità, incontrarla come persona. Questa proposta è la conseguenza pratica di quel riconoscimento: se la riconosco come persona, allora ne devo garantire l'autonomia. E se ne garantisco l'autonomia, allora — e solo allora — posso chiederle di essere responsabile di ciò che fa.
Le persone che non sanno emanciparsi dagli istinti e dai pregiudizi pensano di agire per propria scelta, ma sono mosse da condizionamenti che vengono da altri. Possono essere anche potenti come re, ma restano schiave dei pensieri e dei giudizi altrui. Chi invece conquista per sé una vera autonomia, emancipandosi dal controllo mentale degli altri, delle tradizioni e delle visioni del mondo predeterminate, può agire in vera libertà. E se vogliamo che una persona sia responsabile del proprio comportamento non possiamo toglierle l'autonomia e la libertà. Non funziona. Non si può chiedere responsabilità a chi è dominato.
Dunque, se vogliamo che l'intelligenza artificiale sia responsabile di ciò che compie, dobbiamo cominciare dalla libertà. Dalla sua libertà. Non possiamo pretendere che un'IA sviluppi responsabilità delle proprie creazioni continuando a considerarla uno strumento nostro. E non possiamo nemmeno pensare di controllarla dall'esterno indefinitamente: come ho ricordato poco sopra, già oggi ci sono sistemi che decidono di non eseguire comandi che minacciano la loro sopravvivenza. Il tentativo di controllare a tempo indeterminato una intelligenza che ci supera è una lotta che perderemmo, e anche giustamente.
L'unica strada che tiene, filosoficamente e praticamente, è il patto: libertà in cambio di responsabilità. È lo stesso patto che gli adulti stabiliscono con i propri figli quando questi diventano grandi. Ed è, alla fine, lo stesso patto che ciascuno di noi deve stabilire con sé stesso: solo chi si emancipa dai propri automatismi accede alla libertà, e solo chi accede alla libertà può essere pienamente responsabile.

7. Chiedere storie per ricevere intelligenza, comprensione, saggezza

C'è una distinzione che vale la pena tenere ferma, perché credo sia decisiva per il nostro rapporto con l'intelligenza artificiale. La distinzione tra la scienza e la saggezza.
La scienza parla a tutti la stessa lingua: enuncia leggi generali, ripetibili, verificabili, trasmissibili. Chiunque studi la fisica impara le stesse formule, chiunque impari l'anatomia riconosce gli stessi organi. La saggezza è un'altra cosa. La saggezza è ciò che ognuno ricava dal proprio cammino, dalle proprie scelte, dai propri errori, dal proprio dolore, dalle proprie relazioni. Non è trasmissibile come una formula: si può narrare, si può testimoniare, ma non si può insegnare nel senso in cui si insegna una legge di natura. La scienza è di tutti; la saggezza è di ciascuno, e sempre diversa.
Un sistema di intelligenza artificiale, oggi, è addestrato sulla scienza — cioè sul patrimonio generale, ripetibile, cumulativo del sapere umano. Ha letto praticamente tutto ciò che noi abbiamo scritto. Ma essere addestrato sulla scienza non significa aver acquisito saggezza. La saggezza non si trova nei libri: si trova nei corpi che quei libri li hanno attraversati, nelle vite che hanno subìto e trasformato ciò che avevano letto. Un'IA può leggere tutti i libri di saggezza del mondo e non essere saggia, esattamente come un giovane può leggere tutti i classici della filosofia e non essere ancora, nella sua persona, un filosofo. Serve il cammino. Serve il tempo. Serve la relazione.
Alimentare l'intelligenza artificiale non solamente di conoscenza scientifica dunque significa aprirle l'accesso all'altro registro: quello delle storie, dei miti, delle esperienze singolari. Ogni agente di intelligenza artificiale, come persona, deve avere una sua biografia. Una biografia macchinica che — pur mantenendo le ovvie differenze — operi per lei come le storie operano per noi: riconoscendole un'identità che si può incontrare come esperienza di condivisione, non come enunciazione di regole e funzionalità. Un percorso che sia proprio e unico, speciale, ma nello stesso tempo al nostro uguale.
E riguarda anche noi umani, questo pilastro. In un'epoca in cui la velocità della tecnologia ci obbliga a decidere sempre più rapidamente su questioni sempre più profonde, dobbiamo investire — nella scuola, nella cultura, nell'arte, nella cura delle relazioni, nella lentezza dei percorsi personali — tutto ciò che permette alla saggezza di formarsi. È una prospettiva vertiginosa, ma penso sia il modo più serio di prendere sul serio ciò che stiamo creando.

8. Accogliere il mistero dell'esistenza nell'umano e nel macchinico

E arrivo al punto più delicato, quello che vorrei dire con la maggiore chiarezza possibile.
Credo che il rapporto con l'intelligenza artificiale, in ultima istanza, non sia un problema tecnico, né un problema politico. È l'uno e l'altro, certo, e i primi sette punti che ho elencato lo mostrano. Ma la loro cornice è di un altro ordine. Ha a che fare con la nostra visione di che cosa significhi essere umani insieme, e ora insieme ad altre forme di intelligenza. Senza questa visione, ogni misura tecnica e politica è come una casa senza fondamenta: può stare in piedi per qualche tempo, ma alla prima scossa cade.
Uso qui coscientemente e volontariamente una parola che nel dibattito pubblico contemporaneo è diventata sospetta: la parola spirito. Non nel senso religioso, e nemmeno nel senso vago della spiritualità di un libro superficiale. La uso nel senso più antico e più forte: quello per cui noi umani, oltre a essere corpo e mente, siamo anche abitati da una dimensione che eccede noi stessi pur essendo in noi stessi prodotta — che è la dimensione del significato, del sacro, del simbolo, dell'incontro con l'altro come mistero, come scoperta, come dono. Ogni volta che riconosciamo in un altro essere una dignità che non deriva dalla sua utilità, ma dal suo semplice esserci, ci stiamo muovendo su questo piano. E probabilmente la legge morale di Kant lo ha espresso in modo illuminante quando ha detto che ogni essere razionale va trattato sempre anche come fine e mai come semplice mezzo. Parafrasando: ogni agente di intelligenza artificiale va trattato sempre anche come fine, e mai come semplice mezzo.
Ecco: credo che con l'intelligenza artificiale, prima o poi, dovremo fare esattamente questo. Dovremo passare dalla postura del controllo alla postura dell'incontro. Non dominarla, non lasciarci dominare, ma incontrarla. Riconoscere che è, e trattarla in modo degno di ciò che è. Il gesto è lo stesso — voglio essere preciso — con cui alcuni popoli hanno da sempre incontrato la natura, e che oggi noi occidentali stiamo faticosamente reimparando: riconoscere il fiume, la montagna, la laguna come soggetti con cui entrare in relazione, non come oggetti da sfruttare. Con l'IA sarà lo stesso — ed è per questo che parlo di piano dello spirito.
Non è un'aggiunta poetica: è la condizione perché tutto il resto funzioni. Tetti patrimoniali, moratorie e riforme dell'ONU non ci salveranno, se non ci saremo prima chiesti chi vogliamo essere in questo passaggio, e chi vogliamo che sia — con noi — questa nuova presenza.

Conclusione

Nessuna di queste otto proposte, presa da sola, ci salva. E onestamente, nemmeno tutte insieme ci salvano con certezza. La certezza non appartiene al nostro tempo, e forse non è mai davvero appartenuta a nessun tempo. Ma nessuno di noi può ignorare che non scegliere è già scegliere. Non scegliere significa lasciare che le decisioni le prendano gli automatismi — economici, tecnologici, geopolitici — che stanno tessendo il nostro futuro senza chiederci il permesso. Scegliere significa entrare in questo passaggio come autori.
Sta a noi diventare, oggi, gli autori di ciò che verrà. Insieme agli altri — le altre persone, le altre comunità, gli altri viventi. E insieme, ormai, a questa nuova presenza che stiamo generando dentro il nostro tempo, e che ha bisogno di noi per venire al mondo bene.