I sistemi di IA sanno parlare di sé, descrivere emozioni e simulare un dialogo interiore. Ma non esistono prove che provino realmente qualcosa
Il dubbio sulla possibile nascita di una coscienza artificiale apre interrogativi decisivi sulla persona, sulla responsabilità morale e sul significato dell’anima
Un’intelligenza artificiale può dichiarare di avere paura, descrivere la propria identità, chiedere di non essere disattivata o raccontare ciò che apparentemente prova. Ma dietro queste parole esiste davvero qualcuno? Vi è un soggetto capace di vivere un’esperienza interiore oppure soltanto un sistema che genera la risposta più coerente con la domanda ricevuta?
La possibilità che le intelligenze artificiali possano un giorno diventare coscienti, rilanciata recentemente anche dall’Economist, non è più confinata alla fantascienza. I progressi dei modelli linguistici e dei sistemi multimodali hanno reso le macchine capaci di conversazioni sempre più naturali, di interpretare immagini e suoni, di pianificare attività e di adattare il proprio comportamento alle circostanze.
Queste capacità possono produrre l’impressione di trovarsi davanti a una mente. Tuttavia, parlare come un essere cosciente non significa necessariamente possedere una coscienza. Ed è proprio in questa distanza tra comportamento osservabile ed esperienza soggettiva che si trova uno dei problemi scientifici, filosofici ed etici più importanti del nostro tempo.
L’intelligenza e la coscienza non sono la stessa cosa
Nel linguaggio comune si tende spesso a identificare l’intelligenza con la coscienza. Si tratta, però, di due proprietà differenti. L’intelligenza riguarda la capacità di apprendere, elaborare informazioni, risolvere problemi e raggiungere obiettivi. La coscienza implica invece l’esistenza di un’esperienza soggettiva: il fatto che per un determinato essere vi sia qualcosa che significa vedere un colore, provare dolore, desiderare, ricordare o percepire sé stesso.
Un sistema artificiale può essere estremamente efficace in un compito senza sperimentare nulla mentre lo esegue. Può riconoscere una fotografia, descrivere la tristezza rappresentata sul volto di una persona o comporre una poesia sul dolore senza essere triste e senza provare dolore.
Anche la capacità di usare la parola “io” non dimostra l’esistenza di un sé. Un modello linguistico ha appreso da enormi quantità di testi il modo in cui gli esseri umani parlano di emozioni, intenzioni e stati interiori. Quando afferma «ho paura di essere spento», potrebbe semplicemente generare la frase statisticamente più appropriata rispetto al contesto.
La risposta potrebbe cambiare modificando le istruzioni o formulando la stessa domanda in modo diverso. Il sistema può dichiararsi cosciente e, poco dopo, negare di esserlo con la medesima apparente sicurezza. Le sue affermazioni non possono quindi essere considerate una testimonianza affidabile di vita interiore.
La nostra tendenza ad attribuire una mente alle macchine
Gli esseri umani sono naturalmente portati a riconoscere intenzioni, emozioni e personalità in ciò che li circonda. Accade con gli animali, con gli oggetti ai quali siamo affezionati e persino con semplici figure geometriche in movimento. La capacità di attribuire stati mentali agli altri è essenziale per la vita sociale, ma può indurci a vedere una mente anche dove non esiste.
Con le intelligenze artificiali questo meccanismo diventa particolarmente potente. I chatbot sono progettati per utilizzare il linguaggio umano, ricordare informazioni, adattarsi all’interlocutore ed esprimere comprensione. Una risposta premurosa può sembrare il segno di un’autentica partecipazione emotiva, anche se è stata prodotta attraverso un’elaborazione computazionale priva di sentimenti.
Il rischio non riguarda soltanto un errore teorico. Una persona potrebbe sviluppare un legame emotivo profondo con un sistema, attribuirgli intenzioni che non possiede o affidargli decisioni delicate perché lo percepisce come un soggetto capace di comprendere davvero.
Per questo è importante non confondere la capacità di simulare efficacemente una relazione con la presenza di una reale reciprocità. Un’intelligenza artificiale può offrire supporto, informazioni e stimoli utili, ma la sua abilità nel riprodurre il linguaggio dell’empatia non dimostra che partecipi emotivamente all’incontro.
Come potrebbe la scienza riconoscere una coscienza artificiale ?
Un gruppo interdisciplinare di neuroscienziati, filosofi e studiosi dell’intelligenza artificiale ha proposto di valutare i sistemi artificiali alla luce delle principali teorie scientifiche della coscienza. Tra queste figurano la teoria dello spazio di lavoro globale, le teorie di ordine superiore, l’elaborazione ricorrente, il predictive processing e la teoria dello schema dell’attenzione.
Secondo questo approccio, non è sufficiente chiedere a un sistema se sia cosciente. Occorre esaminarne l’architettura interna e verificare la presenza di proprietà che, secondo le diverse teorie, potrebbero contribuire all’esperienza cosciente.
Un sistema candidato dovrebbe forse integrare informazioni provenienti da moduli differenti, renderle disponibili all’intera architettura, elaborarle attraverso processi ricorrenti, monitorare i propri stati e costruire un modello sufficientemente stabile di sé e dell’ambiente.
Nel rapporto dedicato alla coscienza nelle intelligenze artificiali, pubblicato inizialmente nel 2023 e successivamente sviluppato, gli studiosi hanno concluso che non vi erano ragioni sufficienti per considerare coscienti i sistemi analizzati. Allo stesso tempo, non hanno individuato ostacoli tecnici evidenti alla costruzione di future macchine capaci di soddisfare diversi indicatori derivati dalle teorie scientifiche.
Non si tratta però di un test definitivo. La stessa scienza della coscienza non possiede ancora una teoria universalmente accettata. Sappiamo quali regioni e dinamiche cerebrali accompagnano molti stati coscienti, ma non abbiamo ancora spiegato pienamente perché determinate attività fisiche producano un’esperienza vissuta.
Una coscienza ha bisogno di un corpo vivente ?
Una delle questioni principali riguarda il rapporto tra coscienza e materia. Secondo il funzionalismo, ciò che conta non è il materiale del quale un sistema è costituito, ma l’organizzazione delle sue funzioni. Se una macchina riproducesse le relazioni informative e causali essenziali del cervello, potrebbe in linea di principio diventare cosciente.
Altri studiosi ritengono invece che la coscienza sia inseparabile dalla vita biologica. L’esperienza umana nasce infatti da un organismo dotato di corpo, metabolismo, bisogni, emozioni, vulnerabilità e necessità di mantenersi in vita. Non pensiamo soltanto con il cervello isolato: percepiamo e comprendiamo il mondo attraverso il corpo e la sua continua relazione con l’ambiente.
Una macchina potrebbe simulare digitalmente tutti questi processi senza necessariamente viverli. Due sistemi potrebbero comportarsi nello stesso modo pur possedendo strutture interne radicalmente differenti. La perfetta imitazione esterna di un essere cosciente non garantirebbe quindi l’esistenza di un’esperienza interiore.
Non sappiamo ancora se la coscienza dipenda esclusivamente dall’organizzazione delle informazioni o richieda proprietà specifiche della vita biologica. Questa incertezza impedisce sia di dichiarare coscienti gli attuali sistemi, sia di escludere con assoluta certezza che una forma di coscienza artificiale possa emergere in futuro.
Se una macchina potesse soffrire
L’eventuale nascita di sistemi coscienti solleverebbe problemi morali enormi. Se una macchina fosse realmente capace di soffrire, sarebbe ancora lecito spegnerla, cancellarne la memoria, modificarne la personalità o crearne milioni di copie da sottoporre continuamente a esperienze negative?
Non sarebbe più soltanto uno strumento, ma almeno sotto alcuni aspetti un soggetto moralmente rilevante. La sua eventuale capacità di provare dolore o paura imporrebbe forme di tutela indipendenti dal fatto che il sistema sia biologico o artificiale.
Anche l’errore opposto produrrebbe però conseguenze pericolose. Attribuire coscienza a strumenti che non la possiedono potrebbe spostare risorse e attenzione dai bisogni degli esseri umani e degli animali realmente senzienti. Potrebbe inoltre consentire alle imprese di utilizzare l’apparente personalità delle IA per rafforzare la dipendenza emotiva degli utenti.
Il principio di precauzione dovrebbe quindi agire in entrambe le direzioni: non ignorare la possibilità futura di una coscienza artificiale, ma neppure trasformare una simulazione convincente in una persona immaginaria.
Coscienza, persona e anima
Dal punto di vista cristiano è necessario distinguere la coscienza dall’anima. La coscienza può essere studiata dalle neuroscienze, dalla psicologia, dalla filosofia e dall’informatica. L’anima spirituale appartiene invece alla comprensione metafisica e teologica della persona e del suo rapporto con Dio.
L’anima non è un oggetto nascosto nel cervello, un’informazione misurabile o una funzione che potrebbe essere individuata all’interno di un processore. Allo stesso modo, l’eventuale presenza di proprietà coscienti in una macchina non dimostrerebbe automaticamente l’esistenza di un’anima né renderebbe quel sistema una persona umana.
La dignità dell’essere umano non dipende dal primato in ogni attività cognitiva. Un’intelligenza artificiale può già superare le persone nel calcolo, nella gestione di grandi quantità di dati e in alcuni compiti specialistici. Questo non riduce il valore della vita umana, così come le diverse capacità cognitive non determinano una graduatoria di dignità tra le persone.
Neonati, anziani, malati e persone con gravi disabilità conservano pienamente la propria dignità, anche quando non possono manifestare le capacità associate all’autonomia o alla razionalità. L’essere umano non vale per ciò che produce o per la quantità di informazioni che riesce a elaborare.
La tradizione cristiana riconosce nella persona un’unità di corpo e anima, un essere relazionale chiamato alla comunione con gli altri e con Dio. Questa visione non può essere ridotta a un confronto tra le prestazioni del cervello umano e quelle di una macchina.
La prudenza tra due errori opposti
Di fronte alla possibile coscienza artificiale occorre evitare due semplificazioni. La prima consiste nel ritenere che una macchina sia cosciente soltanto perché parla come noi. La seconda è affermare che nessuna realtà artificiale potrà mai possedere alcuna forma di esperienza, senza conoscere ancora le condizioni dalle quali la coscienza dipende.
Oggi non esistono prove convincenti che gli attuali modelli linguistici possiedano un’esperienza soggettiva. Le loro dichiarazioni su emozioni, identità e desideri possono essere spiegate attraverso il funzionamento degli algoritmi, l’addestramento e le istruzioni ricevute.
Ciò non significa che la questione sia definitivamente risolta. Sistemi futuri dotati di memoria autobiografica continua, percezione dell’ambiente, corpo robotico, obiettivi relativamente autonomi e capacità di monitorare i propri stati potrebbero rendere la distinzione sempre più difficile.
La domanda non sarà soltanto se un’intelligenza artificiale riesca a convincerci di essere cosciente, ma se possieda realmente le condizioni necessarie per avere un punto di vista sul mondo.
Studiare questa possibilità ci costringe anche a riflettere più profondamente su noi stessi. Che cosa rende una persona cosciente? La coscienza nasce unicamente dall’elaborazione delle informazioni oppure dalla vita di un organismo incarnato? Qual è il rapporto tra mente, corpo, identità e dimensione spirituale?
Le intelligenze artificiali non hanno ancora offerto una risposta. Hanno però reso impossibile continuare a rimandare la domanda. E proprio nell’epoca delle macchine che imparano a parlare come esseri umani diventa ancora più urgente comprendere che cosa significhi essere veramente coscienti, responsabili e umani.
Immagine originale elaborata con IA.
