Il Pontefice invita la politica a governare lo sviluppo dell’IA senza ostacolare l’innovazione : dignità umana, diritti, privacy, trasparenza, tutela dei lavoratori e democrazia devono restare al centro
Il rischio è che algoritmi e piattaforme diventino nuove forme di potere e dipendenza
L’intelligenza artificiale non deve diventare un nuovo strumento di dominio dell’uomo sull’uomo, ma essere orientata al bene comune, alla dignità della persona e allo sviluppo integrale dell’umanità. È uno dei messaggi centrali del discorso pronunciato venerdì 21 agosto da Papa Leone XIV ai partecipanti al XVII incontro annuale dell’International Catholic Legislators Network, ricevuti nella Sala Clementina.
Il tema scelto per l’incontro — Dignità umana e intelligenza artificiale: sfide, opportunità e controllo — ha consentito al Pontefice di tornare su uno dei temi centrali del suo Magistero: il rapporto tra sviluppo tecnologico, responsabilità umana ed etica.
Leone XIV parte da una distinzione fondamentale. Di fronte alle possibilità aperte dall’intelligenza artificiale non basta domandarsi che cosa sia tecnicamente possibile. Occorre chiedersi anche che cosa sia moralmente giusto fare.
«Ogni conseguimento tecnologico pone anche l’umanità di fronte a una questione morale: non soltanto che cosa possiamo fare, ma che cosa dovremmo fare?», afferma il Papa. Una domanda che sposta il problema dell’intelligenza artificiale dal semplice terreno tecnologico a quello della responsabilità.
La nuova Torre di Babele
Richiamando la sua Enciclica Magnifica humanitas, Leone XIV utilizza l’immagine della Torre di Babele per descrivere uno dei possibili sviluppi della rivoluzione tecnologica. L’umanità può costruire una società nella quale potere, efficienza e controllo finiscono per oscurare la persona, oppure scegliere una civiltà nella quale la tecnologia sia realmente posta al servizio dello sviluppo umano.
Non è dunque l’innovazione in quanto tale a essere messa in discussione. La domanda decisiva riguarda il modello di umanità e di società che attraverso l’innovazione vogliamo costruire. Per Leone XIV il criterio fondamentale rimane la persona. Occorre domandarsi se la tecnologia renda gli esseri umani più responsabili e fraterni oppure favorisca nuove forme di isolamento, sfruttamento, manipolazione e dominio.
A guidare questo discernimento possono essere, per il Pontefice, i principi fondamentali della dottrina sociale della Chiesa: dignità inviolabile della persona, bene comune, destinazione universale dei beni, sussidiarietà e solidarietà.
La politica non deve fermare l’innovazione, ma governarla
Particolarmente significativo è il messaggio rivolto ai legislatori. Leone XIV non propone di rallentare o impedire lo sviluppo tecnologico. Al contrario, afferma esplicitamente che il compito della politica «non è di impedire l’innovazione bensì di guidarla con saggezza».
Una buona legislazione, spiega il Papa, deve permettere alla creatività scientifica e tecnologica di svilupparsi, ma contemporaneamente tutelare i diritti e le libertà fondamentali.
Questo significa proteggere gli utenti dallo sfruttamento, garantire la privacy, assicurare trasparenza nell’impiego delle tecnologie emergenti e fare in modo che queste ultime contribuiscano a rafforzare, anziché indebolire, le istituzioni democratiche.
Il messaggio è importante anche nel dibattito contemporaneo sulla regolamentazione dell’intelligenza artificiale. La scelta non è necessariamente tra innovazione e regole. Regolare una tecnologia significa stabilire le condizioni perché possa svilupparsi senza trasformare la capacità tecnica in un potere privo di responsabilità.
Servono regole e controlli indipendenti
Il Pontefice richiama quindi la necessità di «quadri giuridici adeguati», accompagnati da vigilanza indipendente, educazione degli utenti e soprattutto da una politica che non rinunci alle proprie responsabilità. La regolamentazione, inoltre, non può essere affrontata esclusivamente a livello nazionale. L’intelligenza artificiale attraversa confini, economie e sistemi informativi. Per questo Leone XIV indica la necessità di una vigilanza articolata a livello locale, nazionale e internazionale.
Un punto particolarmente delicato riguarda i valori incorporati nei sistemi di IA. Il Papa chiede che nessuna singola ideologia o interesse particolare possa determinarli unilateralmente. Dietro un algoritmo, infatti, non esiste una completa neutralità: esistono criteri di progettazione, dati selezionati, obiettivi, priorità e decisioni umane.
Quando gli algoritmi decidono chi è visibile
È probabilmente uno dei passaggi più attuali dell’intervento. Leone XIV mette in guardia da una nuova e più sottile forma di dominio che può emergere quando gli algoritmi determinano chi viene visto e chi rimane invisibile, mentre le piattaforme digitali influenzano il dibattito pubblico senza un’adeguata responsabilità.
Il problema riguarda direttamente la qualità della democrazia. Una parte crescente delle informazioni che raggiungono le persone viene infatti selezionata attraverso sistemi automatici. Gli algoritmi possono determinare quali notizie, opinioni, persone e contenuti acquisiscano visibilità e quali, invece, restino ai margini.
Il potere non consiste più soltanto nel produrre informazioni. Consiste anche nella capacità di decidere ciò che gli altri vedranno. Per questo trasparenza, pluralismo e responsabilità delle piattaforme diventano questioni che riguardano non soltanto la tecnologia, ma la libertà stessa delle persone.
La dignità dei lavoratori non può essere subordinata agli algoritmi
Nel discorso trova spazio anche il rapporto tra intelligenza artificiale e lavoro. Leone XIV denuncia il rischio che «la dignità dei lavoratori» venga subordinata all’ottimizzazione dei sistemi. È una questione fondamentale. L’intelligenza artificiale può aumentare produttività, sicurezza ed efficienza e liberare le persone da numerose attività ripetitive. Ma il criterio dell’efficienza non può diventare assoluto.
Un lavoratore non è una variabile da ottimizzare. La persona possiede una dignità che precede qualsiasi valutazione della sua produttività economica. L’organizzazione algoritmica del lavoro, pertanto, non può ridurre l’essere umano a una serie di indicatori, prestazioni e dati. Proprio qui emerge una delle differenze fondamentali tra utilizzare l’IA come strumento e trasformarla in criterio di giudizio sull’essere umano.
Il rischio di un nuovo colonialismo tecnologico
Il Papa allarga poi lo sguardo ai rapporti internazionali. La rapida evoluzione dell’intelligenza artificiale potrebbe aumentare la dipendenza tecnologica dei Paesi più poveri nei confronti di quelli economicamente e tecnologicamente più avanzati.
L’innovazione rischierebbe così di diventare un nuovo veicolo di «colonialismo ideologico o economico». La questione riguarda dati, infrastrutture, capacità di calcolo, modelli di IA e conoscenza tecnologica. Se questi strumenti dovessero concentrarsi nelle mani di pochi attori economici o di un ristretto gruppo di Paesi, la rivoluzione dell’intelligenza artificiale potrebbe accentuare le disuguaglianze invece di ridurle.
Il principio della destinazione universale dei beni richiamato dal Pontefice assume allora una dimensione nuova: nell’era digitale, anche accesso alla conoscenza e possibilità di partecipare all’innovazione diventano elementi decisivi dello sviluppo.
La famiglia come prima scuola di umanità
Leone XIV collega infine la trasformazione tecnologica alla famiglia, definita come la prima scuola di umanità. È nella famiglia, osserva, che impariamo la fiducia prima del calcolo, la generosità prima della competizione, il dialogo prima della divisione e l’amore prima del potere.
L’intelligenza artificiale non deve quindi erodere le relazioni umane trasformando persone e rapporti in dati o simulazioni. Il Pontefice richiama anche il problema dei contenuti digitali rivolti ai più giovani e quello dei modelli economici capaci di rendere più fragile la vita familiare.
Non si tratta di contrapporre relazioni umane e tecnologia. Significa ricordare che esistono dimensioni dell’esistenza che non possono essere misurate soltanto attraverso il calcolo.
Non un’intelligenza artificiale che sminuisca l’umanità
Nella conclusione del suo intervento Leone XIV riassume con particolare efficacia la prospettiva proposta. «Il mondo non ha bisogno di un’intelligenza artificiale che sminuisca l’umanità», afferma. Ha invece bisogno di intelligenza umana accompagnata dalla saggezza, di autorità politica guidata dalla coscienza e di innovazione tecnologica orientata dalla carità.
È questo il punto centrale dell’intero discorso. Il problema dell’intelligenza artificiale non può essere risolto soltanto costruendo algoritmi sempre più potenti. Più aumenta il potere della tecnologia, maggiore diventa la responsabilità delle persone chiamate a progettarla, utilizzarla e governarla.
L’alternativa delineata da Leone XIV non è quindi tra progresso e rifiuto della tecnologia. È tra due differenti idee di progresso: una fondata prevalentemente su potere, efficienza e controllo; l’altra nella quale l’innovazione rimane subordinata alla dignità della persona, alla libertà, alla giustizia e al bene comune.
Solo in questa seconda prospettiva, conclude il Papa, l’intelligenza artificiale potrà diventare non una concorrente dell’uomo, ma «un servitore del bene comune».
Immagine elaborata con IA.
