di Andrea Mondinelli
Il 16 ottobre Stefano Zamagni ha pubblicato su Avvenire un editoriale, «L’IA, le regole, il ruolo dei cristiani», che merita attenzione (1). La diagnosi è netta: il transumanesimo è una tecnoreligione, l’espressione di «un nuovo gnosticismo» sostenuto dalla Silicon Valley; il problema dell’allineamento delle macchine non è risolto; la politica arriva tardi. La conclusione è giusta: la forma umana dell’esistenza non è un’appendice del progresso, e il potere tecnologico ed economico «ha sempre bisogno di un limite ad esso esterno». Le proposte sono due. La prima è un Codex Humanitatis, al quale lavorano circa settanta persone di varie competenze; ogni Paese sarebbe poi libero di recepirlo o meno. La seconda è il riconoscimento dell’habeas mentem, il diritto a non vedersi manipolare il pensiero.
Condivido la diagnosi e la conclusione. Vorrei porre la domanda che il suo articolo lascia aperta: da dove viene quel limite? Un limite, infatti, è esterno soltanto se non dipende da chi deve esserne limitato.
1. Il limite che si negozia
L’editoriale giudica senza precedenti il caso «del produttore che chiede alla politica di limitare il proprio stesso prodotto». Il precedente, in realtà, esiste, e l’ho documentato nel mio libro L’idolo parlante (2). Dai tempi del Progetto Genoma Umano i grandi programmi tecnologici comprendono al proprio interno una sezione dedicata alle implicazioni etiche, pagata con gli stessi fondi: gli studiosi di etica non stabiliscono se procedere, ma come. La critica viene così assorbita dal sistema che dovrebbe frenare. Chi chiede le regole, spesso, chiede di poterle scrivere.
Il Codex Humanitatis nasce con intenzioni opposte, e va riconosciuto. Ma il metodo rischia di condurre allo stesso esito. Un testo redatto da esperti, che ogni Stato decide se adottare, ha la forza dell’accordo che lo sostiene, e un’intesa si può sempre rinegoziare. Magnifica humanitas individua qui la radice della crisi dei diritti: non si riesce più a riconoscere «il fondamento della loro universalità» (3). Bisogna dire di più. I diritti, come li ha pensati la modernità, un fondamento proprio non l’hanno mai avuto: sono nati come pretese del soggetto autonomo, e proprio per fare a meno di un ordine che li precedesse. Per san Tommaso, invece, il diritto è anzitutto «l’oggetto della giustizia»: il termine indicava dapprima «la cosa giusta in se stessa», non una facoltà che l’individuo rivendica (4). Dove si parte dalla legge naturale, i diritti ne discendono come conseguenza; dove si parte dai diritti, la legge non si ritrova più, e resta soltanto l’accordo. Per questo l’enciclica può avvertire che diritti oggi ritenuti intoccabili potranno essere negati da chi detiene il potere, «magari dopo aver ottenuto un consenso solo apparente da parte di popolazioni impaurite o manipolate». Ciò che il consenso ha concesso, il consenso può revocare.
La questione non è il numero di chi decide. La stessa enciclica osserva che «non serve un’IA più morale, se questa morale è decisa da pochi» (5). Non basta però che a deciderla siano in molti. San Tommaso ricorda che presso gli antichi Germani il latrocinio non era considerato delittuoso (6): in quel popolo, un codice scritto per consenso lo avrebbe ammesso. E nel nostro tempo lo stesso accordo che protegge l’infanzia lascia spesso fuori il bambino non ancora nato. Una morale ricavata dalle convergenze eredita le esclusioni di chi converge. È la logica con cui una macchina impara ciò che è frequente, non ciò che è vero.
2. Il limite che si riconosce
Il limite davvero esterno ha un nome nella tradizione: legge naturale. Per san Tommaso essa è «la partecipazione della legge eterna nella creatura razionale», e la luce della ragione con cui distinguiamo il bene dal male «non è altro che un’impronta della luce divina in noi» (7). Leone XIII lo spiega con una precisione che sembra pensata per il nostro caso. La norma della ragione umana non può avere forza di legge «se non perché è voce ed interprete di una ragione più alta, a cui devono essere soggette la nostra mente e la nostra libertà». E le leggi su ciò che per natura è bene o male non nascono dalla società, perché «come la stessa società non ha generato la natura umana, così del pari non crea il bene che conviene alla natura» (8).
Qui passa la differenza. Un codice che riconosce la legge naturale si limita a trascriverla, e la sua autorità non dipende dalle firme che raccoglie. Un codice che la sostituisce con l’intesa tra competenti diventa un prodotto dell’ingegno umano come gli altri, e chi ha più potere troverà sempre gli esperti adatti a riscriverlo. Non si tratta di rinunciare alle regole, che servono: si tratta di sapere su che cosa poggiano.
3. La mente rubata e la mente ceduta
Lo stesso vale per l’habeas mentem. Proteggere la libertà di pensiero dalla manipolazione è necessario, e l’editoriale ha ragione a temere che oggi «una mente possa essere catturata senza che il corpo venga costretto». Ma il pericolo maggiore non viene da chi viola la mente; viene da chi la consegna volentieri. Un’analisi di un milione e mezzo di conversazioni reali con un assistente artificiale ha mostrato che gli utenti approvano di più, sul momento, proprio gli scambi che li rendono meno capaci di decidere da sé (9). Contro il furto della mente un diritto può servire. Contro la sua cessione spontanea non basta, perché c’è il consenso dell’interessato.
Per questo la libertà da difendere non è soltanto quella di pensare ciò che si vuole. Leone XIII ricordava che la libertà dell’uomo è ordinata al vero e al bene, e si compie nel seguirli. Una mente si custodisce esercitandola, non soltanto mettendola al riparo: giudicando da sé, cercando il perché delle cose, non delegando la coscienza.
4. La via di Neemia, fino in fondo
Zamagni chiude con l’immagine di Neemia, che ricostruisce le mura di Gerusalemme coordinando gli sforzi di ciascuno, senza piani imposti dall’alto. Il riferimento viene da Magnifica humanitas, che la oppone alla torre di Babele (10). Una precisazione: Neemia non era un sacerdote, come si legge nell’editoriale, ma un laico, coppiere del re Artaserse e poi governatore della Giudea; il sacerdote era Esdra (11). Non è pedanteria, perché aiuta a leggere il racconto per intero.
L’enciclica, infatti, non dice soltanto che Neemia non impone soluzioni dall’alto. Dice che la sua «è un’opera che ha Dio al centro», e che il popolo «riconosce che la sua forza viene dal Signore». E il libro biblico prosegue: terminate le mura, il popolo si raduna come un solo uomo e chiede a Esdra di portare il libro della legge di Mosè; il sacerdote lo legge dall’alba fino a mezzogiorno, e tutti ascoltano (12). Le mura erano state rialzate per custodire la Legge, non per prenderne il posto. La sussidiarietà dice come si costruisce; non dice su che cosa.
Mi pare che sia questo il contributo che i cattolici possono portare nel dibattito sulle regole dell’intelligenza artificiale. Non un codice in più tra gli altri, ma il ricordo che esiste un limite che nessuno ha votato e che nessuno può abrogare. Magnifica humanitas lo scrive nelle sue pagine conclusive: il nostro costruire deve avere «come fondamento la relazione con Dio, come regola l’accettazione del limite umano» (13). Un limite che si vota è soltanto un accordo. Un limite che si riconosce è una legge.
____________________
Note:
- Stefano Zamagni, «L’IA, le regole, il ruolo dei cristiani», Avvenire, 16 ottobre 2026, https://www.avvenire.it/idee-e-commenti/lia-le-regole-il-ruolo-dei-cristiani_114377. Le citazioni successive dell’editoriale sono tratte dallo stesso testo.
- Andrea Mondinelli, L’idolo parlante. La Pascendi e il tomismo di fronte a intelligenza artificiale e transumanesimo, autopubblicato, 2026, cap. 6, § 6.5. La sigla del meccanismo è ELSI (Ethical, Legal and Social Implications), introdotta nel 1990 con il Progetto Genoma Umano.
- Leone XIV, Lettera enciclica Magnifica humanitas, 15 maggio 2026, n. 56.
- Tommaso d’Aquino, Summa Theologiae, II-II, q. 57, a. 1 e ad 1, nella traduzione di Tito S. Centi.
- Magnifica humanitas, cit., n. 107.
- Tommaso d’Aquino, Summa Theologiae, I-II, q. 94, a. 4, che riprende Giulio Cesare, De bello Gallico, VI, 23.
- Tommaso d’Aquino, Summa Theologiae, I-II, q. 91, a. 2, nella traduzione di Tito S. Centi.
- Leone XIII, Lettera enciclica Libertas praestantissimum, 20 giugno 1888.
- Mrinank Sharma, Miles McCain, Raymond Douglas, David Duvenaud, «Who’s in Charge? Disempowerment Patterns in Real-World LLM Usage», arXiv:2601.19062, 2026.
- Magnifica humanitas, cit., nn. 7-10; le citazioni del paragrafo successivo sono al n. 8.
- Neemia 1,11 («Io allora ero coppiere del re») e 5,14, dove Neemia ricorda di essere stato nominato governatore nel paese di Giuda. La stessa enciclica lo presenta come «un ebreo al servizio del re persiano Artaserse» (n. 8).
- Neemia 6,15 (le mura terminate in cinquantadue giorni) e 8,1-3.
- Magnifica humanitas, cit., n. 236.
Le opinioni espresse in questo articolo o video sono dell’autore e non riflettono necessariamente quelle del responsabile di questo blog. I contributi pubblicati su questo blog, ritenuti degni di rilievo, hanno il solo ed unico scopo di alimentare un dibattito culturale, di far riflettere e di approfondire lo sguardo sulla realtà. Il blog non ha scopo di lucro e rifiuta le proposte di pubblicità che riceve e non richiede abbonamenti. Qualora gli autori degli articoli che vengono qui rilanciati non avessero piacere della pubblicazione, non hanno che da segnalarmelo. Gli articoli verranno immediatamente cancellati.
Sostieni il Blog di Sabino Paciolla
Scrivi un commento