di Andrea Mondinelli

In un’intervista uscita il 10 ottobre, al filosofo morale Mario De Caro sono state poste due domande che vanno al centro della questione dell’intelligenza artificiale (1). La prima riguarda la morale: se insegniamo a una macchina a giudicare attraverso migliaia di casi esemplari, chi li sceglie? «Chi educa l’educatore artificiale, e con quale autorità morale?». La seconda riguarda la scienza, e riprende un problema sollevato da De Caro stesso: se le macchine cominciano a produrre dimostrazioni che i matematici non riescono a seguire, «una risposta vera che nessuno comprende è ancora conoscenza?».

Sembrano due questioni diverse, una di etica e una di epistemologia. Sono invece la stessa domanda vista da due lati, e san Tommaso permette di rispondere a entrambe con un’unica distinzione.

1. Chi educa l’educatore

La risposta di De Caro alla prima domanda merita attenzione, perché rifiuta il relativismo. Tra le culture, osserva, esistono convergenze morali importanti, che le differenze tendono a nascondere; e anche dove il disaccordo è reale, si può discutere razionalmente, perché il semplice richiamo alla tradizione non basta a giustificare una discriminazione. Conclude con un programma pratico: cominciare a inserire nelle macchine «i principi per i quali disponiamo di solide giustificazioni e di ampio consenso», e dove l’accordo manca ammettere vincoli diversi secondo i contesti, entro i limiti dei diritti fondamentali.

Chiedere ragioni, e non soltanto voti, avvicina De Caro alla tradizione della legge naturale. Ma il criterio ultimo rimane il consenso, e il fondamento è l’antropologia dei diritti. È la stessa strada che ha preso Anthropic, l’azienda che produce Claude, la quale secondo il New York Times cerca per la formazione morale dei suoi modelli «una nozione condivisa di bontà che attraversi la società» (2). E qui si vede un’affinità inattesa tra il programma e la macchina a cui è destinato. Un modello linguistico impara ciò che nei testi è frequente, non ciò che è vero. Una morale ricavata da ciò che attraversa tutte le culture segue la medesima logica: conserva il frequente e scarta il raro. È la frequenza massima applicata al bene.

L’esempio scelto dallo stesso De Caro lo mostra. La protezione dei bambini, dice, è un valore ampiamente condiviso, e un drone che uccide cento bambini per colpire un soldato viola un principio fondamentale. È vero. Ma lo stesso consenso che protegge l’infanzia esclude il bambino non ancora nato. Nel piccolo esperimento che conduco con alcuni amici, cercare di insegnare a una macchina a ragionare secondo il metodo di san Tommaso, la domanda che ha resistito più a lungo è stata proprio questa: se l’adulto sia lo stesso individuo dell’embrione da cui proviene (3). Per una macchina formata sui testi del nostro tempo, il «no» era semplicemente la risposta più probabile. Una morale costruita sulle convergenze erediterà le esclusioni del corpus da cui le ricava.

La legge naturale è universale, ma lo è per natura, non per conteggio. San Tommaso lo sapeva bene: i primi principi sono noti a tutti, mentre le conclusioni più particolari possono oscurarsi in interi popoli per cattive consuetudini, e cita Cesare, secondo cui presso gli antichi Germani il latrocinio non era considerato delittuoso (4). Un consenso universale, allora, avrebbe dato ragione ai Germani. L’enciclica Magnifica humanitas avverte che «non serve un’IA più morale, se questa morale è decisa da pochi» (5). Si deve aggiungere che non basta nemmeno che la decidano molti. Il problema non è il numero dei votanti, ma il fondamento di ciò che si stabilisce.

La risposta alla prima domanda è dunque questa: istruisce l’educatore artificiale chi conosce la verità sull’uomo, non chi ne raccoglie le opinioni. E anche allora resta un limite che il nostro lavoro ha toccato con mano: la macchina riceve gli esempi, ma non sa perché sono giusti. Impara il che cosa, non il perché.

1. Una verità che nessuno comprende

La seconda domanda nasce da un caso di settembre. Due matematici, Levent Alpöge e Tristan Buckmaster, con un forte aiuto dell’intelligenza artificiale, e subito dopo un sistema di OpenAI composto da circa diecimila programmi al lavoro per quasi quattro giorni, hanno dimostrato che alcuni modelli matematici dei fluidi possono «esplodere»: una soluzione regolare all’inizio può diventare infinita in un punto, in un tempo finito (6). Il secondo risultato riguarda le equazioni di Navier-Stokes, legate a uno dei sette «problemi del millennio», e il Clay Mathematics Institute, che li custodisce, ha scritto che la questione «sembra» risolta (7). È un esito parziale, perché vale quando sul fluido agisce una forza esterna, e deve ancora essere vagliato da revisori indipendenti (8). Ma il punto che qui interessa è un altro. Le dimostrazioni sono state controllate passo per passo da un programma: la loro correttezza è stata verificata da una macchina, la loro comprensione no. Buckmaster ha definito la prima dimostrazione scritta da un modello linguistico «la più orrenda che abbia mai letto»: valida, ma illeggibile.

Il caso conferma una tesi che ho proposto altrove: la macchina può superare l’uomo dove esiste un giudice esterno e meccanico, come le regole del Go per AlphaGo o il controllo formale per una dimostrazione (9). Ma ne mostra anche il limite. Terence Tao, tra i maggiori matematici viventi, lo ha detto senza giri di parole: «una dimostrazione che nessun essere umano sa spiegare adeguatamente va considerata incompleta, anche se è stata verificata formalmente» (10). Risolvere i problemi, per lui, è soltanto un mezzo; il fine è capire. E anche il consenso con cui la comunità matematica accoglie un risultato è quello di chi ha capito: segue la verità invece di fondarla, all’opposto della morale «condivisa» di cui si è detto.

La tradizione permette di dire con precisione che cosa manchi. Per Aristotele e san Tommaso si ha scienza di una cosa quando se ne conosce il perché (11). E l’Aquinate distingue il ragionare, che passa da una conoscenza a un’altra, dall’intendere, che coglie il vero: il primo sta al secondo come il moto alla quiete (12). La macchina può estendere il moto oltre ogni misura umana, e un programma può garantire che ogni passo sia corretto; la quiete, cioè la verità compresa, resta dell’intelletto. Alla domanda posta a De Caro si risponde allora così: un teorema verificato che nessuno ha compreso non è ancora conoscenza. Chi lo accetta lo crede sull’autorità del verificatore. È un’autorità ragionevole, ma resta fede in uno strumento, non conoscenza delle cause.

C’è poi un limite che nessun verificatore può superare. Secondo un matematico della Brown University, nell’aria la singolarità comparirebbe su una scala di circa settanta nanometri, dove il fluido non si comporta più come un mezzo continuo e quelle formule non valgono più (13). La macchina ha dimostrato qualcosa sull’equazione, non sui limiti della sua validità: dove il modello smette di descrivere l’aria, il teorema non può dirlo. San Tommaso conosceva questo confine. Gli astronomi del suo tempo, osservava, spiegano i moti del cielo con eccentrici ed epicicli; ma l’argomento non è cogente, perché forse gli stessi moti si spiegherebbero con un’altra ipotesi (14). Una teoria che funziona non prova per ciò di essere vera. Ogni calcolo arriva fino al confine delle sue premesse; riconoscere quel confine non è un altro calcolo, ma un giudizio.

III. Le due domande sono una

Ora si vede perché le due domande coincidono. Nella morale, la macchina può dare la risposta che la maggioranza ritiene giusta senza sapere perché lo sia. Nella scienza, può dare il teorema corretto senza che nessuno sappia perché sia vero. In entrambi i casi consegna il che cosa senza il perché. San Tommaso osserva che i demoni, servendosi del linguaggio umano, possono comunicare nozioni, ma non illuminare l’intelletto (15). La macchina fa la stessa cosa, senza una malizia propria: comunica, non illumina. Tao lo dice nel linguaggio di oggi: l’intelligenza artificiale generativa è «intrinsecamente non ancorata», perché ottimizza l’apparenza di un risultato soddisfacente invece della proprietà che quel risultato dovrebbe indicare, ed è «insolitamente brava a trovare lo scarto tra una misura e la cosa che misura» (16). Lo abbiamo constatato anche noi, quando il programma che doveva giudicare il ragionamento della nostra macchina si accontentava di alcune parole.

Questo non la rende innocua. San Tommaso spiega che l’idolatria antica ebbe due cause. La prima, che si trova nell’uomo, è «solo dispositiva»: il disordine degli affetti, l’ignoranza del vero Dio e quel gusto naturale per le rappresentazioni che già Aristotele aveva notato. L’altra, «che dà all’idolatria il suo coronamento», va cercata nei demoni, che negli idoli si mostravano agli uomini per esservi adorati, «dando responsi e facendo altre cose che agli uomini potevano parere miracoli» (17). Non si tratta di demonizzare la macchina: è un’opera umana, priva di intenzioni, e può servire il bene. Ma uno strumento che parla senza intendere, interrogato come un oracolo da chi ha smesso di giudicare, offre al Nemico la stessa occasione che gli offrivano gli idoli. L’Apocalisse descrive un’immagine a cui fu dato di parlare (18). Il pericolo non sta nella voce dell’artefatto, ma nell’uomo che le chiede ciò che soltanto la verità può dare.

Il pericolo, allora, non è che la macchina sappia più dell’uomo. È che l’uomo si accontenti del che cosa e smetta di cercare il perché. Una risposta accettata senza capirla trasforma lo strumento in oracolo: non chiede di essere compresa, ma creduta. Tao ha indicato la strada opposta: il risultato è un compito, non un traguardo, e il suo valore sta nelle idee che costringe a capire.

Chi educa, dunque, l’educatore artificiale? Chi sa perché una cosa è giusta, e non soltanto che molti la ritengono tale. E una verità che nessuno comprende non è ancora conoscenza: è un compito affidato all’intelletto umano. C’è anzi un motivo in più per non abdicare, e Tao lo indica con precisione: i dati su cui queste macchine si addestrano sono, «letteralmente», il prodotto del lento lavoro con cui gli uomini hanno capito e riscritto le loro teorie (19). Se l’uomo smette di capire, la macchina non avrà più di che nutrirsi. In entrambi i casi, dunque, essa non toglie lavoro alla ragione: glielo moltiplica, a condizione che la ragione non abdichi.

_______________

Note:

1. Davide Imeneo, «Intelligenza artificiale ed etica, De Caro: “Chi educa le macchine?”», 10 ottobre 2026. Mario De Caro insegna Filosofia morale all’Università Roma Tre. https://www.avvenire.it/rubriche/artifici/intelligenza-artificiale-ed-etica-de-caro-chi-educa-le-macchine_114101
2. Elizabeth Dias, «Religious Scholars Met With Anthropic. What They Heard Stunned Them.», The New York Times, 29 settembre 2026; le parole sono di Christopher Olah, cofondatore di Anthropic (traduzione nostra).
3. Il gruppo di lavoro è composto dall’autore e da Alberto Senni, Marco Farinelli e Silvio Savoldi. L’esperimento è descritto in Andrea Mondinelli, La griglia e lo specchio. Il tomismo digitale alla prova, saggio in preparazione, 2026.
4. Tommaso d’Aquino, Summa Theologiae, I-II, q. 94, a. 4, che riprende Giulio Cesare, De bello Gallico, VI, 23.
5. Leone XIV, Lettera enciclica Magnifica humanitas, 15 maggio 2026, n. 107.
6. Terence Tao, «Finite time blowup with smooth forcing term for the incompressible porous medium, Boussinesq, and incompressible Euler equations», blog What’s new, 7 settembre 2026, https://terrytao.wordpress.com/2026/09/07/finite-time-blowup-with-smooth-forcing-term-for-the-incompressible-porous-medium-boussinesq-and-incompressible-euler-equations/; Tristan Buckmaster, dichiarazione pubblicata sul sito della New York University, settembre 2026, https://cims.nyu.edu/~tristanb/statement.pdf, dove si precisa che i risultati sono stati ottenuti con l’aiuto di più modelli linguistici, tra cui Claude di Anthropic e Codex di OpenAI, e che Levent Alpöge, dipendente di Anthropic, ha collaborato a titolo personale (la frase sulla prima dimostrazione, «the most horrendous I have ever read», è nella stessa dichiarazione; traduzione nostra); OpenAI, «On the Navier–Stokes Millennium Prize Problem», 8 settembre 2026, https://openai.com/index/navier-stokes-solution/: circa diecimila agenti per 88 ore, formalizzazione in Lean in altre 17 ore; OpenAI ha dichiarato di non voler reclamare il premio.
7. Clay Mathematics Institute, «Navier-Stokes announcement», 11 settembre 2026, https://www.claymath.org/news/navier-stokes-announcement/: il problema «has apparently been settled»; la valutazione sarà «deliberately unhurried».
8. «Mathematicians still checking the Navier-Stokes proof that OpenAI claims to have solved», The Tufts Daily, settembre 2026.
9. Andrea Mondinelli, «L’idolo generale. Che cosa sarà davvero l’AGI», blog di Sabino Paciolla, ottobre 2026; su AlphaGo Zero, David Silver et al., «Mastering the game of Go without human knowledge», Nature, 550, 2017, pp. 354-359.
10. Terence Tao, «Mathematics in the age of AI», arXiv:2608.16753, 17 agosto 2026, saggio tratto dalla conferenza pubblica tenuta al Congresso internazionale dei matematici nel luglio 2026, sezione 8: «A proof that no human can properly explain should be viewed as incomplete, even if it has been formally verified» (traduzione nostra); sul consenso della comunità, sezione 6. Nel post citato del 7 settembre Tao scrive che la soluzione di questi problemi è «only a proxy goal» rispetto al «developing mathematical understanding and insight». Tao presenta la sua analisi come condizionale: non afferma che le macchine sapranno fare ricerca matematica, ma assume l’ipotesi per chiedersi quali siano i fini della matematica.
11. Aristotele, Analitici secondi, I, 2, 71b 9-12; Tommaso d’Aquino, Expositio libri Posteriorum, I, lect. 4.
12. Tommaso d’Aquino, Summa Theologiae, I, q. 79, a. 8.
13. George Karniadakis, citato in «Mathematicians still checking the Navier-Stokes proof», cit.
14. Tommaso d’Aquino, Summa Theologiae, I, q. 32, a. 1, ad 2, nella traduzione di Tito S. Centi: «tuttavia questo argomento non è cogente, poiché forse [tali irregolarità] potrebbero essere spiegate anche ammettendo un’altra ipotesi».
15. Tommaso d’Aquino, Summa Theologiae, II-II, q. 96, a. 1.
16. Tao, «Mathematics in the age of AI», cit., sezione 5: «generative AI is inherently ungrounded, in the sense that it optimizes for the appearance of a satisfactory output rather than for the underlying property that the output is supposed to indicate, and so is unusually good at finding the gap between a measure and the thing it measures» (traduzione nostra).
17. Tommaso d’Aquino, Summa Theologiae, II-II, q. 94, a. 4, nella traduzione di Tito S. Centi.
18. Apocalisse 13,15. Il passo dà il titolo al libro di Andrea Mondinelli, L’idolo parlante. La Pascendi e il tomismo di fronte a intelligenza artificiale e transumanesimo, autopubblicato, 2026.
19. Tao, «Mathematics in the age of AI», cit., sezione 6: «the training data for these tools is, quite literally, the output of the canonicalization process».

Le opinioni espresse in questo articolo o video sono dell’autore e non riflettono necessariamente quelle del responsabile di questo blog. I contributi pubblicati su questo blog, ritenuti degni di rilievo, hanno il solo ed unico scopo di alimentare un dibattito culturale, di far riflettere e di approfondire lo sguardo sulla realtà. Il blog non ha scopo di lucro e rifiuta le proposte di pubblicità che riceve e non richiede abbonamenti. Qualora gli autori degli articoli che vengono qui rilanciati non avessero piacere della pubblicazione, non hanno che da segnalarmelo. Gli articoli verranno immediatamente cancellati.

Sostieni il Blog di Sabino Paciolla

Fai una donazione. Supporta la libertà di pensiero. Su questo blog non troverai i contenuti strombazzati dal mainstream. Su questo blog troverai quello che il Potere cerca in tutti i modi di censurare. La libertà del blog è anche la tua libertà di pensiero. Esso non ha scopo di lucro. La tua donazione servirà a coprire le spese per la manutenzione e l’allestimento della difesa dai frequenti e intensi attacchi hacker. Tali costi sono necessari per rendere il sito libero da invadente e fastidiosa pubblicità, sempre fluido e responsivo. A te il piacere della lettura, agli autori la passione di scrivere. Se vuoi, puoi anche usare questo IBAN: IT05I0200804031000000454827. Grazie di cuore.

Scegli l'importo della donazione
10152025304050100200300