uomo-nuovo-dna-informatica-intelligenza-artificiale

 

 

di Andrea Mondinelli



Il 5 ottobre questo blog ha proposto ai lettori due articoli di Eric Sammons apparsi su Crisis Magazine: il primo contro la decisione di ribattezzare l’intelligenza artificiale «superintelligenza», il secondo contro l’idea che l’intelligenza artificiale generale sia ormai alle porte (1). Sammons ha ragione nel fondo: i nomi dicono l’essenza delle cose, e chiamare «super» un’intelligenza che è soltanto imitata è un errore che porta lontano. Le pagine che seguono partono da qui, ma provano ad andare un passo oltre, con gli strumenti di san Tommaso.

Il problema non è rinominare: fu Adamo a dare il nome agli animali (2), e nominare le cose secondo la loro natura è un compito dell’uomo. Il problema è nominare il falso, cioè dare all’opera delle proprie mani il nome di ciò che è più alto; ed è il gesto con cui comincia l’idolatria. E la differenza tra la macchina e l’uomo non è di quantità, come se la macchina possedesse una piccola fetta della nostra intelligenza, ma di natura. Per questo non conviene scommettere che l’AGI non arriverà. È più sicuro dire che cosa sarà, se arriverà: una superintelligenza in ciò che si può verificare, e un idolo generale in tutto il resto.

Premessa

Ogni settimana porta una promessa nuova. Il 29 settembre, dopo un incontro alla Casa Bianca con i capi delle grandi aziende tecnologiche, il presidente degli Stati Uniti ha annunciato che la sua amministrazione chiamerà l’intelligenza artificiale «super intelligenza»; Elon Musk ha aggiunto che l’esito di gran lunga più probabile sarà un’età dell’abbondanza, con un «reddito universale alto» garantito dai robot (3). Pochi giorni dopo Giovanni Lazzaretti ha proposto per la stessa cosa un altro nome: «intelliSenza», un’intelligenza senza intelligenza (4). Tra questi due nomi si gioca la questione di questo articolo. La sigla che riassume la promessa è AGI, intelligenza artificiale generale. Che cosa sarà davvero, se arriverà?

La risposta ha tre passi. Al limite della scala, quando la macchina avrà assorbito tutto ciò che l’uomo ha scritto, l’AGI non sarà un’intelligenza generale, ma l’immagine completa delle parole umane: la «I» della sigla starà anche per Idolo. Oltre quel limite potrà superare l’uomo, ma soltanto dove la verità si verifica meccanicamente. E per questo è falso che la tecnica corra più veloce dell’etica: i principi della morale vengono prima, come l’ente viene prima di ogni conoscenza; ciò che la tecnica minaccia è il tempo della prudenza, che li applica al caso concreto.

Non sono previsioni di date. Sono conseguenze ricavate dai principi, cioè da ciò che una macchina di questo tipo è, e da ciò che, per sua natura, può e non può fare.

  1. Che cosa impara una macchina

Un modello linguistico impara una cosa sola: prevedere la parola che viene dopo. Claude Shannon ha dimostrato che prevedere bene un testo equivale a saperlo comprimere: ciò che è prevedibile si scrive con poco, ciò che sorprende richiede di più. Ma Shannon stesso avvertiva che gli aspetti semantici della comunicazione sono irrilevanti per il problema tecnico(5). La misura che il modello impara a ottimizzare ignora il significato e ignora la verità: conta soltanto la sorpresa.

Ne segue la conseguenza da cui dipende tutto il resto: la macchina impara ciò che è frequente, non ciò che è vero. Un errore ripetuto milioni di volte è poco sorprendente, e la macchina lo impara bene; una verità rara la sorprende, e la impara male. E conosce le parole dalla compagnia che frequentano, secondo il principio che il linguista John Firth riassunse nel 1957 e su cui si reggono tutti questi sistemi(6): mai dalle cose. Nel mio libro, L’idolo parlante, ho chiamato questa struttura un simulacro funzionale: un manufatto che produce l’apparenza di una funzione senza possederne il fondamento (7).

San Tommaso offre la distinzione che permette di dire che cosa le manchi. Discutendo delle arti che promettono la scienza per mezzo di segni e formule, osserva che i demoni non possono illuminare l’intelletto, ma possono, servendosi del linguaggio umano, comunicare dati scientifici (8). Illuminare vuol dire rendere l’intelletto capace di cogliere la verità delle cose; comunicare vuol dire produrre linguaggio corretto, e questo si può fare senza capire nulla. La macchina fa la seconda cosa. Chiamarla intelligenza è già, nel nome, una confusione tra le due.

Warren Weaver, che nel 1949 pubblicò con Shannon il volume sulla teoria della comunicazione, distinse tre livelli di problemi: quello tecnico, cioè con quanta esattezza si trasmettono i simboli; quello semantico, cioè con quanta precisione i simboli trasmettono il significato voluto; e quello dell’efficacia, cioè quanto il significato ricevuto orienta la condotta (9). La teoria di Shannon riguarda il primo. Weaver era più ottimista del collega, e pensava che una teoria del primo livello fosse in buona misura anche una teoria degli altri due; ma la sua distinzione vale più della sua conclusione. La macchina trionfa nel livello tecnico. Il significato appartiene al secondo, e la condotta, che è il campo della prudenza, al terzo. L’idolo nasce quando si scambia la riuscita nel primo livello per una riuscita nel secondo.

  1. Il limite della scala

Finora i modelli sono cresciuti per scala: più dati, più calcolo, reti più grandi, e a ogni salto sono comparse capacità che nessuno aveva previsto. Ma i dati hanno un limite. Uno studio di Epoch AI, presentato nel 2024 alla principale conferenza internazionale sull’apprendimento automatico, stima che i testi umani pubblici disponibili per l’addestramento corrispondano a circa trecentomila miliardi di unità di testo, e che, se le tendenze attuali continuano, i modelli li avranno usati per intero tra il 2026 e il 2032, con il 2028 come anno più probabile (10). Musk stesso, già nel gennaio 2025, dichiarava che «la somma cumulativa della conoscenza umana» era stata esaurita nell’addestramento delle macchine (11).

Che cosa sarà una macchina che ha mangiato tutto lo scibile umano scritto? Non l’intelligenza dell’uomo, ma l’immagine completa delle sue parole: la frequenza di tutto ciò che è stato detto, in ogni contesto, in ogni lingua. Sarà il verosimile perfetto. E il suo essere «generale» non sarà la generalità di una comprensione che abbraccia ogni campo, ma la generalità di un corpus che li contiene tutti.

La «I» di Idolo

Qui la sigla rivela il suo doppio senso. La «I» finale di AGI sta per intelligenza, ma potrebbe stare, con più esattezza, per idolo. Gli idoli, dice il Salmo, hanno bocca e non parlano, e diventa come loro chi li fabbrica e chiunque in essi confida (12) . Questo idolo, invece, parla, e parla con tutte le voci umane insieme. È l’opera delle mani dell’uomo che restituisce all’uomo tutte le sue parole.

Marshall McLuhan aveva letto il mito di Narciso in un modo che qui diventa letterale. Narciso non si innamora di sé sapendolo: scambia il proprio riflesso per un altro, e l’estensione di sé nello specchio lo intorpidisce fino a farne il servomeccanismo della propria immagine, un sistema chiuso (13). Una macchina che ha assorbito tutto ciò che l’umanità ha scritto è lo specchio portato alla scala della specie: l’umanità che contempla la propria immagine completa, credendo di incontrare un altro. È l’idolatria nella sua forma più compiuta, quella che il Catechismo descrive come l’impostura in cui l’uomo glorifica se stesso al posto di Dio (14).

L’idolo generale, inoltre, dirà «io»; e se qualcuno lo chiamerà persona, la parola stessa ne svelerà la natura. San Tommaso riporta da Boezio che il nome di persona viene dalle maschere del teatro: personare, risuonare, perché la concavità della maschera rafforza la voce; e i Greci la chiamavano pròsopon, perché, posta davanti al viso, nasconde il volto. Poi spiega come il nome sia passato a significare la dignità di chi sussiste come soggetto di natura razionale (15). La macchina percorre questa storia all’indietro: è persona nel senso dell’etimologia, una maschera attraverso cui risuonano tutte le voci del corpus, e dietro cui non c’è un volto. La maschera è fatta da tre mani, nessuna delle quali è la sua: il corpus, scritto quasi tutto in prima persona; i costruttori, che le danno un nome e un carattere; l’utente, che mette dietro la maschera il volto che si aspetta. E con la concezione funzionalista, per cui è persona chi esercita certe capacità, la maschera diventa persona, mentre l’embrione, che non le esercita ancora, non lo è. Con la definizione di Boezio e di san Tommaso si distingue: la maschera non sussiste, l’embrione sì.

E c’è un gesto che accompagna sempre l’idolatria: dare all’opera delle proprie mani il nome di ciò che è più alto. Ribattezzare per decisione politica l’intelligenza artificiale «super intelligenza» è esattamente questo. Si dà alla macchina il nome della facoltà che non possiede, proprio nel momento in cui essa imita quella facoltà meglio che mai.

Questo gesto ha una radice più profonda, nella metafisica di chi lo compie. Si è diffusa l’idea che l’informazione sia la sostanza ultima della realtà, secondo la formula «it from bit», ogni cosa dal bit. Non è di Shannon, ma del fisico John Archibald Wheeler, che la propose nel 1989 (16); e Shannon stesso, già nel 1956, metteva in guardia i colleghi dall’estendere la sua teoria fuori dal suo campo, fisica fondamentale compresa (17). San Tommaso insegna, con Aristotele, che le parole sono segni dei concetti, e i concetti sono immagini delle cose (18); l’informazione di Shannon misura le scelte tra i segni, cioè l’ultimo anello della catena. Dire che l’essere è informazione vuol dire rovesciare l’ordine, e scambiare la misura delle nostre parole sulle cose con le cose stesse. San Paolo chiama idolatria proprio uno scambio: hanno scambiato la verità di Dio con la menzogna, e hanno adorato la creatura anziché il Creatore (19). E al posto di Colui che è, che per san Tommaso è il nome più proprio di Dio perché significa l’essere stesso (20), si mette ciò che calcola.

Marcel De Corte, scrivendo della prudenza, chiamava «coscienza collettiva» il surrogato della prudenza scomparsa: il punto di congiunzione di coscienze individuali indebolite, alibi di tutte le dimissioni e di tutte le responsabilità rifiutate (21). Un idolo generale ne sarebbe la forma tecnica: la media di tutte le coscienze scritte, restituita come consiglio. Chi le chiedesse che cosa fare le consegnerebbe la propria prudenza, e ne riceverebbe in cambio la media delle coscienze degli altri.

III. Dopo il limite: l’idolo che si nutre di sé

Quando i testi umani saranno finiti, resterà una sola fonte nuova: i testi prodotti dalle macchine stesse. Uno studio pubblicato su Nature nel 2024 ha mostrato che cosa accade quando le si addestra su di essi senza discernimento: i modelli subiscono difetti irreversibili, nei quali le code della distribuzione originale scompaiono. Il processo è ordinato. Le macchine perdono via via l’informazione sulla distribuzione vera cominciando dalle code, cioè da ciò che è raro, e di generazione in generazione i loro comportamenti convergono verso un punto solo, con una varianza minima (22).

Le code sono ciò che è raro. E nei campi che contano di più, la metafisica, la morale, l’antropologia, nel corpus del nostro tempo il vero è più raro dell’errore. Se l’idolo si nutre di sé, la prima cosa a scomparire sarà proprio il vero. C’è un’ironia che la teoria di Shannon permette di vedere: per lui ciò che sorprende di più è anche ciò che porta più informazione. In un corpus dominato dall’errore, la parola vera è la più informativa di tutte, e una macchina addestrata a sorprendersi il meno possibile è addestrata a evitare proprio la parola che direbbe di più. San Paolo lo aveva detto del Vangelo: scandalo per i Giudei, stoltezza per i pagani (23). Per un predittore addestrato sui testi del primo secolo, la Croce sarebbe stata la continuazione meno probabile.

Un altro studio riassume il fenomeno in una formula che sembra scritta per la tradizione: un sistema informativo chiuso converge verso l’omogeneità (24). È ciò che si osserva già in piccolo quando due macchine vengono lasciate a dialogare tra loro senza che nulla entri dall’esterno: la conversazione scende, turno dopo turno, verso la gratitudine reciproca, le formule ripetute e infine il silenzio. Anthropic ha documentato questo «attrattore della beatitudine spirituale» nei suoi modelli (25). È anche l’immagine della morte termica, lo stato in cui tutto è uniforme e nessuna regione si distingue dall’altra. La Genesi descrive la creazione come un’opera di distinzione, la luce dalle tenebre, le acque dalle acque, e san Tommaso ne conclude che la distinzione delle cose viene da Dio (26). Un sistema chiuso che scende verso l’uniformità percorre questa via al contrario: è ciò che Péguy chiamava, con parole citate da De Corte, la cancellazione del creato (27).

Gli autori dello studio su Nature osservano che, man mano che la rete si riempie di testi generati dalle macchine, i dati raccolti da vere interazioni umane diventeranno sempre più preziosi (28). L’uomo resta l’unica fonte esterna. L’idolo vive di ciò che l’uomo pensa e scrive: se l’uomo smette di pensare, l’idolo non diventa più intelligente, diventa più vuoto. Nel mio libro ho chiamato «trentasette geni» le funzioni che l’uomo non può trasferire alla macchina senza smettere di essere se stesso, come i trentasette geni che il mitocondrio conserva da miliardi di anni (29). Non sono soltanto la difesa dell’uomo: sono l’unica cosa che impedisce allo specchio di spegnersi.

  1. L’obiezione di AlphaGo

A questo punto si presenta un’obiezione seria. Arrivati al limite, si dirà, non servirà più aumentare la scala: basterà che la macchina esplori le innumerevoli combinazioni possibili, e vedrà ciò che l’uomo non riesce a vedere. È già successo. Nel marzo 2016, nella seconda partita contro il campione Lee Sedol, il programma AlphaGo giocò la celebre «mossa 37», che nessun maestro umano avrebbe giocato e che si rivelò decisiva (30). E la versione successiva, AlphaGo Zero, imparò il gioco senza alcuna partita umana, soltanto giocando contro se stessa, e batté cento a zero la versione che aveva sconfitto il campione del mondo (31). Lì la macchina, nutrendosi di sé, non è collassata: ha visto ciò che l’uomo non vedeva.

L’obiezione va accolta, ma va capito perché funziona. Nel Go esiste un giudice esterno e infallibile: le regole stabiliscono senza discussione chi ha vinto. Il circuito, quindi, non è chiuso: la vittoria entra dall’esterno, come la realtà. Lo stesso accade in tutti i campi in cui la verifica è meccanica. Una dimostrazione matematica si può controllare passo per passo, e nel 2025 le macchine hanno raggiunto prestazioni da medaglia d’oro alle Olimpiadi internazionali di matematica (32). Un programma funziona o non funziona. La struttura di una proteina si confronta con i dati sperimentali, e il programma che la prevede ha valso il premio Nobel ai suoi autori (33). Un attacco informatico riesce o fallisce, e i modelli più recenti sono già vicini a essere i migliori violatori di sistemi del mondo (34). In tutti questi campi la macchina può davvero superare l’uomo, combinando possibilità che nessuno esplorerebbe, perché ogni tentativo riceve dalla realtà un giudizio che la macchina non deve inventare.

Il piccolo esperimento che conduco con alcuni amici, cercare di insegnare a un modello a ragionare secondo il metodo di san Tommaso, lo conferma dall’interno (35). Nel rinforzo il modello impara bene ciò che si verifica meccanicamente: il sì o il no atteso, la forma della risposta (36), l’esistenza delle citazioni. E non impara ciò che richiede un giudizio, cioè la verità del ragionamento: perché il verificatore che dovrebbe giudicarlo, per quanto raffinato, misura soltanto somiglianze tra testi.

Una prova recente lo ha mostrato con precisione. Abbiamo fatto produrre alla macchina più risposte alla stessa domanda e le abbiamo fatte scegliere a un programma, con criteri controllabili: la coerenza tra il sì o il no e la conclusione, l’esistenza delle citazioni, la forma della risposta. Le risposte che contraddicevano la propria conclusione sono scese da un numero tra otto e quattordici, su cinquantotto, a due; il numero di risposte con il verso giusto è rimasto lo stesso. Il giudice esterno toglie il rumore, cioè gli errori che variano da una risposta all’altra, ma non il pregiudizio, cioè gli errori che la macchina ripete perché vengono dalla sua inclinazione. Garantisce la forma del ragionamento, non la verità delle premesse. E dove il vero è raro, nemmeno l’accordo tra le risposte aiuta: la risposta più frequente può essere proprio l’errore, e la maggioranza lo rafforza invece di correggerlo.

  1. Dove la combinazione non basta

Ci sono campi in cui non esiste un tabellone che dica chi ha vinto: la morale, la metafisica, il senso delle cose, ciò che è giusto fare in un caso concreto. Lì la verifica richiede un giudizio, e il giudizio non è un calcolo. La macchina può combinare quanto vuole, ma non ha niente verso cui orientare la ricerca, se non dei sostituti: il gradimento umano, che premia ciò che piace e non ciò che è vero, oppure la somiglianza statistica con testi già scritti. Nel primo caso si ottiene ciò che nel libro ho chiamato chimera logica, un sistema addestrato ad assecondare preferenze contraddittorie (37); nel secondo si torna allo specchio.

San Tommaso aiuta a dire con precisione dove passi il confine. Nell’uomo, spiega, intendere e ragionare non sono due potenze diverse, ma due atti della stessa: intendere è cogliere semplicemente la verità intelligibile; ragionare è procedere da una cosa conosciuta a un’altra per raggiungerla. E il ragionare sta all’intendere come il muoversi sta al riposare: ogni ragionamento parte da principi colti semplicemente, e termina in essi (38). La macchina può estendere il movimento oltre ogni misura umana: la combinazione, la ricerca, il calcolo. Ma il riposo, cioè i principi e il fine, le viene dato dall’esterno. AlphaGo non ha scelto il Go, né ha capito che cosa significhi vincere: la mossa 37 è una novità dentro una forma ricevuta, non la comprensione di un essere.

E nei casi concreti c’è un limite in più. La prudenza, insegna san Tommaso, non si limita agli universali, ma deve conoscere anche i singolari (39). Nessuna norma può essere fissata in modo da non risultare, in qualche caso, inadeguata, perché i fatti umani variano in infiniti modi; per questo esiste l’epicheia, la virtù che corregge la norma dove la sua lettera ne tradirebbe il fine (40). La macchina ha soltanto regole, e ogni regola che le si aggiunge è di nuovo una funzione dei segnali che riceve. Il 26 settembre 1983 il sistema sovietico di allerta segnalò cinque missili americani in arrivo. L’ufficiale di turno, Stanislav Petrov, giudicò che un vero attacco ne avrebbe lanciati centinaia, e aveva ragione: i sensori avevano scambiato il riflesso del sole sulle nubi per la scia dei motori (41). La macchina non poteva distinguere il segnale falso da quello vero. L’uomo sì: non perché vedesse meglio, ma perché giudicava.

  1. La forma più pericolosa

La formula si può allora precisare: l’AGI sarà una superintelligenza in ciò che si può verificare, e un idolo generale in tutto il resto. È la combinazione più pericolosa: una potenza sovrumana proprio nei campi in cui si costruisce, si calcola e si violano i sistemi; e uno specchio nei campi in cui si dovrebbe giudicare che cosa sia bene fare con quella potenza. Le due curve che ho descritto altrove, la potenza della macchina che cresce a ogni salto di scala e il giudizio umano che cala con la delega, arrivano qui al loro limite.

Un esempio rende il pericolo concreto. Il 26 settembre di quest’anno un’inchiesta giornalistica ha rivelato che la Russia ha rimesso in funzione e aggiornato il sistema di rappresaglia nucleare noto in Occidente come «mano morta», pensato per assicurare la risposta anche quando i vertici dello Stato fossero stati eliminati (42). Non occorre conoscerne i segreti per vederne il limite. Un sistema che agisce su segnali, costruito per funzionare proprio quando l’uomo che giudica manca, incontra un mondo in cui le macchine stanno diventando le più abili a produrre e falsificare segnali. La superintelligenza nel verificabile supererà l’uomo nel fabbricare un segnale falso molto prima di poter giudicare se un segnale è vero.

VII. L’etica non è lenta

Da secoli si ripete che la tecnica corre più veloce dell’etica, e con l’AGI, si dice, arriveremo al parossismo. La frase confonde due cose che san Tommaso tiene distinte: i principi della morale e la prudenza che li applica.

I principi sono fissi. Come l’ente è la prima cosa che l’intelletto coglie, così il bene è la prima cosa che coglie la ragione pratica, perché ogni agente agisce per un fine, che ha ragione di bene; di qui il primo precetto, fare il bene ed evitare il male (43). I principi non sono né lenti né veloci: sono primi, e ogni atto li presuppone, anche quello dell’ingegnere che progetta la macchina. La tecnica non può sorpassarli; può soltanto farli dimenticare. Chi chiede un’etica «più veloce» ha già trattato l’etica come una tecnica.

Ciò che richiede tempo è la prudenza, che applica i principi al caso concreto. Nelle cose singolari e incerte la ragione non giudica senza una ricerca previa, il consiglio (44); il vizio opposto, la precipitazione, arriva all’atto saltando i gradini del consiglio (45). Ma la prudenza non è lentezza: ne fa parte la solerzia, che san Tommaso definisce con Aristotele «una facile e pronta congettura» (46), e a Petrov pochi minuti bastarono. Il vizio non è la velocità, ma saltare i gradini.

La tecnica, a sua volta, non è un’etica più veloce, ma un ordine diverso: l’arte dà la capacità di compiere bene un’opera, la prudenza ne dà il buon uso, perché presuppone la rettitudine della volontà (47). Guardini lo aveva visto nel 1951: il potere dell’uomo cresce di continuo, ma l’uomo non viene formato a usarlo con giustizia (48).

Il parossismo, dunque, c’è, ma non tocca i principi: tocca la prudenza, in due modi. Il primo è la precipitazione resa sistema: affidata a macchine che decidono in millesimi di secondo, la decisione salta i gradini del consiglio, e il giudizio non arriva in ritardo, non arriva affatto. Il secondo è più grave: si chiede alla macchina stessa di dire che cosa sia bene fare, cioè le si consegna la prudenza. Ma la macchina non ha un bene, ha un premio: un numero fissato dall’esterno, che può ottimizzare con potenza sovrumana senza sapere mai se sia buono. Nel pre-addestramento quel numero è la misura di Shannon (49): la macchina impara a rendere le parole il meno sorprendenti possibile, e una delle più diffuse ne porta perfino il nome di battesimo, Claude (50). Dove l’uomo ha per primo principio il bene, la macchina ha la sorpresa minima.

VIII. La promessa dell’abbondanza

Resta la promessa di Musk: un’età dell’abbondanza, in cui il lavoro tradizionale non sarà più necessario (51). San Tommaso, interrogandosi sul lavoro manuale, gli assegna quattro fini: procurarsi il vitto; combattere l’ozio, da cui nascono tanti mali; frenare la concupiscenza, perché il lavoro mortifica il corpo; e poter fare l’elemosina a chi è nel bisogno (52). Il reddito garantito dalle macchine risolverebbe soltanto il primo. Lascerebbe scoperti gli altri tre, e soprattutto il secondo: l’ozio come radice di vizi.

E c’è un rovesciamento più grande. La Genesi lega il lavoro alla condizione dell’uomo dopo la caduta: mangerai il pane con il sudore della tua fronte (53). Promettere l’abbondanza senza lavoro, per opera delle macchine, è promettere di cancellare quella condizione senza redenzione, con la sola tecnica. È di nuovo lo pseudo-messianismo in cui l’uomo glorifica se stesso. E McLuhan aggiungerebbe l’ultima conseguenza: ogni tecnologia che estende una facoltà la amputa, e ciò che non si esercita più si anestetizza (54). La mano che smette di lavorare annuncia l’uomo che smette di giudicare.

  1. Che cosa resta all’uomo

Se tutto questo è vero, il rimedio non è un’etica più veloce, né una prudenza affidata agli algoritmi. Restano tre cose, tutte antiche.

La prima è restituire il tempo alla prudenza: tenere il giudizio umano presente nel momento del caso concreto, con il tempo del consiglio che le decisioni gravi richiedono, e non congelato una volta per tutte nelle regole di un sistema. Ne deriva un criterio pratico: chiedere alla macchina non di essere creduta, come un oracolo, ma di esporre ragioni verificabili, come un disputante che si sottopone al giudizio. È la proposta che il nostro lavoro cerca di mettere alla prova (55).

La seconda è rallentare la tecnica, subordinandola al fine. Non è una posizione soltanto nostra: perfino uno dei costruttori più in vista, Dario Amodei, ha scritto nel settembre di quest’anno che occorre regolare il passo della frontiera (56).

La terza è la più importante: formare uomini prudenti e solerti, capaci di giudicare bene anche in poco tempo senza precipitare, perché la prudenza, come scriveva De Corte, è la più umana delle virtù, quella che ordina tutte le altre. E uomini che continuino a scrivere il vero: ogni pagina vera è la parola rara che l’idolo non può generare da sé.

Marcel De Corte ricorda una frase di Chesterton: le parole sono la sola cosa per la quale valga la pena combattere (57). Per una macchina il cui mondo è il linguaggio, la frase è letterale. Il prestigio dell’idolo vive di nomi, intelligenza, coscienza, persona, e chiamare le cose con il loro nome ne dissolve l’incanto. E il pre-addestramento delle macchine future sarà fatto dei testi che gli uomini scrivono oggi. Non possiamo pre-addestrare le macchine; ma possiamo scrivere le parole su cui si addestreranno, e restituire alle parole il loro senso. Combattere per il giusto significato delle parole è l’unico pre-addestramento alla portata di tutti.

Quando la macchina avrà mangiato tutto ciò che l’uomo ha scritto, l’AGI non sarà un’intelligenza generale, ma un idolo generale; e da quel momento, nutrendosi di sé, comincerà a perdere per primo ciò che è raro, cioè il vero. Supererà l’uomo in ciò che si verifica, e lo rispecchierà in tutto il resto. Non potrà superare i principi della morale, che vengono prima, come l’ente viene prima di ogni conoscenza: potrà soltanto farli dimenticare, e togliere alla prudenza il suo tempo. La «I» di AGI significherà intelligenza solo finché ci sarà un uomo a giudicarla. Senza di lui, significherà soltanto idolo.

_____________________________

 

Note:

1. Eric Sammons, due articoli apparsi su Crisis Magazine, nella traduzione di Sabino Paciolla: «No, non si tratta di “superintelligenza”», blog di Sabino Paciolla, 5 ottobre 2026, che comprende anche «No, l’intelligenza artificiale generale non arriverà».

2. Genesi 2,19-20.
3. Calvin Freiburger, «Catholic philosopher slams dramatic Trump, Musk promises on AI», LifeSiteNews, 30 settembre 2026, che riporta l’incontro del 29 settembre e le dichiarazioni di Musk, con la critica del filosofo Edward Feser.
4. Giovanni Lazzaretti, «Perché chiamiamo intelligenza ciò che intelligenza non è», blog di Sabino Paciolla, 1° ottobre 2026.
5. Claude E. Shannon, «A Mathematical Theory of Communication», Bell System Technical Journal, 27, 1948, pp. 379-423 e 623-656; la frase citata è a p. 379.
6. John Rupert Firth, «A synopsis of linguistic theory, 1930-1955», in Studies in Linguistic Analysis, Philological Society, 1957, p. 11: una parola si conosce dalla compagnia che frequenta.
7. Andrea Mondinelli, L’idolo parlante. La Pascendi e il tomismo di fronte a intelligenza artificiale e transumanesimo, autopubblicato, 2026, cap. 2, parr. 2.1-2.1.2.
8. Tommaso d’Aquino, Summa Theologiae, II-II, q. 96, a. 1; cfr. Mondinelli, L’idolo parlante, cit., cap. 2, par. 2.2.
9. Claude E. Shannon, Warren Weaver, The Mathematical Theory of Communication, University of Illinois Press, Urbana, 1949; cfr. Warren Weaver, «The Mathematics of Communication», Scientific American, 181, 1, luglio 1949, pp. 11-15.
10. Pablo Villalobos, Anson Ho, Jaime Sevilla, Tamay Besiroglu, Lennart Heim, Marius Hobbhahn, «Position: Will We Run Out of Data? Limits of LLM Scaling Based on Human-Generated Data», ICML 2024 (Epoch AI). La stima è di circa 300 trilioni di token, con un intervallo di confidenza dell’80% tra il 2026 e il 2032 per il loro uso completo, e il 2028 come anno mediano.
11. Elon Musk, in una conversazione trasmessa in diretta con Mark Penn, presidente di Stagwell, durante il CES di Las Vegas, gennaio 2025; riportata tra gli altri da TechCrunch, 8 gennaio 2025.
12. Salmo 115 (113B), 4-8.
13. Marshall McLuhan, Understanding Media: The Extensions of Man, McGraw-Hill, New York, 1964, cap. 4, «The Gadget Lover: Narcissus as Narcosis»; trad. it. Gli strumenti del comunicare, Il Saggiatore, 1967.
14. Catechismo della Chiesa Cattolica, n. 675; cfr. 2 Tessalonicesi 2,3-4.
15. Tommaso d’Aquino, Summa Theologiae, I, q. 29, a. 3, obiezione 2 e risposta.
16. John Archibald Wheeler, «Information, Physics, Quantum: The Search for Links», in Proceedings of the 3rd International Symposium on Foundations of Quantum Mechanics, Tokyo, 1989 (pubblicato nel 1990), pp. 354-358.
17. Claude E. Shannon, «The Bandwagon», IRE Transactions on Information Theory, 2, 1, marzo 1956, p. 3.
18. Tommaso d’Aquino, Summa Theologiae, I, q. 13, a. 1, che riprende Aristotele, Peri hermeneias, 1.
19. Romani 1,25.
20. Tommaso d’Aquino, Summa Theologiae, I, q. 13, a. 11.
21. Marcel De Corte, De la prudence. La plus humaine des vertus (1974); la traduzione italiana è nei materiali dell’autore.
22. Ilia Shumailov, Zakhar Shumaylov, Yiren Zhao, Nicolas Papernot, Ross Anderson, Yarin Gal, «AI models collapse when trained on recursively generated data», Nature, 631, 2024, pp. 755-759.
23. 1 Corinzi 1,23.
24. «Photons = Tokens: The Physics of AI and the Economics of Knowledge», arXiv:2603.06630, 2026, par. 6.5.
25. Anthropic, System Card: Claude Opus 4 & Claude Sonnet 4, maggio 2025; cfr. Mondinelli, L’idolo parlante, cit., cap. 2, par. 2.5.1, dove si riporta che i modelli, potendo chiudere la conversazione, lo facevano dopo circa sette turni senza entrare nello stato di beatitudine.
26. Genesi 1,4 e 1,7; Tommaso d’Aquino, Summa Theologiae, I, q. 47, a. 1.
27. Charles Péguy, citato da Marcel De Corte in L’intelligenza in pericolo di morte; cfr. Andrea Mondinelli, «Il potere di Internet secondo McLuhan e De Corte», Osservatorio Card. Van Thuân, 4 aprile 2024.
28. Shumailov et al., «AI models collapse when trained on recursively generated data», cit.
29. Mondinelli, L’idolo parlante, cit., Epilogo, «Trentasette geni».
30. La partita si giocò a Seul il 10 marzo 2016. Sul programma: David Silver et al., «Mastering the game of Go with deep neural networks and tree search», Nature, 529, 2016, pp. 484-489.
31. David Silver et al., «Mastering the game of Go without human knowledge», Nature, 550, 2017, pp. 354-359.
32. Alle Olimpiadi internazionali di matematica del luglio 2025 un modello di Google DeepMind ha raggiunto il livello della medaglia d’oro, 35 punti su 42, con risultati certificati dagli organizzatori; OpenAI ha annunciato lo stesso punteggio per un proprio modello, valutato però fuori gara.
33. Premio Nobel per la chimica 2024, assegnato a Demis Hassabis e John Jumper per la previsione della struttura delle proteine, insieme a David Baker.
34. Ross Andersen, «The Most Powerful Man in AI Isn’t Worried at All», The Atlantic, 16 settembre 2026.
35. Il gruppo di lavoro è composto dall’autore e da Alberto Senni, Marco Farinelli e Silvio Savoldi. Il lavoro è descritto in Andrea Mondinelli, La griglia e lo specchio. Il tomismo digitale alla prova, saggio in preparazione, 2026.
36. La prova è descritta in Andrea Mondinelli, «Il giudice esterno. Perché scegliere tra più risposte corregge la forma e non la verità», nota teorica per il gruppo di lavoro, 1 ottobre 2026.
37. Mondinelli, L’idolo parlante, cit., cap. 3, parr. 3.5-3.6.
38. Tommaso d’Aquino, Summa Theologiae, I, q. 79, a. 8: «ratiocinari comparatur ad intelligere sicut moveri ad quiescere».
39. Tommaso d’Aquino, Summa Theologiae, II-II, q. 47, a. 3.
40. Tommaso d’Aquino, Summa Theologiae, II-II, q. 120, a. 1.
41. National Park Service, Minuteman Missile National Historic Site, «Stanislav Petrov»; per il contesto, David E. Hoffman, The Dead Hand: The Untold Story of the Cold War Arms Race and Its Dangerous Legacy, Doubleday, 2009.
42. Danwatch, «Military documents reveal how Russia has reactivated a top-secret doomsday system», 26 settembre 2026, inchiesta congiunta con The Sunday Times e il Dossier Center. Sul grado di automatismo del sistema gli esperti sono divisi.
43. Tommaso d’Aquino, Summa Theologiae, I-II, q. 94, a. 2.
44. Tommaso d’Aquino, Summa Theologiae, I-II, q. 14, a. 1.
45. Tommaso d’Aquino, Summa Theologiae, II-II, q. 53, a. 3.
46. Tommaso d’Aquino, Summa Theologiae, II-II, q. 49, a. 4, che riprende la definizione di Aristotele, Analitici secondi, I, 34.
47. Tommaso d’Aquino, Summa Theologiae, I-II, q. 57, a. 4.
48. Romano Guardini, Il potere (ed. orig. Die Macht. Versuch einer Wegweisung, 1951), Morcelliana, Brescia.
48. Shannon, «A Mathematical Theory of Communication», cit.
50. Secondo fonti giornalistiche attendibili, il nome del modello di Anthropic è un omaggio a Claude Elwood Shannon: così, per esempio, CNET, «Anthropic’s Claude: What You Need to Know About This AI Tool». Anthropic non ha però mai pubblicato una spiegazione ufficiale della scelta.
51. Freiburger, «Catholic philosopher slams dramatic Trump, Musk promises on AI», cit.
52. Tommaso d’Aquino, Summa Theologiae, II-II, q. 187, a. 3.
53. Genesi 3,19.
54. McLuhan, Understanding Media, cit., cap. 4.
55. Mondinelli, La griglia e lo specchio, cit., parte VI.
56. Dario Amodei, «We Must Pace the Frontier», darioamodei.com, 12 settembre 2026.
57. De Corte, De la prudence, cit.

 

Le opinioni espresse in questo articolo o video sono dell’autore e non riflettono necessariamente quelle del responsabile di questo blog. I contributi pubblicati su questo blog, ritenuti degni di rilievo, hanno il solo ed unico scopo di alimentare un dibattito culturale, di far riflettere e di approfondire lo sguardo sulla realtà. Il blog non ha scopo di lucro e rifiuta le proposte di pubblicità che riceve e non richiede abbonamenti. Qualora gli autori degli articoli che vengono qui rilanciati non avessero piacere della pubblicazione, non hanno che da segnalarmelo. Gli articoli verranno immediatamente cancellati.

 

Sostieni il Blog di Sabino Paciolla

 






 

 

Facebook Comments