Il mito della neutralità tecnologica
Oggi resiste ancora un grande equivoco: l’idea che l’intelligenza artificiale (IA) sia un semplice strumento neutrale, un mezzo il cui impatto dipende esclusivamente da come decidiamo di usarlo. È una visione rassicurante, ma nasconde una realtà molto più complessa.
Nessuna tecnologia si sviluppa dal nulla. Dietro ogni algoritmo, infrastruttura o device ci sono scelte umane precise, valori impliciti e, inevitabilmente, una specifica visione del mondo.
Questi sistemi entrano con forza nel tessuto sociale proprio perché nascono all'interno di un contesto fatto di interessi economici, background culturali dei programmatori e, soprattutto, dati di addestramento. Quando in questo meccanismo si insinuano i cosiddetti bias – che si tratti di dati, modelli o scelte progettuali – l’algoritmo non fa altro che replicare, e spesso amplificare, le disuguaglianze che già attraversano la nostra società.
Ecco perché l’IA non è solo un software più avanzato. Di fatto, orienta il nostro sguardo sulla realtà: determina quali informazioni mostrarci, suggerisce contenuti e finisce per condizionare, spesso senza che ce ne accorgiamo, le nostre decisioni quotidiane. La vera domanda non è tanto che cosa l’IA sia in grado di fare, ma quale modello di società stia contribuendo a delineare.
Il bivio etico e la concentrazione del potere
Questa urgenza emerge con chiarezza anche nella Lettera enciclica Magnifica humanitas di Papa Leone XIV. Nel testo pontificio l’IA è considerata come una delle grandi linee di frattura del nostro tempo. Non si tratta di un semplice salto tecnologico, ma di una transizione epocale che investe in prima persona la libertà, la responsabilità e la stessa convivenza umana. Il Papa si esprime con estrema chiarezza:
«In astratto, essa non è di per sé una soluzione ai problemi dell’umanità, come non è di per sé un male; ma, concretamente, non è neutrale, perché assume il volto di chi la pensa, la finanzia, la regola, la usa. Per questo la prima scelta non è tra un “sì” o un “no” all’intelligenza artificiale, ma tra edificare Babele o ricostruire Gerusalemme: tra un potere che pretende di dominare il cielo e un popolo che, alla presenza di Dio, si mette a lavorare unito per rialzare le mura della convivenza fraterna»[1].
Questo bivio tra Babele e Gerusalemme si gioca innanzitutto sulla concentrazione del potere. Oggi questo controllo è saldamente nelle mani delle Big Tech, i giganti che governano infrastrutture digitali e flussi di dati. Tutto ciò che produciamo online viene tracciato e analizzato per prevedere i nostri comportamenti, orientando così le nostre decisioni individuali. I dati sono diventati la risorsa decisiva del nostro tempo. Shoshana Zuboff ha definito questo processo capitalismo della sorveglianza[2]: l’oggetto della colonizzazione non sono più i territori, ma lo spazio dell’esperienza quotidiana, progressivamente trasformato in informazione da estrarre, analizzare e controllare.
Qui si aprono interrogativi politici decisivi, che non hanno nulla di tecnico: chi decide cosa vediamo? Chi governa i dati? Chi stabilisce le regole degli algoritmi?
L’automazione dello scarto e la sfida politica
Su questo punto Papa Leone XIV ha una posizione netta, mettendo in guardia dal delegare progressivamente le decisioni umane alle macchine:
«Affidare, nei fatti, a un algoritmo il potere di selezionare chi merita e chi no, senza che nessuno si assuma più il peso della decisione, significa affidargli il compito di ridefinire i confini delle possibilità umane. Ciò che viene meno, in questo processo, non è solo l’empatia verso l’escluso, che può essere imitata artificialmente, ma la responsabilità politica, perché lo scarto dei deboli viene ammantato di neutralità e oggettività, davanti alle quali è impossibile protestare. E così, l’ingiustizia si fa silenziosa e la compassione, la misericordia e il perdono, non come mera apparenza, ma come gesti politici, scompaiono dall’orizzonte»[3].
Anche sul versante laico la diagnosi è simile. Il filosofo e storico Yuval Noah Harari insiste sulla necessità di istituzioni flessibili, capaci di intercettare i rischi emergenti delle tecnologie contemporanee. Istituzioni «in grado di identificare e rispondere alle minacce man mano che si presentano, controllando non solo le debolezze umane note, come l’avidità e l’odio, ma anche gli errori di origine radicalmente aliena. Non esiste una soluzione tecnologica a questo problema. Si tratta piuttosto di una sfida politica»[4].
Un'esigenza che nasce proprio nella natura opaca dei modelli computazionali più avanzati, in grado di sviluppare le cosiddette capacità emergenti che sfuggono al controllo dei loro stessi creatori. Del resto, la stessa «intelligenza artificiale spiegabile» (Explainable AI, XAI) si configura al momento come un orizzonte di ricerca aperto. Di fronte a questa imperscrutabilità tecnica, il problema si sposta sul terreno della responsabilità e del controllo:
«In molti casi, tuttavia, i processi interni che conducono a un risultato possono essere poco trasparenti, e ciò rende più difficile attribuire responsabilità e correggere gli errori. È qui che diventa decisivo ciò che chiamiamo accountability: la possibilità di identificare chi deve “rendere conto” delle decisioni, motivarle, controllarle e, quando necessario, contestarle e rimediare ai danni che ne derivano»[5].
Il miraggio transumanista e la crisi dei legami
Dall’altra parte, il transumanesimo interpreta la tecnica come mezzo di superamento della condizione biologica. L’evoluzione umana viene concepita come un progetto intenzionale. In questo scenario, il tema del potenziamento tecnologico – l’enhancement delle capacità fisiche e cognitive – diventa centrale: il corpo come materia plasmabile e il limite come ostacolo da oltrepassare.
A questa deriva rispondeva Edgar Morin, ricordando che l’alleanza tra scienza, tecnica ed economia rischia di produrre «un uomo aumentato ma per nulla migliorato, e una società governata da algoritmi, tendente a farsi guidare dall’IA, e nello stesso tempo a fare di noi delle macchine banali»[6].
Questo ddepauperamento si riflette nei legami. I sistemi di IA sono oggi in grado di simulare conversazioni, restituire empatia artificiale e produrre l’illusione di una presenza costante. Molti vi trovano un rifugio immediato, privo di attriti. Ma una macchina non ha una coscienza, non prova dolore e non risponde delle proprie azioni. La Magnifica humanitas va dritta al cuore del problema:
«Quando la parola viene simulata, essa non costruisce una relazione, ma una sua parvenza. L’imitazione artificiale della relazione di cura o di accompagnamento può diventare pericolosa quando si insinua in un contesto povero di relazioni e di affetti reali: allora il rischio non è tanto che una persona creda di parlare con un’altra persona, ma che perda il desiderio stesso di cercare davvero l’altro»[7].
Il rischio non è soltanto che le macchine si umanizzino, ma che gli uomini rinuncino alla fatica e alla bellezza di vivere dei veri legami.
Un campo aperto di responsabilità
Non si tratta però di firmare una condanna senza appello. Ogni tecnologia porta in sé opportunità e rischi: tutto dipende da chi ne governa la direzione. Riconoscere che l’IA non è neutrale significa riconoscere che può essere orientata e trasformata. Il futuro non è già scritto. Proprio su questo terreno si stanno moltiplicando le reazioni: una resistenza[8] concreta che unisce scienziati, intellettuali, programmatori e imprenditori a cittadini, educatori, famiglie e scuole, tutti alleati nel rifiuto di uno sviluppo asservito esclusivamente alle logiche del profitto o del controllo sociale. L’enciclica insiste su una responsabilità condivisa:
«Significa sottrarla ai monopoli, renderla discutibile, contestabile, e quindi abitabile, restituendola alla pluralità delle culture umane e delle forme di vita. Il compito, oggi, non è solo etico o tecnico: è ecologico nel senso più radicale, perché chiama in causa una nuova dimensione della nostra Casa comune. L’IA è già ambiente in cui siamo immersi e potere con cui dobbiamo fare i conti. Per questo, non basta regolarla: va disarmata e resa ospitale»[9].
Considerazioni conclusive
La questione che l’IA pone non è tecnica, ma antropologica: quale idea di umano intendiamo custodire? Non è in gioco la potenza dei sistemi, ma la qualità dell’esperienza che ancora siamo in grado di riconoscere come nostra. Relazione, responsabilità, creazione e scelta non sono funzioni delegabili. Il futuro di questa tecnologia non si gioca nei laboratori della Silicon Valley o della Cina, ma sulla nostra capacità di difendere lo spessore dei legami e la dignità delle persone.
Se l’orizzonte si riduce a ciò che è misurabile e automatizzabile, il vero pericolo non sarà una macchina che prende il posto dell’uomo, ma una percezione già impoverita di umano che rende superfluo tutto ciò che non si lascia calcolare.
Giuseppe Pani
prof@giuseppepani.it
[1] LEONE XIV, Lettera enciclica Magnifica humanitas sulla custodia della persona umana nel tempo dell’intelligenza artificiale (15 maggio 2026), Libreria Editrice Vaticana, Città del Vaticano 2026, n. 9.
[2] S. ZUBOFF, Il capitalismo della sorveglianza, tr. it. di P. BASSOTTI, Luiss University Press, Roma 2019.
[3] LEONE XIV, Magnifica humanitas, n. 103.
[4] Y.N. HARARI, Nexus. Breve storia delle reti di informazione dall’età della pietra all’IA, Bompiani, tr. it. di M. PIANI, Milano 2024, p. 398.
[5] LEONE XIV, Magnifica humanitas, n. 105.
[6] E. MORIN, Prefazione, in M. CERUTI, Il tempo della complessità, Raffaello Cortina, Milano 2018, p. 7.
[7] LEONE XIV, Magnifica humanitas, n. 100.
[8] T. BONINI - E. TRERÉ, Algoritmi per resistere. La lotta quotidiana contro il potere delle piattaforme, Mondadori, Milano 2025.
[9] LEONE XIV, Magnifica humanitas, n. 110.
