AI, perché sarebbe sbagliato chiamarla “Superintelligenza”

Il 29 settembre scorso Donald Trump ha firmato un ordine esecutivo che dispone di sostituire, nelle comunicazioni ufficiali dell’amministrazione federale statunitense, l’espressione Artificial Intelligence (AI) con Super Intelligence (SI).La motivazione dichiarata è che il termine “artificiale” suggerirebbe qualcosa di falso, mentre le tecnologie che stiamo sviluppando sarebbero espressione di un’intelligenza autentica e superiore.Una scelta apparentemente linguistica, che introduce però una questione sostanziale: che cosa intendiamo per intelligenza quando attribuiamo a una tecnologia caratteristiche che sembrano appartenere all’essere umano?Non si tratta di negare i progressi straordinari compiuti negli ultimi anni, né di ridimensionare le trasformazioni già in atto. Il problema è comprendere che cosa questi progressi dimostrino effettivamente.Su questo tema ho trovato particolarmente utile un contributo pubblicato nell’aprile 2025 da Arvind Narayanan e Sayash Kapoor, dal titolo AI as Normal Technology. An alternative to the vision of AI as a potential superintelligence. Insomma, una prospettiva diversa rispetto alle narrazioni dominanti, tanto entusiastiche quanto catastrofiste.1. Una tecnologia normale, anche quando è rivoluzionariaL’espressione normal technology, utilizzata dagli autori, potrebbe trarre in inganno. Non significa che l’IA sia una tecnologia banale o destinata a produrre cambiamenti marginali.Anche l’elettricità, i computer e Internet sono, in questa prospettiva, tecnologie “normali”. Eppure hanno trasformato radicalmente la società, il lavoro, le relazioni e il nostro modo di vivere.Il criterio è piuttosto un altro, considerando che una tecnologia, per quanto potente, viene progettata, sviluppata, commercializzata, adottata e utilizzata in contesti umani, economici, culturali e istituzionali.Sono le persone e le organizzazioni a decidere come impiegarla, quali attività affidarle, quali limiti stabilire e quali conseguenze accettare.Questo ovviamente non elimina i rischi, ma cambia il modo di affrontarli. Anziché immaginare una nuova entità destinata inevitabilmente a prendere il sopravvento sull’umanità, gli autori suggeriscono di concentrarsi sulle condizioni concrete attraverso le quali l’IA entra nella società.Condividi2. Essere capaci di fare qualcosa non significa saperla fare nel mondo realeUno degli aspetti più convincenti del paper riguarda la distinzione tra invenzione, innovazione e diffusione.L’invenzione rende disponibili nuove capacità tecniche; l’innovazione le trasforma in prodotti e applicazioni; la diffusione avviene quando quelle applicazioni vengono effettivamente adottate dalle persone, dalle imprese e dalle istituzioni.Sono tre processi collegati, ma non procedono necessariamente alla stessa velocità.Un modello linguistico può ottenere risultati eccellenti in un esame professionale, senza per questo essere in grado di esercitare autonomamente quella professione. Può scrivere codice, elaborare documenti, analizzare informazioni, ma il suo utilizzo in un’organizzazione richiede verifiche, responsabilità, adattamenti e cambiamenti nelle procedure.Gli autori insistono dunque su questo divario tra capacità e affidabilità.Lo stesso vale per i cosiddetti benchmark, ossia i test utilizzati per misurare le prestazioni dei modelli. Sono strumenti importanti, ma misurano ciò per cui sono stati progettati, non necessariamente la capacità di operare in contesti reali, complessi e imprevedibili.Iscriviti ora3. Intelligenza, capacità e potere non sono la stessa cosaQui arriviamo probabilmente al nucleo più interessante della riflessione di Narayanan e Kapoor.Il concetto stesso di intelligenza, spiegano, non si presta facilmente a essere rappresentato attraverso una scala unica, sulla quale collocare esseri umani, animali e macchine, fino a immaginare un’intelligenza infinitamente superiore a tutte le altre.Gli autori propongono di distinguere soprattutto tra capacità e potere.La capacità riguarda ciò che un sistema riesce a fare. Il potere riguarda invece la possibilità concreta di intervenire sull’ambiente, modificare situazioni e produrre determinate conseguenze.Gli esseri umani hanno aumentato enormemente il proprio potere nel corso della storia, non perché sia cambiata radicalmente la loro dotazione biologica, ma perché hanno sviluppato conoscenze, strumenti, tecnologie e forme di organizzazione.L’intelligenza artificiale si inserisce perciò in questa storia.Possiamo costruire sistemi capaci di eseguire determinate attività molto meglio e più velocemente di noi, senza che ciò implichi automaticamente l’esistenza di una nuova forma di intelligenza superiore, dotata di volontà propria.Naturalmente, il problema del controllo rimane, e richiede di intervenire sulle modalità con cui progettiamo e utilizziamo i sistemi, limitiamo la loro autonomia, verifichiamo i risultati e distribuiamo le relative responsabilità.4. Il vero impatto dell’IA dipende anche dalle nostre scelteUn’altra considerazione importante riguarda i tempi delle trasformazioni.Narayanan e Kapoor ritengono che gli effetti economici e sociali più profondi dell’IA si manifesteranno gradualmente attraverso processi di adattamento che potrebbero richiedere decenni.È una previsione che non possiamo considerare dimostrata, soprattutto alla lucee dei più recenti progressi legati ai sistemi agentici, che riescono a svolgere sequenze di operazioni con un’autonomia sempre più crescente.Però rimane valida la distinzione fondamentale tra disponibilità di una capacità tecnica e la sua effettiva adozione sociale. Tanto per fare un esempio, per introdurre l’IA in un ospedale, in un’università, in un’amministrazione pubblica o in un’impresa non basta acquistare e adottare asetticamente uno strumento di intelligenza artificiale. Occorre ripensare – come abbiamo già ricordato in altre occasioni – il modo in cui si organizzano le attività, vengono distribuite le competenze e sono classificati gli specifici criteri di valutazione.E soprattutto, chiarire lo scopo per cui decidiamo di utilizzarla e i benefici concreti che intendiamo ottenere, come scrivevo nel precedente numero di questa newsletter, la settimana scorsa.È un aspetto sul quale torno spesso, perché riguarda il nostro modo di rapportarci alla tecnologia prima ancora delle sue prestazioni. La possibilità di fare qualcosa più velocemente, o di delegarla a una macchina, non ci dice ancora se sia opportuno farla, quale valore produca e per chi.Questo criterio diventa ancora più importante quando l’adozione dell’IA coinvolge intere organizzazioni e comunità.È anche su questo terreno che si collocano rischi molto concreti: la concentrazione del potere nelle mani di pochi operatori, le disuguaglianze nell’accesso alle risorse, la dipendenza da infrastrutture proprietarie, gli errori nei processi decisionali e la progressiva delega di attività senza un’adeguata valutazione delle conseguenze, come abbiamo potuto apprezzare nei paragrafi della Magnifica humanitas di Papa Leone XIV.5. Non abbiamo bisogno di mitizzare l’IA per comprenderne i rischiTirando le fila, non sappiamo fino a dove potranno arrivare le capacità dei sistemi nei prossimi anni, né possiamo escludere cambiamenti più rapidi di quelli immaginati. Ma questa mancanza di certezza non autorizza a presentare come acquisito ciò che non è stato ancora dimostrato.Questo vale tanto per chi annuncia l’imminente comparsa di un’intelligenza superiore a quella umana (AGI), quanto per chi presume che ogni sviluppo futuro sarà necessariamente prevedibile e controllabile.Anche in questo caso le parole contano, e mentre contribuiscono a costruire il nostro immaginario tecnologico, influenzano aspettative, comportamenti, investimenti e decisioni pubbliche che potrebbero con il tempo rivelarsi fuori quota.Chiamare indistintamente “superintelligenza” ciò che oggi conosciamo come intelligenza artificiale – o meglio, come una “normale tecnologia” – rischia insomma di compromettere uno dei criteri che ripeto spesso in questo spazio: la necessità di continuare a interrogarci su quanto siamo consapevoli delle nostre scelte quotidiane.Il progresso tecnologico, insomma, non coincide automaticamente con il progresso umano, che sarà sempre vincolato piuttosto che a uno strumento – potente quanto vogliamo -, agli scopi che perseguiamo, ai benefici che riusciamo a generare e alla responsabilità con cui ne affrontiamo le conseguenze.

Riceviamo e pubblichiamo da Giovanni Tridente – Docente Pusc