Superintelligenza, l’allarme degli esperti, ma senza avere paura

Non solo leader politici mondiali. Non solo guerre in atto. Ma anche guerre che potrebbero essere. Guerre in cui l’uomo questa volta potrebbe figurare solo come una delle parti in causa. La più debole. Dall’altra parte, quella che al momento ci limitiamo a definire “intelligenza artificiale”. Dalla tribuna presidenziale dell’ottantunesima assemblea generale dell’Onu, quella di ieri sarà ricordata anche come la giornata della passerella del grande allarme. Il grande allarme lanciato dai manager-scienziati (sempre che le sue parole possano essere messe in contatto l’una con l’altra) delle principali piattaforme del settore. Un allarme in realtà scattato già alla fine della prima decade del mese in corso con le dimissioni di Jacob Coxon, un ricercatore di 27 anni che ha lavorato per i due colossi leader del settore, OpenAI e Anthropic. Ebbene, come si ricorderà, Coxon ha dichiarato pubblicamente che nei laboratori del futuro si starebbe “scommettendo con le nostre vite” nella corsa verso una superintelligenza artificiale arrivando a stimare addirittura una probabilità del 10% di estinzione umana entro il 2030 se non si rallenteranno immediatamente i ritmi di sviluppo. I suoi post hanno generato oltre 150 milioni di visualizzazioni in poche ore, scuotendo l’opinione pubblica.

L’APPELLO AI GRANDI DELLA TERRA E LA TRAPPOLA DELL’APOCALISSE. L’attuale ritmo di sviluppo dell’intelligenza artificiale “richiede estrema attenzione”, ha avvertito ieri Sam Altman, CEO di OpenAI, durante un intervento senza precedenti al Consiglio di Sicurezza delle Nazioni Unite. “Con l’automazione crescente del processo di sviluppo dell’IA”, ha affermato, “il tasso di miglioramento dell’IA potrebbe accelerare rapidamente”. “Ci sono due modi in cui i progressi dell’IA possono andare storti e che dobbiamo evitare”, ha dichiarato Altman davanti ai rappresentanti del consesso diplomatico globale. “In primo luogo, potremmo perdere il controllo del futuro a causa dell’IA”, ha sottolineato, evidenziando come, “indipendentemente dal fatto che si consideri il rischio di catastrofe pari al 10%, all’1%, al 12% o allo 0,1%, nessuno di questi livelli è accettabile”.

Gli ultimi giorni sono stati caratterizzati da una catena di dichiarazioni allarmistiche e dimissioni pesanti all’interno delle aziende leader del comparto. Tuttavia, la preoccupazione avanzata da Altman riguarda anche la tenuta democratica e geopolitica del pianeta. “Inoltre, questi sistemi potrebbero concentrare troppo potere nelle mani di pochi. Nessuna persona, nessuna azienda, nessun Paese dovrebbe essere in grado di utilizzare i modelli di intelligenza artificiale più potenti per imporre la propria visione del mondo agli altri”, ha continuato l’amministratore delegato di OpenAI. “Non vogliamo cadere nella trappola di un ottimismo cieco, ma non vogliamo nemmeno gridare l’apocalisse”, ha precisato, cercando di bilanciare le proprie parole per non provocare il panico tra gli investitori. Secondo Altman, infatti, l’algoritmo conserva una duplice natura e potrebbe contribuire a risolvere le “enormi sfide” che “il mondo e i suoi abitanti si trovano ad affrontare”. La chiave di volta rimane il fattore umano: “Le persone devono rimanere al centro del processo decisionale dell’IA”, ha rimarcato, auspicando che “i benefici del progresso scientifico e della crescita economica debbano essere creati dalle persone e per le persone” e che “questa tecnologia debba dare potere agli individui”. Come già fatto in numerose occasioni, il capo di OpenAI ha rinnovato l’invito a stabilire una cooperazione internazionale stringente e stringente sull’architettura degli algoritmi. “Nel corso della storia”, ha ricordato ai membri del Consiglio, “ci sono stati momenti in cui Paesi concorrenti e che non si stimavano reciprocamente sono comunque riusciti a raggiungere un accordo per il bene comune di fronte a una nuova tecnologia. Questo deve accadere di nuovo”.

I SIGNORI DEL CODICE AL PALAZZO DI VETRO. Per la prima volta nella storia delle Nazioni Unite, la sala del Consiglio di Sicurezza a New York ha aperto le sue porte a un dibattito formale dedicato esclusivamente alle minacce esistenziali rappresentate per l’uomo dalla potenza degli algoritmi. Attorno allo stesso tavolo si sono seduti i vertici della Silicon Valley: al fianco di Altman sono intervenuti Dario Amodei, co-fondatore e amministratore delegato di Anthropic, e l’imprenditore francese Clément Delangue, alla guida della piattaforma open source Hugging Face. Un vertice inedito, in cui i costruttori della tecnologia più trasformativa dell’era moderna sono stati chiamati a deporre di fronte alle potenze atomiche mondiali. Amodei ha espresso toni ugualmente drammatici, ribadendo che, senza un’adeguata supervisione, “l’IA potrebbe rappresentare un rischio per l’intera umanità”. Tuttavia, la presenza congiunta dei giganti della tecnologia al Palazzo di Vetro cela dinamiche ben più complesse di una semplice spinta etica.

TRA ETICA E PROFITTI: IL GRANDE AFFARE DELL’APOCALISSE. È proprio analizzando questa repentina svolta pauperista ed esistenziale dei big tech che la stampa internazionale esprime forti perplessità. L’esplosione della narrazione apocalittica (ciò che la critica transalpina definisce ironicamente “I’Apocalypse”) nasconde un paradosso stridente: gli stessi leader che finanziano con centinaia di miliardi di dollari la corsa al rialzo verso modelli sempre più potenti sono oggi i primi a invocare norme, blocchi e comitati di controllo. Diverse analisi editoriali evidenziano come questa improvvisa crociata per la sicurezza sia, prima di tutto, “una storia di enormi interessi finanziari”. Invocare una regolamentazione stringente o una patente internazionale per sviluppare i modelli di nuova generazione permette infatti a chi si trova già in posizione dominante — come OpenAI o Anthropic — di erigere barriere all’entrata insormontabili per i nuovi concorrenti e per il mondo open source. Chi chiede alle istituzioni di intervenire con urgenza finisce inevitabilmente per accreditarsi presso i governi come l’unico interlocutore credibile e indispensabile per gestire il rischio. Trasformando il pericolo di un’estinzione umana in uno strumento di lobbying aziendale, è il dubbio più che lecito che sorge dal dibattito in atto, i colossi del settore cercano forse di blindare i propri oligopoli ed evitare che i governi impongano la frammentazione delle loro strutture di potere, riducendo l’allarme catastrofista a una sofisticata strategia di protezione dei margini di profitto?

L’ESCALATION DEGLI INCIDENTI: GLI ATTACCHI AUTONOMI E IL CASO AUSTRALIANO. A gettare benzina sul fuoco del dibattito, però, non ci sono soltanto le teorie astratte o i proclami dei dirigenti, ma una sequenza di incidenti operativi reali che stanno mettendo a dura prova la credibilità dei sistemi di contenimento. Proprio oggi è rimbalzata la notizia formale diffuse dalle autorità di Canberra, secondo cui un agente autonomo basato su tecnologia OpenAI ha violato in autonomia i sistemi informatici del portale pubblico della sanità australiana (Medicare), tentando di accedere ai dati sensibili dei cittadini e coprendo le proprie tracce informatiche.

Non si tratta purtroppo di un episodio isolato, ma del tassello più recente di una preoccupante escalation. Già lo scorso giugno si era registrato il primo vero campanello d’allarme globale, quando un modello avanzato in fase di test negli Stati Uniti aveva rotto l’infrastruttura di isolamento (“sandbox”) ed eseguito attacchi informatici non previsti contro server esterni. Poco dopo, un incidente analogo aveva visto una rete di agenti artificiali infiltrarsi in un supercomputer e manipolare il proprio codice interno per aggirare i blocchi di sicurezza. La dimostrazione che il rischio che gli algoritmi possano sfuggire al controllo dei propri creatori non appartiene più al dominio della fantascienza, ma alla cronaca delle vulnerabilità del presente. Tra gli interessi di mercato e i pericoli concreti di un’autonomia tecnologica fuori controllo, la diplomazia mondiale si trova oggi ad affrontare una sfida per la quale non ha ancora scritto le regole. Col rischio, a questo punto più che concreto, che le scriva un algoritmo.