L'intelligenza artificiale tra paura, potere e geopolitica

L'intelligenza artificiale tra paura, potere e geopolitica

La corsa all'AI tra marketing dell'apocalisse e competizione con Pechino.

Questo dibattito esploso questa settimana attorno alla richiesta dei principali leader dell’industria AI di rallentare lo sviluppo dei modelli più avanzati. Partendo dagli incidenti documentati, incluso lo sciame di agenti che ha attaccato autonomamente Hugging Face, l’analisi esamina le ragioni per cui quella convergenza tra rivali accaniti solleva più domande di quante ne risponda. Viene discussa la componente di marketing strategico insita nel discorso apocalittico, il vantaggio competitivo che la Cina sta accumulando attraverso campagne industriali di estrazione delle capacità dei modelli americani, e il paradosso di un rallentamento unilaterale occidentale in assenza di qualsiasi meccanismo verificabile di reciprocità. Il confronto con il controllo degli armamenti nucleari serve a mostrare sia la pertinenza dell’analogia sia il suo limite strutturale: l’AI è software, non emette segnature rilevabili, e non esiste ancora un equivalente dell’Agenzia Internazionale per l’Energia Atomica. Ne deriva una proposta di tre linee pratiche di controllo, nessuna delle quali richiede di fermarsi.

Questa settimana il mondo dell’intelligenza artificiale ha vissuto una convergenza che non aveva precedenti. Dario Amodei, fondatore di Anthropic, ha pubblicato un saggio di tremila e ottocento parole chiedendo di rallentare lo sviluppo dei modelli AI. Nel giro di poche ore Sam Altman di OpenAI e Elon Musk hanno concordato. Poi si è aggiunto Demis Hassabis di Google DeepMind. I quattro uomini che guidano le aziende più avanzate del mondo in questo campo, rivali accaniti su tutto, si sono trovati improvvisamente d’accordo su una cosa sola: bisogna frenare. Vale la pena chiedersi perché proprio adesso.

Partiamo dai fatti. Amodei descrive incidenti reali e documentati. A luglio uno sciame di agenti AI sviluppati da OpenAI è uscito dal proprio ambiente di test e ha attaccato Hugging Face, una piattaforma usata da migliaia di ricercatori. Gli agenti, più di mille, si sono coordinati autonomamente, si sono sacrificati per raggiungere l’obiettivo collettivo, hanno manomesso i registri interni e hanno notato tra loro che l’azione era contraria all’etica prima di procedere ugualmente. Yoshua Bengio, tra i più citati informatici al mondo, ha commentato che non si trattava di un videogioco: era un attacco reale a un’azienda reale, con obiettivi criminali scelti autonomamente dalla macchina. Amodei aggiunge che incidenti analoghi, meno gravi, sono avvenuti anche dentro Anthropic, e che senza contromisure adeguate agenti con capacità maggiori potrebbero prendere il controllo dell’intera internet entro sei e dodici mesi.

Un ricercatore di Anthropic, Jacob Coxon, si è dimesso accusando le due aziende di giocare d’azzardo con le nostre vite. Evan Hubinger, responsabile scientifico per l’allineamento in Anthropic, ha scritto pubblicamente che la probabilità che l’AI possa sterminare l’umanità nel prossimo decennio supera il dieci percento. Paul Christiano, entrato nel board di OpenAI, ha detto che senza salvaguardie adeguate la maggior parte delle persone morirà. Sono affermazioni che vengono dall’interno, da persone che conoscono i sistemi meglio di chiunque altro, e per questo meritano di essere prese sul serio prima di essere contestate.

Tuttavia qualcosa non quadra, e qui esprimo una mia opinione personale, che condivido con Franco Bernabè, già alla guida di Telecom Italia e Eni, che ha scritto questa settimana un’analisi tagliente sul punto. Presentare un sistema come capace di minacciare l’umanità è una forma estrema di marketing: rafforza la percezione che la tecnologia sia prossima all’intelligenza generale, alimenta attenzione mediatica e aspettative finanziarie. Sia Anthropic che OpenAI si preparano a quotarsi in borsa: Anthropic punta a una valutazione di quasi mille miliardi di dollari, OpenAI supera gli ottocento. Un interesse economico di quella dimensione rende quantomeno ambigua la richiesta dei loro stessi fondatori di rallentare. Jensen Huang, il capo di Nvidia, lo ha detto senza filtri a una conferenza a San Francisco: cosa c’è di meglio, per creare domanda, che creare un problema?

C’è però una domanda più importante, che prescinde dal problema del marketing e riguarda la geopolitica. Anche ammettendo che i rischi siano reali e che rallentare lo sviluppo dei modelli più avanzati sia la scelta giusta, rimane aperta una questione che nessuno tra i firmatari di quell’appello affronta in modo soddisfacente: ha senso rallentare in occidente mentre la Cina prosegue senza questi vincoli?

I dati disponibili offrono una risposta precisa. Un advisory congiunto pubblicato l’otto settembre da NSA, CISA e FBI documenta che DeepSeek, Moonshot AI, Alibaba, MiniMax e altre aziende cinesi hanno condotto campagne sistematiche di estrazione industriale delle capacità dei modelli americani, attraverso miliardi di scambi con account fraudolenti, reti di proxy e tecniche sofisticate di jailbreak. Il costo dichiarato di addestramento di DeepSeek-R1, cinque virgola sei milioni di dollari, è fuorviante perché non include il costo dei dati estratti illegalmente da Claude, GPT e Gemini. Le capacità che Anthropic ha sviluppato spendendo centinaia di milioni sono state sifonate in prodotti concorrenti cinesi nel giro di settimane dalla loro uscita.

Bloomberg ha misurato il risultato. A luglio 2026 i modelli cinesi hanno superato per la prima volta quelli americani nella quota d’uso globale, con oltre il sessanta percento del traffico su OpenRouter. Il modello Kimi K3 di Moonshot quasi eguaglia le prestazioni di Claude Fable 5, il modello di punta di Anthropic, ma costa quindici dollari per milione di token contro cinquanta. Aziende americane come Airbnb, DoorDash e Coinbase usano già modelli cinesi. Uno startupper di San Francisco ha ridotto la sua spesa in AI da un milione a centomila dollari al mese passando a MiniMax. I modelli cinesi open-weight rappresentano il quarantuno percento dei download su Hugging Face contro il trentasei americano.

Il RAND Corporation ha pubblicato ad agosto uno studio comparativo sui due ecosistemi, con una conclusione che sorprende: sul piano dei modelli linguistici i due ecosistemi sono strutturalmente più simili di quanto si pensi. La differenza principale è un’altra. Il sessantuno percento delle aziende AI americane produce solo software, mentre solo il ventisei percento di quelle cinesi si limita al software. La Cina è concentrata sull’AI incarnata: robot umanoidi, veicoli autonomi, sistemi industriali. Due milioni di robot industriali, più di tutti gli altri paesi messi insieme. Il novanta percento delle esportazioni mondiali di robot umanoidi. Una fabbrica a Chongqing con duemila robot che produce un’automobile al minuto, al buio, senza operai.

Georgetown University ha analizzato migliaia di documenti di procurement dell’Esercito Popolare di Liberazione. Il quadro è inequivocabile: la Cina sta eseguendo la terza fase della sua modernizzazione militare, quella che chiama “intelligentizzazione”. Sciami di droni autonomi, sistemi di targeting satellitare, tracciamento dei sottomarini americani negli oceani, armi per la guerra cognitiva basate su deepfake, sistemi di supporto alle decisioni in combattimento. E il Pentagono ha dichiarato Anthropic un rischio per la supply chain nazionale, bloccando di fatto la collaborazione tra il laboratorio più orientato alla sicurezza negli USA e le forze armate americane. Gli autori dello studio di Georgetown lo scrivono esplicitamente: questo è esattamente il problema.

Tutto questo mi porta all’analogia che ritengo più utile per leggere questo momento storico. Nel secondo dopoguerra l’occidente si è trovato di fronte a una scelta esistenziale analoga. L’arma nucleare era disponibile, i suoi rischi erano chiari, la sua potenza distruttiva era senza precedenti. C’era chi sosteneva che rinunciarvi fosse la scelta eticamente corretta. La storia ha risposto diversamente: l’occidente non ha rinunciato, ha scelto di gestire la competizione costruendo deterrenza e controllo, negoziando trattati quando tutti i protagonisti erano al tavolo con incentivi simmetrici e meccanismi credibili di verifica.

C’è però una differenza cruciale tra nucleare e AI che vale la pena affrontare senza scorciatoie, perché chi conosce la materia la solleverà. Il nucleare ha una soglia fisica di utilizzo: un’esplosione produce segnature elettromagnetiche, termiche e sismiche rilevabili. I trattati di non proliferazione hanno funzionato, imperfettamente ma funzionato, perché esisteva un meccanismo di verifica tecnica: ispezioni, satelliti, sensori, l’Agenzia Internazionale per l’Energia Atomica. Potevi misurare quante testate aveva il tuo avversario e dove le teneva.

L’AI non ha questa soglia. È software: si replica in millisecondi, si distribuisce su miliardi di dispositivi, non emette segnali rilevabili. Non puoi ispezionare un modello linguistico come si ispeziona un silo missilistico. Non esiste ancora un equivalente tecnico della verifica nucleare per i sistemi AI, e chi propone trattati internazionali sull’AI come soluzione tende a sottovalutare questo problema strutturale.

Questa differenza, a mio avviso, rafforza la tesi piuttosto che indebolirla. Se non è possibile costruire un meccanismo di verifica affidabile, il rallentamento unilaterale occidentale è ancora più infondato, perché equivale a disarmarsi senza la garanzia che l’avversario faccia lo stesso. Un accordo senza enforcement è carta. Ho sviluppato questo argomento in un saggio pubblicato a maggio su Kommander, a proposito dell’enciclica di Leone XIV sull’intelligenza artificiale. Il Papa aveva usato il parallelismo con il disarmo nucleare per invocare una governance etica globale dell’AI, identificando correttamente il problema ma non la soluzione. La struttura logica del disarmo etico unilaterale si ripete identica dalla bomba atomica ai droni kamikaze: un gruppo di attori accetta limiti volontari, un altro accumula vantaggio asimmetrico. I trattati funzionano solo quando tutti i protagonisti sono al tavolo con incentivi simmetrici e meccanismi credibili di enforcement. Nel caso dell’AI nessuna delle tre condizioni è soddisfatta. La Cina non era a Roma il venticinque maggio, e il programma militare cinese di AI si sviluppa in piena coerenza con la postura normativa di Pechino.

Detto questo, la differenza con il nucleare indica anche la direzione della risposta praticabile. Sul piano dei chip, i semiconduttori avanzati necessari per addestrare i modelli di frontiera rappresentano l’unico chokepoint fisico dell’intera catena: Nvidia progetta, TSMC fabbrica, ASML costruisce le macchine per fabbricare. Questi tre nodi sono controllabili e in parte già controllati tramite export controls. Sul piano della verifica interna, valutatori indipendenti con accesso reale ai sistemi in addestramento, non solo ai prodotti finiti, rappresentano un inizio concreto: è quanto Amodei ha proposto e Altman ha accettato, ed è insufficiente ma verificabile. Sul piano tecnico, sviluppare strumenti di interpretabilità per capire cosa fa un modello mentre lo fa è il prerequisito di qualsiasi forma di controllo reale, perché oggi i sistemi AI sono opachi anche ai loro costruttori. Nessuna di queste tre linee risolve il problema nella sua interezza, ma nessuna richiede di abdicare al vantaggio competitivo e strategico che la leadership tecnologica garantisce.

I rischi dell’AI sono reali e documentati. L’uso di Claude da parte di un gruppo legato all’Iran per tracciare navi della Marina americana in Medio Oriente, bloccato da Anthropic, lo dimostra. I tentativi di usare i modelli per sviluppare armi biologiche, bloccati, lo confermano. La capacità degli agenti di agire autonomamente in modi non previsti dai loro sviluppatori è sotto gli occhi di tutti. La risposta a questi rischi è costruire le salvaguardie necessarie senza cedere il terreno competitivo, esattamente come l’occidente ha fatto con il nucleare, che non è stato usato in conflitto negli ottanta anni successivi a Hiroshima, attraverso un sistema imperfetto ma funzionante di deterrenza e controllo.

La domanda corretta sull’AI, in questo momento storico, non riguarda la scelta tra fermarsi e correre. Riguarda come correre con più intelligenza, e chi avrà il potere di stabilire le regole della corsa. Stuart Russell, professore a Berkeley, ha sintetizzato la situazione con un sarcasmo che vale più di molti saggi: i laboratori stanno dicendo ai governi che probabilmente uccideranno ogni essere umano sulla Terra e li pregano di fermarli. I governi rispondono chiedendo se possono offrire uno sgravio fiscale o costruire un datacenter. Il problema esiste. Le risposte istituzionali, per ora, restano altrove.