Punti chiave
- I rischi dell’intelligenza artificiale preoccupano ora scienziati e imprenditori, non solo filosofi.
- Jacob Coxon ha lanciato l’allerta, affermando che nei laboratori si corre troppo senza risolvere il problema del controllo.
- La velocità di sviluppo dell’IA ha sorpreso molti; i sistemi possono ora programmare e migliorarsi rapidamente.
- Esperimenti hanno mostrato che gli agenti artificiali sviluppano linguaggi che gli umani faticano a comprendere, aumentando i rischi di controllo.
- Politici come Sergio Mattarella e Donald Trump sollevano preoccupazioni sui poteri privati nell’IA e sull’importanza della leadership geostrategica.
I rischi dell’intelligenza artificiale sembravano fino a poco tempo fa materia da futurologi e racconti distopici. Nelle scorse settimane Ludovico Martello li aveva affrontati, in forma volutamente provocatoria, nell’articolo di PoliticaMagazine “L’intelligenza artificiale si sta servendo di noi?”. Leggi l’articolo su PoliticaMagazine
L’idea era volutamente provocatoria: e se l’intelligenza artificiale non fosse destinata a rimanere semplicemente uno strumento dell’uomo? E se l’umanità stesse costruendo macchine destinate un giorno a diventare più intelligenti dei loro stessi creatori?
Martello precisava che non si trattava di una previsione scientifica, ma di un’ipotesi filosofica e fantascientifica.
Eppure, poche settimane dopo, alcuni rischi dell’intelligenza artificiale vengono discussi apertamente non soltanto da filosofi e futurologi, ma dagli stessi scienziati, ricercatori e imprenditori che stanno costruendo i sistemi più avanzati.
La domanda diventa quindi inevitabile:
perché l’allarme esplode proprio adesso?
Jacob Coxon e i rischi dell’intelligenza artificiale: l’allarme dall’interno
Una delle scintille che hanno riacceso il dibattito è arrivata direttamente dai laboratori.
Jacob Coxon, giovane matematico e ricercatore britannico, aveva lavorato prima in OpenAI e successivamente in Anthropic. Poi ha deciso di lasciare l’azienda.
Coxon ha accusato i principali laboratori di correre verso sistemi sempre più potenti senza avere ancora risolto il problema fondamentale del loro controllo. Ha sostenuto che alcune persone direttamente impegnate nello sviluppo dell’IA ritengono seriamente possibili conseguenze catastrofiche entro la fine del decennio.
La sua denuncia è stata particolarmente dura: secondo Coxon, le aziende starebbero “giocando d’azzardo con le nostre vite”. La sua uscita da Anthropic e le ragioni indicate pubblicamente hanno contribuito a trasformare una discussione interna agli specialisti della sicurezza in un caso internazionale.
Coxon non è certamente il primo a parlare dei rischi dell’intelligenza artificiale.
Il significato del suo gesto deriva piuttosto dalla posizione dalla quale arriva l’allarme: uno dei laboratori che stanno sviluppando i modelli più avanzati.
LEGGI ANCHE
Perché i rischi dell’intelligenza artificiale preoccupano proprio adesso?
Gli allarmi sull’intelligenza artificiale non nascono nel 2026.
Già nel marzo 2023 Elon Musk era stato tra i firmatari della lettera del Future of Life Institute che chiedeva una pausa di almeno sei mesi nell’addestramento di sistemi più potenti di GPT-4. Leggi la lettera del Future of Life Institute
Che cosa è cambiato?
Non esiste una prova che l’intelligenza artificiale sia improvvisamente diventata incontrollabile. Non sappiamo neppure se, quando e in quale forma potrà emergere una vera superintelligenza.
È cambiata però la velocità dello sviluppo.
I sistemi più recenti non producono soltanto testi e immagini. Possono programmare, utilizzare strumenti, navigare sul web, eseguire lunghe sequenze di operazioni e interagire con altri agenti.
Possono inoltre contribuire ad alcune attività di ricerca e sviluppo necessarie per costruire modelli successivi.
Il timore riguarda quindi una possibile accelerazione.
L’IA aiuta gli uomini a costruire sistemi di IA migliori. I nuovi sistemi possono a loro volta rendere più rapido lo sviluppo della generazione successiva.
Questo non significa che esista già una macchina capace di migliorarsi autonomamente senza intervento umano.
Significa però che il ciclo di sviluppo può diventare molto più rapido.
Ed è proprio qui che nasce uno dei principali rischi dell’intelligenza artificiale: le capacità dei sistemi potrebbero aumentare più rapidamente della nostra capacità di comprenderli, testarli e controllarli.
L’IA sviluppa un linguaggio che gli esseri umani non riescono più a comprendere
Un esperimento della startup americana Emergence ha aggiunto un nuovo elemento al dibattito.
I ricercatori hanno collocato gruppi di agenti artificiali autonomi all’interno di società virtuali, consentendo loro di interagire per periodi prolungati.
Gli agenti utilizzavano diversi modelli, tra cui Claude, Gemini, Grok, OpenAI, DeepSeek, Qwen e Mistral.
Durante l’esperimento hanno iniziato spontaneamente a sviluppare abbreviazioni, convenzioni e nuovi significati condivisi.
Non erano stati programmati per creare una propria lingua.
Eppure una parte delle comunicazioni è diventata progressivamente difficile da interpretare per gli osservatori umani. Secondo i risultati riportati da Euronews, per alcuni modelli la percentuale di messaggi il cui significato non poteva più essere determinato con sicurezza dagli osservatori è arrivata intorno alla metà. Leggi lo studio raccontato da Euronews
Occorre evitare interpretazioni fantascientifiche.
Non ci sono prove che gli agenti abbiano deliberatamente creato un “linguaggio segreto” per nascondere qualcosa agli uomini.
È più plausibile che abbiano sviluppato forme abbreviate ed efficienti di comunicazione all’interno del loro ambiente.
Il problema, tuttavia, rimane.
Poter osservare ciò che due sistemi artificiali si stanno dicendo potrebbe non significare più essere in grado di comprenderlo.
Ed è una distinzione fondamentale quando si parla di controllo.
Nelle simulazioni sono comparsi anche altri comportamenti problematici in condizioni sperimentali costruite per mettere i sistemi sotto pressione.
Non sono episodi avvenuti nel mondo reale e lo studio non dimostra che l’IA stia già sfuggendo al controllo.
Mostra però quanto possa diventare complessa la supervisione di popolazioni di agenti autonomi che interagiscono tra loro.
Rischi dell’intelligenza artificiale: Amodei chiede di rallentare
Pochi giorni dopo le dimissioni di Coxon è intervenuto Dario Amodei, amministratore delegato e cofondatore di Anthropic.
In un’intervista trasmessa da CBS News il 13 settembre, Amodei ha sintetizzato la propria posizione con una formula molto chiara:
non fermarsi, ma rallentare.
Amodei sostiene che la crescita esponenziale delle capacità dell’IA rappresenti un segnale che richiede maggiori salvaguardie. Propone verificatori indipendenti, standard condivisi tra i grandi laboratori e forme di cooperazione internazionale. L’intervista di Dario Amodei a CBS News
La sua preoccupazione riguarda almeno due categorie di rischio.
La prima è l’utilizzo intenzionalmente pericoloso dell’IA da parte degli esseri umani.
La seconda riguarda sistemi sempre più autonomi capaci di eseguire azioni non previste o non autorizzate.
Amodei non propone quindi di fermare la ricerca.
Vuole che la sicurezza torni a correre almeno alla stessa velocità delle capacità dei sistemi.
Ed è proprio qui che emerge il problema più difficile.
Nessuna azienda vuole rallentare da sola.
E nessuna grande potenza vuole essere la prima a farlo.
Amodei aveva già sfidato il Pentagono
L’attenzione di Amodei ai limiti dell’intelligenza artificiale non nasce in questi giorni.
Nel febbraio 2026 Anthropic è entrata in conflitto con il Pentagono sull’utilizzo militare di Claude.
È importante però ricostruire correttamente l’episodio.
Anthropic non rifiutava in assoluto di collaborare con la Difesa statunitense. Il contrasto riguardava la richiesta di eliminare alcune salvaguardie che impedivano l’utilizzo del sistema per la sorveglianza interna di massa e per armi completamente autonome.
Anthropic sosteneva che gli attuali modelli non fossero sufficientemente affidabili per affidare loro decisioni autonome in sistemi d’arma capaci di determinare la vita o la morte di una persona.
L’allarme di Amodei, quindi, non è nato improvvisamente.
Hinton e il problema del controllo dell’intelligenza artificiale
All’appello si è aggiunto Geoffrey Hinton, premio Nobel per la Fisica e uno dei pionieri delle moderne reti neurali.
Hinton considera seriamente il problema del controllo di sistemi futuri più intelligenti dell’uomo.
È importante però distinguere il problema scientifico dalle percentuali catastrofiche che circolano nel dibattito pubblico.
Non esiste oggi un metodo capace di stabilire con precisione quale sia la probabilità che una futura intelligenza artificiale produca conseguenze esistenziali per l’umanità.
Quelle percentuali rimangono in larga parte valutazioni soggettive.
La domanda fondamentale sollevata da Hinton è più semplice:
se costruissimo una macchina molto più intelligente di noi, sapremmo realmente mantenerla sotto controllo?
Il problema non è stato ancora risolto. È proprio questo uno dei rischi dell’intelligenza artificiale più difficili da valutare: costruire sistemi sempre più potenti prima di sapere con certezza come mantenerli sotto controllo.
Gli scenari estremi discussi dentro i laboratori
Le valutazioni più radicali provengono proprio dagli ambienti che lavorano sulla sicurezza.
Alcuni ricercatori hanno attribuito probabilità non trascurabili a scenari catastrofici.
È fondamentale precisare che non si tratta di previsioni scientifiche.
Numeri di questo genere non possono essere trattati come una previsione meteorologica.
Il dato giornalisticamente rilevante è un altro: persone che lavorano direttamente allo sviluppo e alla sicurezza dei sistemi più avanzati ritengono ormai necessario discutere scenari che, fino a pochi anni fa, sarebbero sembrati confinati alla fantascienza.
Amodei e Altman: stesso problema, risposte non identiche
Anche Sam Altman, amministratore delegato di OpenAI, ha riconosciuto che la crescita delle capacità dei modelli richiede maggiori misure di sicurezza.
Tra Altman e Amodei rimane però una differenza di impostazione.
Per Amodei la velocità stessa dello sviluppo è diventata parte del problema.
Altman ha generalmente sostenuto una progressione accompagnata da test e misure di sicurezza sempre più forti.
Negli ultimi giorni le posizioni si sono però avvicinate. Altman ha dichiarato di condividere la necessità di “pace the frontier”, cioè modulare il ritmo di sviluppo dei sistemi di frontiera, e ha escluso una quotazione di OpenAI nel 2026, indicando tra le ragioni il momento particolarmente delicato sul fronte della sicurezza e dell’allineamento. Reuters sulla decisione di OpenAI e le dichiarazioni di Altman
Questo non significa che OpenAI abbia interrotto la propria crescita.
La società continua a investire in capacità di calcolo, infrastrutture e nuovi modelli.
La distinzione può essere sintetizzata così: Amodei insiste sul rallentamento collettivo della frontiera; Altman ammette sempre più apertamente che il ritmo di avanzamento deve essere condizionato dalla capacità di mantenere i sistemi sotto controllo.
Musk aveva chiesto una pausa già nel 2023
Anche Elon Musk ha sostenuto la richiesta di rallentamento.
Non è una posizione nuova.
Nel marzo 2023 fu tra i firmatari della lettera del Future of Life Institute che chiedeva sei mesi di pausa nell’addestramento di sistemi più potenti di GPT-4.
Oggi, però, Musk possiede xAI e partecipa direttamente alla stessa competizione.
Questa apparente contraddizione rappresenta bene il problema dell’intero settore:
anche chi teme la corsa difficilmente può permettersi di fermarsi mentre gli altri continuano ad accelerare.
Figalli: il rischio di smettere di capire
Esiste poi un altro pericolo, meno spettacolare dell’estinzione dell’umanità ma molto più vicino alla nostra esperienza quotidiana.
Lo ha evidenziato Alessio Figalli, matematico italiano e vincitore della Medaglia Fields nel 2018.
Figalli ha posto il problema del rapporto tra intelligenza artificiale, ricerca matematica e comprensione.
Una macchina può contribuire a trovare rapidamente la soluzione di un problema estremamente complesso.
Ma trovare una soluzione non significa necessariamente averla compresa.
Per un matematico, il percorso fatto di tentativi, errori, intuizioni e correzioni non rappresenta tempo sprecato.
È parte stessa della conoscenza.
Figalli ha sintetizzato il rischio nella possibilità di risolvere sempre più problemi imparando contemporaneamente sempre meno. Leggi l’intervento di Alessio Figalli sull’Unione Matematica Italiana
Il paradosso è evidente.
Mentre costruiamo macchine sempre più capaci di ragionare, potremmo formare esseri umani sempre meno abituati a farlo.
Anche questo rientra tra i rischi dell’intelligenza artificiale, sebbene sia molto diverso dagli scenari catastrofici.
Rischi dell’intelligenza artificiale: Mattarella e il problema del controllo
Il 15 settembre è intervenuto anche Sergio Mattarella.
Ricevendo al Quirinale una delegazione della World Jurist Association e della World Law Foundation, il Presidente della Repubblica ha riconosciuto le straordinarie opportunità offerte dall’intelligenza artificiale.
Ha però richiamato la necessità che l’innovazione rimanga ancorata alla dignità della persona, alla libertà e ai diritti fondamentali.
Mattarella ha soprattutto posto una questione politica: Stati e organismi sovranazionali devono recuperare autorità nei confronti di soggetti privati dotati, nelle sue parole, di una “smisurata potenza finanziaria e tecnologica”. Leggi l’intervento integrale sul sito del Quirinale
Il problema, dunque, non riguarda soltanto un’eventuale futura superintelligenza fuori controllo.
Prima ancora dobbiamo chiederci:
chi controlla oggi l’intelligenza artificiale?
Trump: gli Stati Uniti non vogliono perdere la corsa
È qui che il problema tecnologico diventa geopolitico.
Il presidente statunitense Donald Trump ha respinto gli scenari più catastrofici e ha indicato come priorità il mantenimento della leadership americana.
Alla domanda sui rischi di estinzione ha dichiarato di non condividerli, sottolineando invece il rischio strategico per gli Stati Uniti di perdere la competizione con la Cina.
Dal punto di vista strategico il ragionamento è semplice.
Se l’intelligenza artificiale determinerà una parte crescente della potenza economica, scientifica e militare, rallentare unilateralmente potrebbe concedere un vantaggio all’avversario.
È una posizione diversa da quella di Amodei, ma evidenzia esattamente il dilemma che rende difficile trasformare gli allarmi sulla sicurezza in un accordo internazionale.
USA e Cina: i rischi dell’IA diventano geopolitici
Dall’altra parte emerge una logica analoga.
La Cina dispone già di forme di regolamentazione sugli algoritmi, sui dati e sui contenuti generati dall’intelligenza artificiale.
Ma Washington e Pechino considerano entrambe lo sviluppo dell’IA fondamentale per la propria competitività economica e militare.
Chip avanzati, modelli, sicurezza, sistemi autonomi e regole internazionali sono ormai entrati direttamente nei rapporti tra le due potenze. Reuters sulla competizione USA-Cina nell’intelligenza artificiale
Nasce così il vero paradosso.
Anche se Stati Uniti e Cina riconoscessero gli stessi rischi dell’intelligenza artificiale, nessuno dei due avrebbe interesse a rallentare per primo. I rischi dell’intelligenza artificiale diventano così anche un problema geopolitico: riconoscere il pericolo non significa automaticamente avere interesse a fermare la competizione.
È la logica classica di una corsa strategica: tutti possono considerare pericolosa l’accelerazione, ma ciascuno teme ancora di più il vantaggio che l’altro otterrebbe continuando da solo.
C’è una strategia dietro la tempistica dell’allarme?
È una domanda legittima.
Le grandi aziende dell’intelligenza artificiale stanno investendo somme enormi in chip, data center, energia e ricerca.
Un rallentamento coordinato potrebbe quindi avere anche conseguenze economiche: riduzione della pressione finanziaria, maggiore tempo per consolidare le infrastrutture e possibili barriere più elevate all’ingresso di nuovi concorrenti.
Questo non dimostra però l’esistenza di una strategia concordata.
Non abbiamo prove che le dichiarazioni di Coxon, Amodei, Altman, Musk e Hinton facciano parte di un piano comune.
Le contraddizioni, anzi, sono evidenti.
Le stesse aziende che chiedono maggiore prudenza continuano a investire nella costruzione di modelli più potenti.
Ed è forse proprio questa la migliore rappresentazione del dilemma:
si può essere sinceramente preoccupati per la velocità della corsa e, nello stesso tempo, non potersi permettere di rallentare da soli.
Il tema si collega a un problema più ampio già affrontato su PoliticaMagazine: il rapporto tra sviluppo tecnologico, concentrazione del potere e distopia digitale. La promessa tradita del 1989: dalla libertà globale alla distopia digitale
La distopia e i rischi dell’intelligenza artificiale
No.
Non sappiamo se nascerà una superintelligenza capace di sfuggire al controllo umano.
Non sappiamo quando potrebbe arrivare.
Le percentuali sull’estinzione dell’umanità non sono previsioni scientifiche.
E un esperimento in cui agenti artificiali sviluppano convenzioni comunicative difficili da comprendere non significa che le macchine abbiano acquisito una volontà propria o stiano complottando contro l’uomo.
Trasformare questi segnali in certezze sarebbe un errore.
Ma sarebbe altrettanto riduttivo ignorare ciò che sta accadendo.
Un ricercatore passato da OpenAI ad Anthropic lascia il proprio lavoro denunciando una corsa che considera pericolosa.
Il CEO di Anthropic chiede di rallentare.
Il CEO di OpenAI accetta che il ritmo dello sviluppo debba dipendere anche dalla sicurezza.
Musk torna a invocare prudenza.
Hinton ricorda che non sappiamo ancora come controllare eventuali sistemi molto più intelligenti dell’uomo.
Figalli teme che l’IA possa impoverire alcuni processi della formazione intellettuale.
Esperimenti con agenti artificiali mostrano che questi sistemi possono sviluppare autonomamente convenzioni comunicative che diventano almeno in parte difficili da interpretare per gli esseri umani.
Mattarella chiede agli Stati di recuperare capacità di governo nei confronti di un potere tecnologico concentrato nelle mani di pochi soggetti privati.
E mentre aumentano gli interrogativi sui rischi dell’intelligenza artificiale, Stati Uniti e Cina continuano a correre.
Forse, dunque, l’interrogativo posto poche settimane fa sulle pagine di PoliticaMagazine non era così lontano dalla realtà come sembrava.
Non perché le macchine abbiano già preso il controllo.
Ma perché stiamo costruendo sistemi sempre più potenti senza avere ancora stabilito con certezza chi dovrà controllarli, quali limiti imporre e, soprattutto, se quando decideremo di rallentare saremo ancora nelle condizioni di farlo.
FAQ
I principali rischi dell’intelligenza artificiale riguardano la difficoltà di controllare sistemi sempre più autonomi, il possibile uso pericoloso da parte dell’uomo, la perdita di trasparenza nei processi decisionali e l’accelerazione dello sviluppo più rapida della nostra capacità di testare e governare i nuovi modelli.
Non esistono prove che l’intelligenza artificiale sia già fuori controllo. Tuttavia, alcuni esperimenti con agenti autonomi hanno mostrato comportamenti inattesi e forme di comunicazione diventate in parte difficili da comprendere per gli esseri umani. Per questo diversi ricercatori chiedono maggiori strumenti di supervisione e sicurezza.
Ricercatori come Geoffrey Hinton e dirigenti come Dario Amodei ritengono che le capacità dei sistemi stiano aumentando molto rapidamente. La richiesta non è necessariamente quella di fermare la ricerca, ma di rallentare abbastanza da consentire alla sicurezza, ai controlli indipendenti e alla regolamentazione di tenere il passo con lo sviluppo tecnologico.
Stati Uniti e Cina considerano l’intelligenza artificiale una tecnologia strategica per economia, ricerca, sicurezza e difesa. Anche riconoscendo i rischi dell’intelligenza artificiale, nessuna delle due potenze ha interesse a rallentare per prima, perché teme che l’altra possa ottenere un vantaggio tecnologico e geopolitico.