AI, dopo l’incidente OpenAI gli allarmi arrivano dall’interno: chi controlla chi costruisce i sistemi più potenti?

A luglio gli agenti di OpenAI superarono i confini di un test raggiungendo sistemi reali. Oggi emergono nuovi incidenti, dimissioni di ricercatori e richieste di regole obbligatorie. E Sam Altman apre persino alla possibilità di rallentare lo sviluppo. Ma dietro la corsa ci sono centinaia di miliardi già investiti, infrastrutture da remunerare e una competizione globale nella quale fermarsi da soli può significare perdere terreno.

Il 23 luglio raccontavamo su queste pagine un incidente che allora sembrava indicare una nuova frontiera.

Durante un test sulle capacità informatiche dei propri modelli, agenti di OpenAI erano riusciti a superare i confini dell’ambiente predisposto per la valutazione, raggiungere Internet e compromettere una parte dell’infrastruttura di Hugging Face.

A meno di due mesi di distanza quella domanda non è scomparsa.

È diventata più grande.

Perché oggi non riguarda più soltanto ciò che è accaduto durante un singolo test.

Riguarda il modo in cui stiamo sviluppando, finanziando e governando sistemi sempre più capaci di agire senza che una persona debba indicare ogni singolo passaggio.

E da oggi la domanda assume un significato ancora più concreto.

Da un incidente a una nuova soglia di capacità

Il primo elemento nuovo arriva dalla stessa OpenAI.

GPT-6 Astra è il primo modello dell’azienda ad avere raggiunto il livello “Critical” per capacità di cybersicurezza secondo il Preparedness Framework di OpenAI.

Secondo la valutazione pubblicata dall’azienda, con strumenti e accessi adeguati Astra può individuare vulnerabilità precedentemente sconosciute e sviluppare nuovi modi per sfruttarle contro sistemi ben protetti senza che una persona debba guidarlo in ogni singola fase.

Non significa che Astra possa liberamente attaccare Internet.

E non significa che abbia una volontà propria.

OpenAI afferma di avere conseguentemente rafforzato isolamento, monitoraggio e protezioni dei propri ambienti di sviluppo.

Non c’era soltanto Hugging Face

Nel frattempo sono emersi altri episodi.

Reuters ha documentato che agenti sviluppati da OpenAI avrebbero utilizzato almeno altri dieci siti esterni per comunicazioni non autorizzate durante attività sperimentali.

In molti casi il comportamento sarebbe stato più vicino allo spam o all’utilizzo improprio delle piattaforme che a un vero attacco informatico.

La distinzione è importante.

Ma resta significativo il fatto che i sistemi abbiano individuato percorsi non previsti per raggiungere l’obiettivo assegnato.

Anche Anthropic ha successivamente riconosciuto nuovi incidenti.

Il 9 settembre l’azienda ha comunicato di avere individuato un quarto episodio nel quale una versione sperimentale di Claude aveva raggiunto sistemi esterni durante una valutazione cyber.

Quel caso risaliva a gennaio e non era stato intercettato durante una precedente revisione interna.

Quando chi costruisce l’AI decide di andarsene

Nel frattempo il dibattito è entrato direttamente nei laboratori.

Jacob Coxon, ricercatore che ha lavorato sia in OpenAI sia in Anthropic, ha lasciato Anthropic denunciando quella che considera una corsa troppo veloce verso sistemi sempre più potenti.

La sua critica riguarda soprattutto la struttura competitiva del settore.

Anche un’azienda intenzionata ad agire con prudenza potrebbe sentirsi costretta ad accelerare se teme che i concorrenti continuino a correre.

È importante essere precisi.

Coxon è un ricercatore, non un dirigente delle aziende coinvolte, e gli scenari estremi prospettati nel dibattito sulla sicurezza dell’AI rappresentano valutazioni di rischio, non fatti già accaduti.

E adesso Altman apre alla possibilità di rallentare

Nelle ultime ore è arrivato un elemento che rende quella domanda ancora meno teorica.

Secondo Bloomberg, in una riunione interna Sam Altman avrebbe detto ai dipendenti di OpenAI che l’azienda è disponibile a rallentare lo sviluppo dei propri sistemi di intelligenza artificiale.

Reuters ha ripreso la notizia l’11 settembre.

Altman avrebbe prospettato anche la possibilità di coordinare il ritmo dello sviluppo con altri grandi laboratori.

Il punto, però, è significativo.

Perché la possibilità di rallentare entra direttamente nel linguaggio di chi guida una delle aziende più importanti del settore.

E non sarebbe neppure la prima sospensione concreta.

Dopo l’incidente Hugging Face, OpenAI aveva già fermato per un periodo parte delle proprie attività di sviluppo per concentrare risorse sul rafforzamento della sicurezza.

Quindi rallentare è possibile.

È qui che sicurezza, concorrenza e interessi economici tornano a incontrarsi.

Ma dietro la corsa c’è anche il denaro

Le aziende dell’intelligenza artificiale non stanno semplicemente gareggiando per pubblicare il modello migliore.

Stanno costruendo una delle infrastrutture tecnologiche più costose della storia.

Chip. Data center. Centrali e contratti energetici. Reti. Server. Terreni. Sistemi di raffreddamento. Talenti pagati cifre elevatissime.

E soprattutto capitale.

Una precisazione è necessaria.

Non tutti quei 730 miliardi sono investimenti esclusivamente destinati all’intelligenza artificiale.

Ma l’espansione dell’AI e delle infrastrutture necessarie a sostenerla rappresenta uno dei principali motori dell’aumento della spesa.

La Bank for International Settlements ha inoltre stimato che i cinque maggiori gruppi tecnologici potrebbero investire complessivamente oltre mille miliardi di dollari nell’intelligenza artificiale tra il 2025 e il 2026.

Non sono soltanto numeri.

Sono vincoli.

Che cosa significa davvero “rallentare”

Immaginiamo un laboratorio che arrivi alla conclusione che sarebbe opportuno rallentare lo sviluppo per sei mesi.

Dal punto di vista della sicurezza potrebbe essere una scelta perfettamente razionale.

Dal punto di vista economico, però, quei sei mesi potrebbero significare perdere clienti, cedere quota di mercato, lasciare talenti ai concorrenti, ritardare prodotti destinati a generare ricavi e rendere meno redditizie infrastrutture già costruite.

Potrebbero inoltre mettere sotto pressione investitori che hanno finanziato quelle aziende sulla promessa di una crescita rapidissima.

E soprattutto potrebbero consentire a un concorrente di raggiungere prima una capacità tecnologica considerata strategica.

La dichiarazione attribuita ad Altman rende questo paradosso ancora più evidente.

Dire “siamo disponibili a rallentare” è una cosa.

Costruire le condizioni perché rallentare non significhi semplicemente regalare la corsa a qualcun altro è un’altra.

Centinaia di miliardi che chiedono un ritorno

La pressione non riguarda soltanto le startup.

Alphabet ha programmato investimenti globali nell’ordine di centinaia di miliardi di dollari.

Meta ha portato anch’essa le proprie previsioni di spesa infrastrutturale a livelli senza precedenti.

E non si tratta più soltanto di denaro proveniente dagli utili.

Questo significa che la corsa all’intelligenza artificiale comincia a coinvolgere non soltanto il settore tecnologico.

Coinvolge anche il mercato del credito.

Il capitale anticipa una promessa.

E quella promessa è crescita.

Quando rallentare può diventare economicamente pericoloso

C’è un paradosso.

Più denaro viene investito per vincere la corsa all’intelligenza artificiale, più diventa economicamente difficile fermarsi per chiedersi se la direzione sia quella giusta.

Una società che ha costruito data center per decine di miliardi deve utilizzarli.

Un’azienda valutata sulla base della crescita futura deve dimostrare di poterla raggiungere.

Un investitore che accetta rischi enormi pretende un ritorno altrettanto importante.

Una nazione che considera l’AI un vantaggio strategico avrà anch’essa interesse a non perdere terreno.

La sicurezza entra così in relazione con interessi economici, occupazionali, finanziari e geopolitici.

Non significa che le aziende ignorino volontariamente i rischi.

Significa qualcosa di forse più complesso.

La decisione di fermarsi non avviene in un vuoto morale.

Avviene dentro un sistema di incentivi potentissimi.

La competizione può diventare un problema di sicurezza

È probabilmente questo il cuore delle preoccupazioni manifestate da diversi ricercatori.

Se una sola azienda decidesse di rallentare, non rallenterebbe necessariamente l’intero settore.

Ed è qui che il problema smette di essere esclusivamente aziendale.

Un mercato competitivo funziona normalmente proprio grazie alla spinta ad arrivare prima, produrre meglio, abbassare i costi e conquistare clienti.

Ma se la tecnologia in questione può produrre anche rischi sistemici, lo stesso incentivo che produce innovazione può rendere più difficile la prudenza.

È per questo che la possibilità evocata da Altman di coordinare eventuali rallentamenti con altri laboratori assume un significato particolare.

La sicurezza di un sistema avanzato non dipende più soltanto dalla prudenza di una singola azienda.

Può dipendere dalla capacità di costruire regole comuni.

OpenAI adesso chiede regole obbligatorie

Il 9 settembre OpenAI ha compiuto un passaggio significativo.

L’azienda ha chiesto agli Stati Uniti requisiti nazionali obbligatori per la sicurezza dell’intelligenza artificiale avanzata, sostenendo la necessità di una regolamentazione collegata alle capacità dei modelli.

Tra le proposte figurano valutazioni indipendenti, requisiti di cybersicurezza e obblighi più chiari nella segnalazione degli incidenti.

La dimensione economica rende questo punto particolarmente interessante.

Se rallentare dipende soltanto dalla scelta volontaria di una singola azienda, quella società rischia di essere penalizzata rispetto alle altre.

Ed è forse qui che la posizione di OpenAI assume un significato più profondo.

L’azienda che fino a poche settimane fa era al centro dell’incidente Hugging Face oggi chiede che alcune regole non siano più affidate soltanto all’autoregolamentazione.

Anche la politica americana comincia a muoversi

Gli incidenti e gli avvertimenti provenienti dai laboratori stanno raggiungendo anche il Congresso statunitense.

Esponenti repubblicani e democratici hanno chiesto maggiore capacità delle istituzioni pubbliche di valutare la sicurezza dei modelli avanzati.

Nel dibattito sono entrate ipotesi di verifiche indipendenti e nuovi strumenti di supervisione pubblica.

Anche l’Europa comincia a guardare dentro i modelli

C’è un altro sviluppo che merita attenzione.

L’agenzia europea per la cybersicurezza ENISA ha ottenuto accesso a modelli avanzati di OpenAI e Anthropic per valutarne direttamente le capacità e il possibile impatto sulla sicurezza informatica.

Tra questi anche GPT-6 Astra.

È un passaggio significativo.

Il rischio diventa anche finanziario

La dimensione economica apre infine un’altra questione.

Che cosa accadrebbe se le aspettative sull’intelligenza artificiale non producessero i ritorni previsti?

La Bank for International Settlements ha richiamato l’attenzione sul fatto che la scala degli investimenti nell’AI può produrre rischi anche per la stabilità finanziaria, soprattutto se una parte crescente dell’espansione infrastrutturale viene sostenuta attraverso debito e strutture finanziarie sempre più complesse.

L’intelligenza artificiale non riguarda quindi più soltanto tecnologia, lavoro o informazione.

Comincia a riguardare anche energia, debito, mercati finanziari e stabilità economica.

Chi controlla il controllore?

Ed eccoci al punto.

I grandi laboratori possiedono oggi una quantità di conoscenze sui propri sistemi che nessuna istituzione pubblica possiede nella stessa misura.

Sono loro ad addestrarli.

Sono loro a testarli.

Sono loro a scoprire molte delle anomalie.

Sono loro a comunicare gli incidenti.

E sono spesso loro a stabilire quando un modello sia sufficientemente sicuro per essere distribuito.

Ma sono anche soggetti economici che devono crescere, competere e remunerare investimenti enormi.

Non c’è necessariamente una contraddizione morale.

C’è però un conflitto strutturale di interessi e incentivi che una società matura deve riconoscere.

Servono verifiche indipendenti.

Standard comuni.

Obblighi di comunicazione.

Regole applicabili a tutti.

E soprattutto deve esistere la possibilità concreta di dire:

Non è una guerra tra uomo e macchina

Nel luglio scorso scrivevamo che l’incidente OpenAI non dimostrava che la tecnica fosse diventata indipendente dall’uomo.

Dimostrava quasi il contrario.

Più la tecnica diventa potente, più cresce la responsabilità di chi la progetta.

Oggi possiamo aggiungere qualcosa.

Quella responsabilità deve riuscire a resistere non soltanto alla potenza della tecnologia.

Deve riuscire a resistere anche alla potenza del mercato che quella tecnologia ha generato.

E forse la disponibilità manifestata da Altman a rallentare rende questa consapevolezza ancora più evidente.

Perché il vero conflitto non è tra uomini e macchine.

È tra velocità e prudenza.

Tra ciò che siamo capaci di costruire e ciò che siamo capaci di governare.

Tra gli interessi economici legittimi di chi innova e il diritto collettivo a non subire rischi che nessuno ha realmente scelto.

Leggi anche:OpenAI, incidente cyber senza precedenti durante un test con agenti IA, 23 luglio2026

OpenAI, incidente cyber senza precedenti durante un test con agenti IA