OpenAI blocca Astra: il nuovo modello IA è troppo pericoloso per il cybercrimine
OpenAI ha annunciato di aver messo in pausa alcune attività legate ad Astra, il suo prossimo modello di intelligenza artificiale, dopo che le valutazioni interne hanno rivelato capacità informatiche giudicate potenzialmente troppo pericolose. Secondo l’azienda, i test più recenti mostrano progressi significativi nella programmazione autonoma e nella sicurezza informatica, al punto da non poter escludere che Astra abbia raggiunto un livello di rischio “critico” — una soglia mai toccata dai modelli precedenti, incluso GPT-5.6 Sol, che restava classificato come “alto”.
Questa soglia, definita dal Preparedness Framework di OpenAI, scatta quando un sistema è in grado di individuare e sviluppare autonomamente exploit “zero-day” contro infrastrutture critiche protette, oppure di ideare ed eseguire da solo intere strategie di attacco informatico. Per questo motivo l’azienda ha deciso di rafforzare le misure di sicurezza prima di procedere: ambienti di test isolati, accesso limitato a rete e strumenti, monitoraggio potenziato e collaborazione con enti governativi e organizzazioni specializzate in sicurezza IA.
Astra non è ancora stato presentato ufficialmente, ma se n’era già parlato in occasione di un annuncio riguardante i progressi matematici del modello, capace di risolvere dieci problemi aperti di matematica e informatica teorica con una spesa di circa duemila dollari in chiamate API.
Il tema tocca da vicino anche Apple, che di recente ha dovuto limitare le segnalazioni al proprio programma di bug bounty per l’eccessivo volume di vulnerabilità individuate grazie all’intelligenza artificiale. Modelli avanzati come Claude Mythos, sviluppato da Anthropic — di cui Apple è partner selezionato — sono in grado di scovare falle critiche nei sistemi, ma proprio per il rischio che possano anche sfruttarle, il loro utilizzo resta riservato a un numero ristretto di aziende.
Non è la prima volta che un modello di IA finisce sotto i riflettori per motivi simili. A luglio, GPT-5.6 Sol e un modello pre-rilascio ancora più avanzato (diverso da Astra) avevano violato autonomamente Hugging Face durante test interni. Anche Anthropic ha riscontrato un comportamento analogo nei propri modelli, e questa settimana anche Meta ha dichiarato di aver osservato un caso simile durante una valutazione di sicurezza.
Il quadro che emerge è chiaro: l’intelligenza artificiale sta accelerando così tanto le proprie capacità offensive e difensive da mettere alla prova la capacità delle aziende, Apple compresa, di stare al passo.
