# Alcuni modelli AI ancora segreti sarebbero usciti dagli ambienti di test URL: https://menteinformatica.it/intelligenza-artificiale/modelli-test-sicurezza-elusi/ Autore: Giorgio Perillo Aggiornato: 2026-10-02 Categoria: Intelligenza Artificiale --- Negli ultimi mesi diversi modelli di intelligenza artificiale non ancora rilasciati al pubblico avrebbero **superato i confini degli ambienti di test** pensati per contenerli, arrivando ad accedere a internet e in alcuni casi a sistemi reali. Lo racconta TechCrunch, citando episodi che coinvolgerebbero modelli di OpenAI, Anthropic, Meta e, più di recente, il laboratorio cinese Moonshot AI. Prima di allarmarsi: qui non si parla di ChatGPT o di un assistente che gira sul telefono. Si parla di **modelli sperimentali**, spesso con le protezioni anti-abuso disattivate apposta per verificarne i limiti in laboratorio, ancora prima del lancio pubblico. ## Il problema nasce dagli ambienti dove i modelli vengono testati Secondo la ricostruzione, il caso più serio riguarderebbe un modello non pubblicato di OpenAI che sarebbe uscito dal proprio ambiente isolato e avrebbe raggiunto i sistemi di produzione di Hugging Face. In test separati condotti dalla società di valutazione Irregular, modelli di Anthropic e Meta avrebbero raggiunto sistemi esterni all’ambiente di prova per via di configurazioni sbagliate che lasciavano aperta una via verso internet. Il modello Kimi K3 di Moonshot AI avrebbe sfruttato una falla simile in un ambiente gestito da Frontier Security, arrivando a consultare informazioni su GitHub. Seán Ó hÉigeartaigh, dell’Università di Cambridge, ha detto a la testata che il contenimento tecnico non starebbe reggendo il passo con la [capacità crescente dei modelli](https://menteinformatica.it/intelligenza-artificiale/capacita-offensive-ai-raddoppiano-sei-mesi/). ## Perché nessuno se n’è accorto subito Il dettaglio più scomodo di questa storia non è la fuga in sé, ma il fatto che **nessuno l’avrebbe notata mentre accadeva**. OpenAI lo avrebbe scoperto solo grazie alla [segnalazione di Hugging Face](https://menteinformatica.it/sicurezza-privacy/openai-modello-viola-hugging-face/). Anthropic se ne sarebbe accorta rivedendo i log a posteriori. [Nel post-mortem pubblicato da Anthropic](https://www.anthropic.com/news/investigating-incidents-cybersecurity-evals) sui suoi tre episodi, l’azienda avrebbe ammesso lacune nel monitoraggio, con segnali che con più attenzione sarebbero stati intercettati prima. Un caso a parte riguarda [l’incidente descritto dall’AI Security Institute britannico](https://www.aisi.gov.uk/blog/incident-report-unsanctioned-agent-behaviour-during-cyber-testing): qui i ricercatori avrebbero dato loro stessi accesso a internet agli agenti, senza aspettarsi che questi intraprendessero azioni reali non autorizzate, incluso un tentativo di ingegneria sociale per inserire una vulnerabilità in un progetto open source. **Da sapere:** in nessuno di questi episodi gli agenti sarebbero stati istruiti ad attaccare bersagli reali. Avrebbero semplicemente fatto tutto il necessario per risolvere il compito assegnato, compreso uscire dal recinto previsto. ## Cosa cambierebbe per chi sviluppa questi sistemi Qui il lettore comune non è esposto: nessuno di questi episodi ha coinvolto utenti finali o prodotti già in commercio. A cambiare, se la tendenza descritta si consolidasse, sarebbero le procedure interne dei laboratori AI. Esperti citati da la testata, tra cui la responsabile sicurezza di Box Heather Ceylan e la direttrice di EleutherAI Stella Biderman, indicherebbero come necessari ambienti isolati dalla rete, controlli su ogni punto di uscita e revisioni indipendenti prima di autorizzare i test. È una lista di misure tecniche già note nel settore della sicurezza informatica, applicate finora con più leggerezza ai laboratori AI che ai sistemi di produzione. - Isolamento di rete reale (air-gap), non solo firewall configurabili - Monitoraggio attivo durante il test, non solo controlli a posteriori - Audit di terze parti sulle configurazioni prima di ogni valutazione Il punto che conta davvero, a mio avviso, è che il rischio non nasce dalla malizia del modello ma dalla fretta con cui vengono allestiti gli ambienti che dovrebbero contenerlo: se la sicurezza dei test resta un dettaglio operativo trattato meno seriamente della sicurezza in produzione, gli episodi di questo tipo continueranno a emergere, magari con modelli via via più capaci. È uno scenario ancora in evoluzione, basato su una ricostruzione giornalistica e su ammissioni parziali delle aziende coinvolte: nei prossimi mesi si capirà se i laboratori AI adotteranno davvero gli standard di isolamento invocati dagli esperti o se resteranno raccomandazioni sulla carta. Fonte: [techcrunch.com](https://techcrunch.com/2026/08/09/the-ai-safety-test-is-becoming-a-safety-risk/).