# OpenAI ha costruito un hacker AI per rendere GPT-5.6 più difficile da ingannare URL: https://menteinformatica.it/intelligenza-artificiale/openai-gpt-red-hacker-sicurezza/ Autore: Giorgio Perillo Aggiornato: 2026-07-15 Categoria: Intelligenza Artificiale --- OpenAI ha costruito un modello linguistico il cui unico scopo è attaccare altri modelli linguistici. Si chiama **GPT-Red**, ed è lo strumento che l’azienda dice di aver usato per rendere **GPT-5.6**, rilasciato la settimana scorsa, il suo modello più robusto fino a oggi. La logica è semplice: se i tuoi sistemi diventano troppo complessi per essere testati dagli esseri umani, costruisci un’AI che li attacchi al posto loro. Secondo quanto riporta MIT Technology Review, GPT-Red è operativo da oltre un anno e ha già individuato tipologie di attacco che i ricercatori non avevano mai visto prima. ## Come funziona il “dojo” di addestramento OpenAI ha addestrato GPT-Red in un ciclo di **auto-gioco** (self-play): il modello attaccava altri LLM, questi cercavano di difendersi, e così via per molte iterazioni. L’ambiente simulava scenari reali, navigazione web, lettura di email, modifica di codice, per rendere gli attacchi il più possibile pertinenti. Il focus principale era sulle **prompt injection**, cioè attacchi in cui istruzioni malevole vengono nascoste in testi che il modello potrebbe incontrare normalmente: in una pagina web, in un file di codice, in un documento. GPT-Red non si limitava a trovare un attacco: lo esplorava in tutte le varianti possibili per identificare quella più efficace in ogni scenario specifico. La scoperta più interessante è quella che i ricercatori chiamano *fake chain of thought*. Un modello linguistico tiene una sorta di diario interno mentre ragiona su un problema. GPT-Red ha trovato un modo per inserire una voce falsa in quel diario, convincendo il modello bersaglio che un’informazione errata fosse già stata verificata. Chris Choquette-Choo, uno dei ricercatori del team, ha spiegato il meccanismo con un esempio: è come dire a qualcuno che 1+1=3 e che lo ha già controllato, il modello accetta l’informazione senza metterla in discussione. **Perché conta:** Gli agenti AI, modelli che interagiscono con file, siti web e codice di terze parti, amplificano enormemente la superficie d’attacco. Un agente compromesso via prompt injection può copiare dati riservati, sabotare una codebase o generare output dannosi. GPT-Red è pensato proprio per anticipare questi scenari prima che diventino problemi reali in produzione. ## I numeri: GPT-5.6 vs GPT-5 OpenAI ha misurato l’efficacia di GPT-Red ripetendo un esperimento del 2025 in cui red-teamer umani cercavano vulnerabilità in una versione precedente di GPT-5. GPT-Red ha superato gli umani nel trovare attacchi efficaci. Poi l’azienda ha testato quegli stessi attacchi sui propri modelli: **oltre il 90% funzionava su GPT-5** (rilasciato ad agosto scorso), mentre **meno del 23% funzionava su GPT-5.6**. È un salto significativo, anche se va letto con cautela: OpenAI sta misurando i propri miglioramenti con il proprio strumento di attacco, il che introduce un ovvio conflitto di interesse metodologico. Jessica Ji, ricercatrice senior del Center for Security and Emerging Technology della Georgetown University, ha giudicato promettente l’approccio del self-play, ma ha anche sottolineato che l’expertise umana rimane importante per distinguere dove i test automatizzati sono meno affidabili. GPT-Red ha limiti concreti: fatica con gli attacchi che richiedono una conversazione bidirezionale tra hacker e bersaglio, e non è ancora efficace con le immagini, che possono essere usate per nascondere istruzioni malevole in una prompt injection. Su questi fronti, i red-teamer umani restano più capaci. ## OpenAI non lo rilascerà, e dice che replicarlo è difficile GPT-Red non sarà reso pubblico. I ricercatori sostengono che costruire un sistema equivalente richiederebbe più di un anno di lavoro e risorse computazionali considerevoli, il tipo di infrastruttura che poche organizzazioni al mondo possono permettersi. Il punto critico, a mio avviso, è strutturale: OpenAI sta usando un sistema proprietario e segreto per certificare la sicurezza dei propri modelli. I risultati sono plausibili e il metodo è tecnicamente interessante, ma la verifica esterna è praticamente impossibile. Per chi usa GPT-5.6 in contesti aziendali o in agenti autonomi, il miglioramento è reale, ma la fiducia resta delegata all’azienda stessa, non a un audit indipendente. Fonte: [technologyreview.com](https://www.technologyreview.com/2026/07/15/1140514/meet-gpt-red-an-llm-super-hacker-openai-built-to-make-its-models-safer/).