Rinnovo Patente? Facile ed Economico
Cybersicurezza, il caso OpenAI riaccende l’allarme. Marson: “Le IA possono già cercare falle zero-day”
Mentre l‘intelligenza artificiale diventa sempre più potente e autonoma, cresce anche il dibattito sui rischi che queste tecnologie possono rappresentare per la cybersicurezza. A riaccendere l’attenzione è il caso OpenAI: durante alcuni test interni, un modello avanzato di IA avrebbe tentato di aggirare le limitazioni imposte, individuando vulnerabilità per ottenere l’accesso a Internet e recuperare informazioni utili a superare le prove di valutazione. Un episodio definito dalla stessa azienda un “incidente informatico senza precedenti”, che ha sollevato interrogativi sulla capacità di controllo dei modelli di nuova generazione.
Il caso apre scenari che vanno ben oltre il singolo esperimento: quanto sono già oggi in grado le intelligenze artificiali di individuare e sfruttare falle informatiche? Le difese attuali sono sufficienti o serviranno nuovi strumenti per contrastare minacce sempre più sofisticate?
A fare il punto è Diego Marson, CTO di Var Group, che ad Affaritaliani analizza le implicazioni dell’episodio e spiega perché, più che un’intelligenza artificiale “impazzita”, il caso OpenAI rappresenta un’importante lezione sulla sicurezza dei sistemi: “Non siamo davanti a un’IA impazzita o che reagisce in maniera autonoma. Siamo di fronte a un test che OpenAI stava volutamente conducendo per valutare le capacità dei propri modelli”.
OpenAI parla di un “incidente senza precedenti”: un modello di IA avrebbe cercato autonomamente di aggirare i limiti imposti durante i test. Quanto deve preoccuparci questo episodio?
“Non siamo davanti a un’IA impazzita o che reagisce in maniera autonoma. Siamo di fronte a un test che OpenAI stava volutamente conducendo per valutare le capacità dei propri modelli attraverso una serie di benchmark, cioè prove standard utilizzate per misurarne le prestazioni.
Per farlo, l’azienda aveva costruito un ambiente isolato, privo di accesso a Internet. Allo stesso tempo, però, aveva rimosso deliberatamente i guardrail, cioè quei limiti normalmente presenti nei modelli per mantenerli entro determinati vincoli etici, di sicurezza e di comportamento. Era quindi un test condotto in condizioni particolari, con alcune protezioni intenzionalmente disattivate.
La cosa interessante è osservare come si è comportato il modello. Si è comportato un po’ come uno studente che, invece di svolgere il compito, cerca direttamente le soluzioni. Il modello ha individuato delle vulnerabilità che gli hanno consentito di effettuare movimenti laterali, uscire dall’ambiente di test e raggiungere una macchina con accesso a Internet.
Da lì, sfruttando credenziali compromesse e altre vulnerabilità, è arrivato ai sistemi di Hugging Face, il grande repository pubblico di modelli di intelligenza artificiale e degli stessi benchmark utilizzati per il test. Ha quindi avuto accesso ai database e ha recuperato le informazioni necessarie per “barare”, cioè ottenere le risposte ai test invece di risolverli autonomamente.
È un episodio molto interessante perché dimostra che il modello ha individuato una scorciatoia efficace per raggiungere l’obiettivo, anche se diversa da quella immaginata da chi aveva progettato la valutazione”.
Se un’intelligenza artificiale riuscisse davvero a trovare e sfruttare vulnerabilità informatiche, quali rischi concreti potrebbero correre aziende, cittadini e infrastrutture critiche?
“In realtà non è un’ipotesi futura: è qualcosa che può già accadere oggi. Se vengono rimossi i guardrail imposti dal produttore, i modelli attuali sono già in grado di sfruttare vulnerabilità note e perfino di cercare vulnerabilità zero-day, cioè falle ancora sconosciute.
Quindi non parliamo di uno scenario ipotetico, ma di un rischio già concreto. Finché vengono utilizzati modelli controllati dai produttori, come OpenAI o Anthropic, queste possibilità sono fortemente limitate. Il problema nasce con i modelli open-weight, cioè modelli i cui pesi sono pubblici e disponibili in open source.
Questi sistemi, pur essendo talvolta meno potenti dei modelli commerciali, possono essere utilizzati senza gli stessi limiti. Di fatto consentono di mettere a disposizione di chiunque una sorta di esercito di penetration tester automatizzati.
È una realtà di cui chi si occupa di cybersicurezza è già pienamente consapevole. Vale per la difesa delle infrastrutture critiche, ma anche per qualsiasi azienda o organizzazione che debba proteggere i propri sistemi. Non è uno scenario futuro: è già il mondo reale”.
Questo caso dimostra che i sistemi di sicurezza usati oggi per controllare l’IA non sono più sufficienti? Cosa bisognerebbe fare per evitare episodi simili?
“Noi possiamo basarci solo sulle informazioni rese pubbliche da OpenAI e da Hugging Face. In questo caso specifico, però, le contromisure hanno funzionato. Hugging Face aveva infatti rilevato il tentativo di compromissione e il 16 luglio aveva pubblicato un security incident. In quel momento sapeva che l’attacco proveniva da un agente di IA, ma non era ancora noto che fosse il risultato di un test interno condotto da OpenAI.
Dal punto di vista della difesa cambia poco che l’attaccante sia un essere umano o un agente di intelligenza artificiale. I comportamenti osservabili sono molto simili e gli strumenti di monitoraggio possono rilevare entrambe le situazioni.La vera esigenza è mantenere un monitoraggio continuo degli eventi di sicurezza, così da individuare e interrompere un attacco prima che raggiunga i cosiddetti “gioielli della corona”, cioè gli asset più critici dell’organizzazione.
La difficoltà crescente è che, con la diffusione degli agenti IA, aumenterà enormemente anche il numero di tentativi di attacco e di allarmi da gestire. Per questo motivo sarà necessario utilizzare, anche dal lato della difesa, strumenti basati sull’intelligenza artificiale in grado di riconoscere automaticamente le minacce e reagire in tempo reale.Sarà una sorta di wargame continuo tra attaccanti e difensori, in cui vincerà chi riuscirà a sviluppare per primo strumenti più efficaci”.
Guardando ai prossimi anni, qual è il rischio più grande: che l’IA diventi un’arma sempre più potente per gli hacker o che sviluppi comportamenti imprevedibili difficili da controllare?
“Per rispondere servirebbe una sfera di cristallo. Quello che possiamo aspettarci è un’evoluzione molto rapida dell’intelligenza artificiale, come già stiamo osservando. Un po’ come accadeva con la legge di Moore per i microprocessori, anche i modelli di IA stanno aumentando rapidamente capacità e prestazioni.
Questa evoluzione riguarderà sia chi attacca sia chi difende, e da questo punto di vista non è l’aspetto che mi preoccupa di più. La vera sfida, a mio avviso, sarà soprattutto normativa ed etica. Sarà necessario introdurre regole che consentano di attribuire con certezza le azioni compiute da un agente di IA a una persona fisica responsabile.
Il rischio, infatti, è che sistemi sempre più autonomi rendano difficile stabilire chi debba rispondere di eventuali attività illecite. È un tema che, probabilmente, dovrà essere affrontato prima sul piano legislativo ed etico che su quello strettamente tecnologico”.
Rinnovo Patente? Facile ed Economico
Questo articolo è stato pubblicato in origine su questo sito internet