Rinnovo Patente? Facile ed Economico
Voce clonata e truffe, Camisani Calzolari: “L’ascolto non basta più”
L’intelligenza artificiale generativa è ormai entrata nella vita quotidiana e, con la diffusione degli strumenti capaci di clonare una voce in pochi secondi, il confine tra realtà e manipolazione digitale si fa sempre più sottile. Una tecnologia che apre nuove possibilità, ma anche scenari preoccupanti per truffe, frodi e attacchi informatici. E la convinzione che bastino l’orecchio umano o i controlli delle piattaforme per riconoscere un falso rischia di rivelarsi un’illusione.
Dietro l’allarme per le voci sintetiche c’è però una questione più ampia, che riguarda tutele legali, strumenti di tracciamento e nuove procedure di sicurezza per cittadini e imprese. Quanto è facile oggi clonare la voce di una persona? La registrazione del timbro come marchio sonoro e le nuove norme rappresentano una protezione efficace o soltanto una barriera parziale? E come possiamo difenderci quando anche un ascolto attento può non essere sufficiente a distinguere una voce reale da una generata dall’IA?
A fare il punto è Marco Camisani Calzolari, docente universitario, divulgatore scientifico ed esperto di comunicazione digitale, che ad Affaritaliani analizza i rischi della clonazione vocale e le possibili strategie per proteggersi dai nuovi strumenti di manipolazione.
Quanto è facile oggi clonare la voce di una persona? Bastano davvero pochi secondi di audio, magari presi da un video o da un messaggio WhatsApp, per creare una voce credibile?
La risposta dipende da chi lo fa, e per il grande pubblico l’apparenza inganna. Chi prova uno dei servizi online più diffusi si accorge che prima di clonare una voce viene chiesta una verifica: bisogna leggere ad alta voce un testo specifico, diverso ogni volta, e il sistema controlla che la voce da clonare coincida con quella di chi sta facendo la richiesta. Con questi controlli, clonare la voce di un’altra persona senza il suo consenso diventa difficile, e da qui nasce l’impressione che la clonazione sia alla portata di tutti ma limitata dalle verifiche.
I criminali però usano altri strumenti. Fanno girare modelli di intelligenza artificiale sui propri computer, oppure su server affittati apposta per queste attività, dove nessuna verifica viene applicata. Per loro bastano pochi secondi di audio, preso da un video sui social, da un’intervista o da un vocale, per ottenere una voce credibile. Servono competenze tecniche, hardware adeguato e un minimo di organizzazione, quindi non è un’operazione alla portata di chiunque. Lo è per chi lo fa per mestiere, e le truffe di questo tipo sono organizzate in modo professionale.
Il rischio vero sta nello scarto tra le due situazioni: i controlli dei servizi pubblici rassicurano il cittadino, mentre chi vuole ingannare li aggira del tutto. Conviene quindi partire dal presupposto che la voce di chiunque abbia audio pubblicato online possa essere riprodotta, senza contare sull’idea che sia complicato farlo.
Nel caso di Giorgia Meloni, quanto può essere utile registrare il proprio timbro vocale come marchio? È una vera forma di protezione contro i deepfake oppure non impedisce tecnicamente a qualcuno di clonare quella voce?
Prima va chiarito un limite. La maggior parte di chi organizza queste truffe agisce dall’altra parte del mondo, in paesi dove uno Stato come il nostro non può intervenire e dove nemmeno gli strumenti legali arrivano. Nessun marchio, nessuna legge nazionale ferma facilmente un criminale che opera da lì. Chi si aspetta una protezione tecnica contro la clonazione resta deluso, perché la voce si può clonare comunque.
Ci sono però aspetti molto concreti che aiutano. Un esempio semplice: oggi nessuno può pubblicare un disco remix usando le frasi famose di un artista senza il suo consenso, perché quelle frasi sono protette. Lo stesso vale per una frase registrata come marchio sonoro, che a tutti gli effetti diventa un bene di proprietà.
Quando circola un falso con quella registrazione, chi chiede la rimozione alle piattaforme ha quindi due motivi invece di uno: la diffamazione e l’inganno legati al fake, e la violazione di un diritto di proprietà sulla registrazione. Le piattaforme sono abituate a trattare le segnalazioni di proprietà intellettuale con procedure standard e tempi rapidi, più delle questioni di reputazione, che richiedono valutazioni caso per caso. Un elemento in più, quindi, per ottenere una rimozione più veloce.
Il deposito all’EUIPO riguarda una registrazione di circa 4 secondi, “Io sono Giorgia Meloni”, e un deepfake con la stessa voce ma una frase diversa può restare fuori. Per questo lo considero un tassello utile anche se purtroppo non una soluzione definitiva. Marchio, norma penale e obblighi di trasparenza dell’AI Act lavorano insieme, e il valore del marchio sta nella velocità con cui permette di far togliere i contenuti dalla rete.
C’è ancora un modo per capire, ascoltando una telefonata, che dall’altra parte c’è una voce generata dall’IA? Oppure siamo arrivati al punto in cui anche l’orecchio umano non può più essere considerato uno strumento affidabile?
Per rispondere bisogna distinguere due mondi. Il primo è quello dei servizi online che rispettano le regole. In Europa l’AI Act obbliga chi offre sistemi di generazione di contenuti sintetici a marcarli in modo riconoscibile da una macchina, con una filigrana digitale (watermark) che identifica il contenuto come generato dall’intelligenza artificiale. Per questi servizi esiste quindi una traccia che un software di controllo può leggere.
Il secondo mondo è quello dei criminali, e nel loro caso la protezione cade. Chi usa modelli che girano sui propri computer, o su server dedicati, lavora fuori da ogni controllo: nessuno gli impone la filigrana, e se il modello la inserisce di default può rimuoverla o disattivarla con facilità. Le regole europee valgono per chi le rispetta, e un criminale che opera dall’altra parte del mondo con un modello proprio le ignora. Per questo l’assenza di un watermark non dimostra che una voce sia vera.
Resta l’orecchio umano, e su quello la risposta è che quando il lavoro è fatto bene, oggi è impossibile distinguere una voce clonata da una vera. Gli indizi di qualche anno fa, come il ritmo troppo regolare, i respiri assenti o i piccoli ritardi, sono ormai superati dai modelli migliori. Anche i software di rilevazione perdono molta efficacia in condizioni reali, con audio compresso o rumoroso, come in una telefonata.
La conclusione è che l’ascolto non può più essere considerato uno strumento di verifica. La difesa va costruita su procedure, come richiamare su un numero noto o usare una parola d’ordine concordata, e non sulla speranza di accorgersi del falso.
Il caso Crosetto ha dimostrato che una voce clonata può essere usata per una truffa molto sofisticata. Qual è oggi la regola più importante che tutti dovrebbero seguire per non cadere in questo tipo di inganno?
La voce da sola non è una prova. Quando una telefonata chiede soldi, dati o azioni urgenti, bisogna interrompere e verificare su un altro canale, richiamando un numero già noto e non quello da cui si è stati chiamati. In famiglia e in azienda conviene concordare una parola d’ordine, da usare nei casi sensibili. Va trattata con sospetto ogni richiesta che combina urgenza, segretezza e denaro, qualunque sia la voce che la pronuncia.
Il caso Crosetto lo mostra bene. Nel febbraio 2025 imprenditori molto noti, tra cui Armani, Bertelli, Tronchetti Provera e le famiglie Aleotti, Beretta e Caltagirone, hanno ricevuto telefonate con la voce clonata del ministro, che chiedeva circa 1 milione di euro per liberare giornalisti rapiti. Ha pagato solo Moratti, circa 980.000 euro, poi recuperati su un conto olandese perché la denuncia è stata immediata. Chi ha resistito ha fatto la cosa giusta: ha verificato. Anche le aziende dovrebbero adottare procedure interne, ad esempio una doppia autorizzazione per i bonifici sopra una certa soglia e una verifica sempre su un secondo canale.
Il tema non riguarda solo i personaggi pubblici. Nel 2024 un dipendente di Arup a Hong Kong ha versato 25 milioni di dollari dopo una videochiamata con colleghi falsi. Per questo l’educazione delle persone resta la difesa principale.
Rinnovo Patente? Facile ed Economico
Questo articolo è stato pubblicato in origine su questo sito internet