Le truffe deepfake e la psicologia umana

Negli ultimi anni, l'evoluzione tecnologica ha reso il panorama delle truffe sempre più complesso e insidioso. Un episodio personale ha messo in luce questo fenomeno: un caro amico, una persona di indubbia maturità e intelligenza, mi ha contattato con insistenza per discutere di un'opportunità finanziaria straordinaria che aveva scoperto. Questa opportunità era troppo allettante.

Salvatore Todaro, Università di Messina.

L'amico mi ha raccontato di aver visto un video su un noto social network in cui un telegiornale nazionale annunciava un metodo finanziario miracoloso per investimenti. Secondo il video, un “segreto” rivelato contro la volontà delle élite prometteva guadagni incredibili con un investimento iniziale minimo. Con un investimento di pochi euro, si potevano ottenere guadagni giornalieri garantiti del 2%, senza alcun rischio. Facendo i conti, un investimento di 100€ avrebbe portato a più di 137.000€ in un anno.

L'entusiasmo del mio amico era palpabile, e mi chiese: "Cosa devo fare? Clicco e faccio il versamento?" Conoscendo bene il genere di truffa in questione, risposi in modo secco: "Se esistesse davvero un metodo così efficace, perché non viene utilizzato in segreto per accumulare ricchezze?" Aggiunsi ulteriormente: "Se desideri perdere la tua serenità e i tuoi soldi, allora procedi pure". Ma la sua insistenza continuava: "E se fosse vero? Non voglio perdere l'occasione della vita, in fondo rischio solo 100€".

Decisi di concludere con fermezza: "Non farlo. L'unica cosa che rischi di perdere è l'opportunità di essere truffato. Si tratta di un video manipolato o generato con intelligenza artificiale da criminali per sottrarti denaro e dati. Stai credendo a una storia simile a quella del gatto e la volpe di Pinocchio, che ti vogliono indurre a seppellire gli zecchini nel campo dei miracoli. Smetti di credere alle favole!".

L'Analisi del Video

Incuriosito, quella sera decido di guardare il video in questione sul mio desktop. Si trattava di un deepfake, realizzato non troppo bene se osservato su un monitor da 27 pollici, ma di ottima qualità su uno schermo di smartphone. Nel video apparivano politici di primo piano con espressioni imbronciate e conduttori di telegiornale che annunciavano il presunto scoop. L’audio e il video erano stati generati con intelligenza artificiale, tanto che i volti noti sembravano realmente pronunciare quelle parole, anche se ad un occhio attento non erano perfettamente sincronizzati e c’erano delle imperfezioni. L’effetto comunque era tanto inquietante quanto convincente, creando un’illusione di autenticità che alimentava la narrazione sensazionalistica.

La produzione e distribuzione di contenuti realizzati con tecniche deepfake rappresentano un metodo innovativo per indurre qualcuno a compiere un'azione e rendere verosimili delle cose false. È particolarmente insidioso per diversi motivi: i deepfake fungono da trucco di un prestigiatore truffatore, il quale cerca di ottenere reazioni reali nello spettatore. Mentre il prestigiatore cerca il tuo applauso, il truffatore, in questo caso, punta ai tuoi dati e al tuo denaro.

Quello che mi ha incuriosito non è stata la minaccia—non nuova almeno per me—bensì il fatto che un uomo che giudico maturo, equilibrato e certamente non ingenuo sia stato tentato di prendere contatto con questi truffatori tecnologici. Ma una domanda continuava a ronzare nella mia mente: cosa muove un uomo certamente non stupido ad accettare consapevolmente il rischio di una truffa? Sposto quindi, incoscientemente, la mia curiosità dalle minacce alle vulnerabilità del bersaglio, ed il bersaglio potresti essere tu.

La Visione di Giulio Cesare

La risposta l’ha data Giulio Cesare più di 2000 anni fa: “Fere libenter homines id quod volunt credunt” (Commentarii de bello Gallico, III, 18, 6).

Gli uomini credono in ciò che fa loro piacere. Questa è una caratteristica umana, un bug del sistema uomo, e i cattivi lo sanno. È sufficiente che la notizia sia “allettante” e “servita” in maniera verosimile e familiare per indurre alla credulità.Da qualche anno è diventato essenziale essere critici e non seguire più il detto “Credi solo ai tuoi occhi”. Con l’avvento dell’AI applicata ai contenuti multimediali, ciò che vedi o che senti potrebbe essere un trucco di un illusionista che ti sta ingannando inducendoti a credere qualcosa a cui ti farebbe piacere credere. Insomma, si tratta di un amo in bella vista con un’esca che aspetta solo te.

Il bersaglio sei tu e devi difenderti in questa “guerra” ormai continua. La proposta del truffatore era veicolata in maniera familiare, verosimile e esperienzalmente ritenuta affidabile. Dobbiamo imparare a non credere più ai nostri occhi e alle nostre orecchie in modo acritico.

Il fatto che una fotografia possa essere alterata è un dato acquisito da tutta la società. Eppure, l’idea che un video e una voce possano esserlo contraffatti è un dato noto a tutti? Questo è ancora poco compreso.

La Lezione di Sun Tzu – Conosci te stesso e il tuo nemico

Sun Tzu, generale cinese autore de "L'Arte della Guerra", scrive:"Se conosci il nemico e te stesso, la tua vittoria è sicura. Se conosci te stesso ma non il nemico, le tue probabilità di vincere e perdere sono uguali. Se non conosci il nemico e nemmeno te stesso, soccomberai in ogni battaglia."

Conosci te stesso? Riconosci le tue reazioni più istintive e intime? Probabilmente non sempre. Conosci il tuo nemico? I suoi obiettivi e le sue armi? Probabilmente non completamente.

Giulio Cesare, nell’episodio citato, crea ad arte un imbroglio verso i comandanti barbarici per indurli, con false informazioni che facevano loro piacere, a compiere azioni che li hanno portati a una clamorosa sconfitta. La modalità dell’invio della falsa informazione era verosimile.Conosci te stesso fino in fondo in tutte le condizioni? Conosciamo il nostro nemico, il campo di battaglia e le sue armi? La risposta a queste domande è probabilmente NO.

Crediamo di conoscere noi stessi (le nostre reazioni più intime e istintive) e forse pensiamo di conoscere i nostri nemici. Siamo qui per capire meglio gli strumenti usati dai nostri avversari e aumentare le nostre difese.

Lo Schema dell'Inganno

Riassumendo lo schema:

1. Proposta attraente: Vieni a conoscenza di una informazione o opportunità che ti induce anche indirettamente a compiere un'azione.
2. Vettore dell’informazione: Le modalità con cui vieni a conoscenza dell’informazione appare vera o casuale, e risulta comunque familiare e verosimile.
3. Valutazione dei rischi non adeguata: Vista l’imperdibile opportunità non viene effettuata una valutazione critica. Non valuti attentamente i rischi o li ignori coscientemente.

Il Gioco di Prestigio

Tutto funziona come un gioco di prestigio: se non conosci il trucco, tutto ti appare magico, miracoloso, reale. Ma una volta rivelato il trucco, ogni cosa diventa chiara… e spesso è troppo tardi.

Accettando che non solo i creduloni cadono nelle truffe, possiamo affermare che anche tu sei vulnerabile. Oggi qual è quindi l’arma migliore per rendere verosimile qualcosa che le persone desiderano ardentemente? Un deepfake! Questo contenuto multimediale sembra familiare e veicola messaggi allettanti. Difficilmente si può non credere ai propri occhi o alle proprie orecchie.

Un deepfake è uno strumento perfetto per indurre a credere a qualcosa che si desidera fortemente. Inoltre, esiste la falsa percezione che ciò che si vede non possa non essere vero. Inoltre, è anche economico e facile da realizzare e diventeranno sempre più indistinguibili da contenuti reali.Difficilmente una persona non educata a queste minacce tecnologiche in mano ai criminali può evitarle.L’unico mezzo di difesa quindi...sei tu.

Come Difendersi

Assumendo che non possiamo fidarci dei nostri sensi e che siamo vulnerabili ai nostri desideri, cosa puoi fare? Come puoi comportarti?

• Sii critico, sempre: affidati alla tua esperienza e al tuo giudizio razionale.
• Non credere alle favole: Non esiste un albero degli zecchini d’oro della storia di Pinocchio, e il gatto e la volpe non sono amici, ma truffatori ed il Campo dei Miracoli non esiste
• Chiedi consiglio: rivolgiti a esperti o fai ricerche online. Se si tratta di una truffa, potrebbe essere già stata segnalata.
• Verifica e incrocia le fonti: se una notizia è vera, sarà riportata in modo indipendente da diversi media.
• Non condividere informazioni senza verificarle: non diffondere informazioni senza verificarle; potresti mettere in pericolo anche altre persone.
• Rifletti: prendi il tempo necessario per analizzare le informazioni e cerca di essere meno reattivo, queste truffe spesso puntano sull’urgenza per non farti valutare i rischi.
• Documentati sulle tecniche e gli schemi usati dai criminali: solo conoscendo le loro armi e i loro schemi puoi riconoscere le minacce. Se conosci i trucchi usati dai criminali saprai evitare le insidie.

Le avventure di Pinocchio. Storia di un burattino, 1883, C. Collodi

Conclusioni

Che tu lo sappia o no sei un piccolo pesce nel mare del web che è pieno di predatori e pescatori: impara a riconoscere i rischi e le tecniche e rimarrai al riparo dai guai.