Cosa sono i deepfake e come proteggersi?

L’intelligenza artificiale si sviluppa a ritmo vertiginoso e con essa anche i metodi per la manipolazione dei contenuti digitali. Particolarmente perfidi sono i cosiddetti deepfake. Si tratta di video, immagini o registrazioni audio ingannevolmente autentici, realizzati con l’aiuto dell’IA e falsificati consapevolmente.

Le conseguenze del deepfake possono essere gravi – ad esempio quando persone famose sembrano fare affermazioni che non hanno mai fatto. Ma i deepfake non riguardano più solo le celebrità. Anche nella vita di tutti i giorni, sia in ambito privato che professionale, la manipolazione dei contenuti è un pericolo. Per questo è ancora più importante capire come funzionano i deepfake, quali rischi comportano e come proteggersi efficacemente.

Quali sono i rischi dei deepfake?

Il deepfaking spazia dalla disinformazione politica alle vendette personali fino ai tentativi di truffa e ricatto su vasta scala. I deepfake partono da diversi scenari di minaccia, come ad esempio: 

• social engineering i cybercriminali utilizzano con particolare frequenza i deepfake per gli attacchi di phishing, noti anche come spear phishing in questo settore. Con i deepfake cercano di accedere a informazioni confidenziali, quali dati bancari o indirizzi.  
• calunnia affermazioni false su presunte azioni o parole possono danneggiare gravemente la reputazione. I deepfake possono diffondere menzogne che danneggiano gravemente la reputazione delle vittime. In questa categoria rientra anche l’uso di contenuti pornografici e volti di persone estranee. 
• deepfake nei sistemi biometrici i deepfake possono creare contenuti che sembrano e suonano come una persona reale. Ciò è particolarmente problematico nel caso delle procedure di riconoscimento vocale o di videoidentificazione. Perché il sistema non può controllare dove sono state fatte le riprese o se sono state manipolate. 
• campagne di disinformazione alcune persone utilizzano in modo mirato deepfake per campagne di disinformazione in Internet. Nei video imitano personaggi noti che diffondono in modo mirato informazioni distorte su un determinato evento. Gli esperti osservano con particolare frequenza campagne di disinformazione diffuse sui social network. 

Esempi concreti di deepfake

In passato i deepfake sono stati più volte utilizzati per commettere reati: 

• Danni per 35 milioni di dollari a causa del voice-swapping: Con una telefonata fasulla i criminali hanno sottratto più di 35 milioni di dollari a una banca con sede a Dubai. I cybercriminali hanno utilizzato la tecnica deepfake del voice-swapping e nei confronti del direttore della banca si sono spacciati per un grande gruppo titolare di un conto presso la banca. Durante i colloqui precedenti, il direttore della banca aveva familiarità con la voce della sua persona di contatto all’interno dell’azienda. Quindi non ha dubitato dell’autenticità della chiamata e ha concesso una transazione di oltre 35 milioni di dollari.
• Deepfake fa pagare 220 000 euro al CEO di un’azienda energetica: Nel 2019 un CEO di un’azienda energetica britannica si è fatto imbrogliare da un deepfake. Così il suo presunto superiore della casa madre lo chiamò per richiedere un trasferimento di denaro d’emergenza. La voce falsata suonava così autentica che il CEO non aveva dubbi e pensava di parlare con il suo superiore. Tuttavia, non avrebbe dovuto trasferire il denaro alla casa madre, ma su un conto di terzi. Solo quando il suo superiore ha nuovamente chiesto denaro, al CEO è suonato il campanello d’allarme. Ma era già troppo tardi per annullare il trasferimento.

Come si riconoscono i deepfake?

I cybercriminali lavorano costantemente su contraffazioni sempre più sofisticate. Allo stesso tempo, le aziende di cybersecurity sviluppano continuamente nuovi algoritmi per rilevare tali contenuti. Si è scatenata una vera e propria corsa al vantaggio tecnologico. Ma anche i non addetti ai lavori possono fornire indicazioni su come smascherare i contenuti manipolati. 

7 indizi per riconoscere un deepfake

Ci sono alcuni segnali grazie ai quali si può riconoscere un video deepfake: 

• sguardo vuoto I deepfake si riconoscono spesso per la mancanza di mimica della persona. L’espressione del viso non corrisponde all’affermazione fatta oppure il viso appare rigido e privo di emozioni? 
• movimenti innaturali degli occhi La persona non ammicca affatto o visibilmente spesso? Gli occhi si muovono in modo innaturale?
• allineamento sfocato Ci sono margini sfocati o la persona non sembra posizionata correttamente? I singoli fotogrammi sono distorti o innaturali? 
• movimenti e proporzioni del corpo insoliti Notate che la persona si muove bruscamente? La testa è troppo grande rispetto al corpo o viceversa? 
• denti e capelli innaturali L’IA ha spesso difficoltà a rappresentare in modo realistico dettagli come singoli denti o ciocche di capelli volanti. Se questi dettagli mancano o sembrano artificiali, potrebbe essere un indizio che si tratta di un deepfake. 
• illuminazione o colorazione strana La luce è innaturale? L’illuminazione cambia visibilmente da una scena all’altra? Il colore della pelle davanti alla telecamera sembra strano o innaturale? Tali caratteristiche possono far pensare a un video manipolato. 
• rumori insoliti I movimenti delle labbra non corrispondono a quanto detto? Ci sono ritardi evidenti, pause o addirittura interruzioni del suono? Anche strani rumori di fondo possono essere un segnale che è stata usata la tecnologia deepfake. 

Come verificare autonomamente l’autenticità del contenuto

Se sospettate che dietro un video vi sia un deepfake, rivolgete lo sguardo alla fonte. In una prima fase verificate se portali già noti di fact checking hanno esaminato attentamente il contenuto. Tra i portali più conosciuti si annoverano ad esempio:

• CORRECTIV
• dpa-Faktencheck
• Mimikama

La cosa più importante è siate critici. Naturalmente, non c’è bisogno di sospettare un deepfake dietro ogni video. In caso di scenari irrealistici o poco credibili ci vuole una buona dose di scetticismo. 

Esistono strumenti o tecnologie per riconoscere automaticamente i deepfake?

Nella lotta contro i deepfake non siete completamente soli. Ora ci sono alcuni strumenti che possono essere utilizzati per riconoscere video, audio o immagini deepfake, come: 

• scanner Deepware 
• FakeCatcher 
• DeepFake-o-meter
• Attestiv 
• rilevatore di deepfake in tempo reale di Intel 
• Video Authenticator Tool di Microsoft 
• WeVerify