I Deepfake sono registrazioni vocali, video, foto o ‘false’ realizzate con reti neurali profonde. L’uso del deep learning, al posto delle tradizionali tecniche di editing delle immagini, riduce drasticamente lo sforzo e l’abilità necessari per creare un falso convincente. Secondo alcune stime, il 96% di tutti i Deepfake è pornografico. Da qui, le preoccupazioni legate al loro uso per abusi, estorsioni e casi di pubblica umiliazione.
“I Deepfake sono un esempio lampante di come una tecnologia si sviluppi più velocemente del tempo necessario a comprenderla e a imparare a gestirne i rischi – spiega Vladislav Tushkanov, lead data scientist di Kaspersky -. Per questo motivo viene percepita sia come uno strumento in più a beneficio degli artisti, sia come nuovo strumento di disinformazione, che mette in discussione diversi aspetti della nostra vita quotidiana”.

Il regolamento UE sull’AI potrebbe includere una clausola su questa tecnologia

Google ha bandito gli algoritmi di Deepfake da Google Colaboratory, il servizio di calcolo gratuito con accesso alle GPU. E se diversi stati americani hanno leggi che li regolamentano un progetto di legge cinese richiede l’identificazione dei dati generati al computer. Inoltre, il futuro regolamento UE sull’AI potrebbe includere una clausola su questa tecnologia. Questa tecnologia potrebbe infatti aiutare i criminali informatici. Gli algoritmi commerciali di rilevamento della vivacità, utilizzati dalle istituzioni finanziarie nelle procedure KYC, potrebbero essere ingannati da Deepfake creati a partire da fototessere, creando nuovi vettori di attacco e rendendo i documenti d’identità trapelati un problema ancora più grave.

Un’ulteriore proliferazione della disinformazione su Internet

Di fatto i Deepfake minano la fiducia degli utenti rispetto ai contenuti audio e video, in quanto potrebbero essere utilizzati per scopi malevoli. E diversi esperti e istituzioni, come Europol, avvertono che la crescente disponibilità di Deepfake può portare a un’ulteriore proliferazione della disinformazione su Internet. Ovviamente non esistono solo aspetti negativi. La CGI (computer-generated imagery) esiste da decenni, e viene utilizzata in diverse occasioni. Ad esempio, un algoritmo Deepfake è stato utilizzato anche per creare una serie virale su TikTok con protagonista un finto Tom Cruise. E alcune startup stanno cercando nuovi modi per utilizzarne la tecnologia, ad esempio, per generare avatar realistici nel metaverso.

Quelli utilizzati per le truffe tendono a essere di bassa qualità

I Deepfake potrebbero quindi essere difficili da riconoscere. Quelli utilizzati per le truffe tendono ancora a essere di bassa qualità, e possono essere individuati notando movimenti innaturali delle labbra, capelli non propriamente realistici, forme del viso non corrispondenti e così via. Anche gli errori nella resa dei vestiti possono rivelare un Deepfake amatoriale. Nel caso in cui un personaggio famoso faccia affermazioni azzardate o offerte troppo belle per essere vere, anche se il video risultasse convincente, meglio fare un controllo incrociato delle informazioni, consultando fonti attendibili. Ma i truffatori possono intenzionalmente codificare i video per nascondere i difetti dei Deepfake creati, per cui osservare il video alla ricerca di indizi potrebbe non essere la strategia migliore.