Cambiare volto, colore della pelle, voce e altro durante una videochiamata dal vivo, con il minimo sforzo e grazie all'intelligenza artificiale. E' il fenomeno dei deepfake in tempo reale, una truffa che inganna anche i sistemi di verifica e può colpire tutti, non solo manager di grandi aziende o personaggi pubblici come Donald Trump e Taylor Swift.
"Con la tecnologia di morphing si cambia volto e voce, sono sofisticate operazioni di ingegneria sociale molto più efficaci della truffa che arriva con un messaggio a cui siamo oramai più preparati", spiega all'ANSA Marco Ramilli che da pochi mesi ha fondato IdentifAI. La startup italiana processa immagini e video e grazie ad una tecnologia definita 'degenerativa' riconosce prodotti contraffatti dall'intelligenza artificiale generativa.
Del fenomeno dei deepfake in tempo reale si è occupata la testata online '404 media' che conduce inchieste nel settore tecnologico. Ha documentato dell'uso di questo sistema per truffare gli utenti, soprattutto gli anziani, ma anche della chiusura di un sito 'Mr. Deepfakes' a cui gli utenti erano disposti a pagare fino a 1.500 dollari per creare dei video finti porno in cui venivano cambiati i volti con l'IA.
In pochi anni il fenomento deepfake in generale è cresciuto esponenzialmente. Secondo dati combinati di Resemble.AI e AI Incident Database dal 2017 al 2022 ci sono stati 22 incidenti registrati. Nel 2023 questo numero è quasi raddoppiato a 42, nel 2024 gli incidenti sono aumentati del 257% arrivando a 150. E nel primo trimestre del 2025 si sono già verificati 179 incidenti, superando del 19% il totale di tutto il 2024.
"Le frodi più comuni, quelle di tutti i giorni, riguardano principalmente i documenti di identità falsi nel settore bancario e assicurativo, scontrini contraffatti per le richiesta di rimborsi - osserva Ramilli - Ma ci sono anche le truffe con le voci generate dall'intelligenza artificiale per cui basta una traccia di pochi secondi per riprodurre il vocale di un parente. E quelle con le immagini di persone famose prese dai social che hanno più appeal sugli utenti e possono essere usate anche a scopo politico". Tanti gli esempi di video contraffatti da quando è scoppiata la guerra in Ucraina e più di recente la tecnologia di IdentifAI ha aiutato NewsGuard, la piattaforma che monitora la disinformazione online, a smascherare dei video finti di Donald Trump che minacciava di distruggere il Pakistan se avesse attaccato l'India.
La tecnologia 'degenerativa' della startup italiana ha individuato le voci fuori campo prodotte con l'intelligenza artificiale che sono state aggiunte ad una clip reale del presidente americano mentre i movimenti della bocca sono stati alterati. "Nel campo delle frodi quest'anno l'Intelligenza artificiale rappresenta il 5%, mentre lo scorso anno si è attestata allo 0.3%. Pensiamo che in quattro anni salirà al 60-70% delle frodi. Siamo sottoposti a molti stimoli multimediali, bisogna avere cautela e dotarsi di strumenti che processano le immagini e i video per cercare di capire, altrimenti si perderà la fiducia nel digitale".
Riproduzione riservata © Copyright ANSA
