Riportiamo la riflessione del professor Francesco Pira che analizza come la manipolazione, favorita dai deepfake, stia incidendo sulla società contemporanea.
Come cittadini, dobbiamo trattenere due idee contemporanee: la prima, realistica — la minaccia è concreta e già produce vittime; la seconda, propositiva — esistono strumenti culturali, tecnologici e politici per arginarla. Proteggere la dignità umana nella sfera digitale significa ricostruire fiducia mediante regole chiare, competenze diffuse e solidarietà verso chi subisce. Solo così la società può trasformare una crisi in un’occasione per rafforzare le sue difese civili e morali contro chi usa la menzogna come merce.
Il mercato dei deepfake ha cambiato pelle: da laboratorio d’élite si è trasformato in un’industria di massa venduta a basso costo. Questo fenomeno non è solo una questione tecnica, ma una ferita aperta nei processi culturali e comunicativi che regolano fiducia, identità e responsabilità collettiva.
Tecnologia / Pira: manipolazione e società al tempo dei deepfake
Mi ha particolarmente colpito l’articolo pubblicato su TgCom24 intitolato “Deepfake a basso costo, bastano 50 dollari per creare video falsi in tempo reale”, perché connette un dato tecnico (la drastica riduzione dei costi) a conseguenze sociali concrete — truffe, disinformazione, violenze digitali — che interessano in modo diretto il campo dei miei studi sociologici sui processi culturali e comunicativi.
TgCom24 riporta che, secondo l’analisi del Global Research and Analysis Team di Kaspersky, “sul dark web sono comparsi annunci che offrono servizi di generazione di deepfake a prezzi mai visti prima: circa 50 dollari per un video e 30 per un audio”, cifre che risultano “quasi 400 volte inferiori rispetto a quelle richieste solo pochi anni fa”.
Servizi sofisticati e pensati per il crimine
Secondo quanto evidenziato nell’articolo, i servizi disponibili “sono sofisticati e pensati per l’uso criminale: dallo scambio di volti in tempo reale durante videocall alla sostituzione dell’immagine per bypassare controlli d’identità, fino alla manipolazione del feed della fotocamera su dispositivi target”.
La diffusione è “verticale: non risparmia né utenti privati né aziende né personaggi pubblici”, e i ricercatori osservano “un chiaro rapporto tra domanda e offerta: annunci sempre più numerosi incontrano acquirenti disposti a integrare questi strumenti nelle operazioni illecite”. TgCom24 segnala inoltre che “gli incidenti registrati sono passati da 22 nel periodo 2017-2022 a 42 nel 2023; nel 2024 si è registrato un +257% arrivando a 150 casi, e nel primo trimestre del 2025 gli incidenti rilevati sono stati 179, superando il totale dell’anno precedente del 19%”.
Infine, si riferisce l’intervento della comunità internazionale: “l’ITU, l’Unione internazionale delle telecomunicazioni delle Nazioni Unite, ha lanciato un appello alle aziende affinché adottino strumenti avanzati per rilevare e rimuovere disinformazione e deepfake”. L’articolo cita anche un caso avvenuto in Australia, dove “un uomo è stato condannato a una multa molto pesante dopo la diffusione online di immagini deepfake di donne”.
La riflessione di Pira / Manipolazione e società al tempo dei deepfake: crescita degli incidenti
Il fenomeno descritto non può essere ridotto a un semplice aggiornamento tecnologico: siamo di fronte a una trasformazione sociale che coinvolge le strutture della fiducia, dell’identità e del controllo culturale. La progressiva accessibilità di strumenti in grado di manipolare audio e video in tempo reale rende labili i confini tra realtà e finzione, facendo vacillare uno degli elementi più fondamentali della comunicazione umana: la presunzione di autenticità.
Quando un’immagine o una voce possono essere falsificate con estrema precisione e a bassissimo costo, ciò che si rompe non è solo il singolo contenuto, ma l’intero contesto relazionale e comunicativo in cui esso è inserito. Ne consegue una crescente diffidenza nei confronti delle informazioni, delle persone, delle fonti: una sfiducia diffusa che alimenta l’instabilità sociale e la paralisi decisionale. I deepfake non colpiscono tutti allo stesso modo.
Le donne, in particolare, risultano più vulnerabili in questo contesto: l’uso di bot capaci di “spogliare” digitalmente un corpo femminile e di inserirlo in contesti pornografici o umilianti rappresenta una delle forme più violente di abuso online. Un video del genere può distruggere la vittima, annientarne la reputazione, isolarla, esporla al ricatto o al disprezzo sociale. Si tratta di una violenza che agisce sul corpo e sull’identità, sulla percezione di sé e sull’immagine pubblica, rivelando quanto la tecnica, quando è disgiunta da etica e controllo, possa diventare arma. Questa pervasività del danno si lega a una logica economica precisa: la creazione di deepfake a 50 dollari dimostra che il crimine si è fatto industria, abbattendo le barriere d’ingresso per utenti inesperti e moltiplicando così la platea dei potenziali aggressori.
La riflessione di Pira / Manipolazione e società al tempo dei deepfake: il crimine diventa industria
La merficazione del falso, il fatto che l’inganno diventi prodotto vendibile e replicabile, alimenta una cultura in cui la verità è sempre negoziabile e in cui la reputazione può essere distrutta in pochi secondi. Sul piano politico, questo scenario apre a una crisi di legittimità e governabilità: l’uso dei deepfake per fini di disinformazione mina le basi della deliberazione pubblica e compromette l’integrità dei processi democratici. Ma non è sufficiente immaginare risposte repressive: serve una nuova alfabetizzazione culturale che educhi alla consapevolezza digitale, un lavoro collettivo sulla responsabilità comunicativa, la promozione di pratiche etiche nell’uso della tecnologia.
È solo attraverso un approccio sistemico, che unisce prevenzione tecnica, regolamentazione giuridica e formazione sociale, che si può sperare di contenere l’impatto di questa minaccia.
Non tutto è perduto. La storia insegna che nei momenti di crisi più radicali si aprono anche spazi per riflessioni profonde e trasformazioni positive. Come spesso sosteneva Papa Francesco, “le tecnologie possono essere utilizzate per favorire l’incontro o per aumentare le divisioni. L’umanità ha il potere, e il dovere, di decidere quale direzione prendere”. È proprio nel momento in cui la tecnologia sembra più distante dall’etica che la voce della coscienza sociale può tornare ad essere guida.
La riflessione di Pira / Manipolazione e società al tempo dei deepfake: il digitale possibile cura
Il digitale, se posto al servizio del bene comune, può anche diventare strumento di cura, di denuncia, di giustizia. E, come ha sottolineato Papa Leone XIV nel suo primo messaggio dopo l’elezione, “la verità non ha paura delle ombre, perché brilla nel cuore libero di chi la cerca con rettitudine”. È da questa rettitudine, da un impegno condiviso tra individui, istituzioni e comunità, che può nascere un nuovo equilibrio tra innovazione e dignità. Non si tratta solo di contrastare il danno, ma di immaginare un futuro in cui la tecnologia sia costruita, sin dalla progettazione, con al centro l’essere umano.
Il sistema dei deepfake a basso costo ci restituisce la fragilità delle nostre istituzioni simboliche e la rapidità con cui la tecnologia ridefinisce i confini del danno.
Come cittadini, dobbiamo trattenere due idee contemporanee: la prima, realistica — la minaccia è concreta e già produce vittime; la seconda, propositiva — esistono strumenti culturali, tecnologici e politici per arginarla. Proteggere la dignità umana nella sfera digitale significa ricostruire fiducia mediante regole chiare, competenze diffuse e solidarietà verso chi subisce. Solo così la società può trasformare una crisi in un’occasione per rafforzare le sue difese civili e morali contro chi usa la menzogna come merce.
Francesco Pira, professore associato di sociologia dei processi culturali e comunicativi presso l’Università di Messina. Giornalista, saggista e studioso di comunicazione, è autore di numerosi articoli e volumi su media, linguaggi digitali e dinamiche sociali contemporanee.
