Secondo un recente documento di approvvigionamento esaminato da The Intercept, il Pentagono sta cercando di sviluppare una tecnologia avanzata basata sull’intelligenza artificiale per creare utenti Internet deepfake indistinguibili dalle persone reali. In particolare, lo United States Special Operations Command (SOCOM) sta cercando il supporto di aziende private per sviluppare falsi profili online estremamente convincenti, utilizzabili nelle operazioni militari clandestine.

Il documento di 76 pagine, redatto dal Joint Special Operations Command (JSOC) del Dipartimento della Difesa, descrive la necessità di tecnologie capaci di generare identità virtuali complete. Questi profili dovrebbero sembrare persone reali, includendo espressioni facciali autentiche, foto di qualità governativa, video selfie e audio realistico. L’obiettivo è creare ambienti virtuali che non possano essere rilevati dagli algoritmi dei social media, consentendo di manipolare o influenzare contesti online senza destare sospetti.

Questa non è la prima volta che il Pentagono viene accusato di utilizzare account falsi sui social media per promuovere i propri interessi. Negli ultimi anni, piattaforme come Meta e Twitter hanno eliminato reti di propaganda gestite dal Comando Centrale degli Stati Uniti, composte da account falsi con immagini del profilo generate artificialmente.

Deepfake: un’arma a doppio taglio

La tecnologia dei deepfake, che sfrutta dati audiovisivi sintetizzati per imitare fedelmente persone reali, è già un’area di interesse per il SOCOM. L’anno scorso, il comando ha esplorato l’uso di video deepfake per operazioni di influenza, inganno digitale e campagne di disinformazione. I deepfake si basano su tecniche di intelligenza artificiale e apprendimento automatico, che utilizzano grandi quantità di dati per analizzare e ricreare caratteristiche umane con estrema precisione.

Mentre il Pentagono sviluppa queste tecnologie, contemporaneamente critica l’uso della stessa tecnologia da parte di avversari geopolitici. Funzionari della sicurezza nazionale hanno più volte avvertito dei rischi legati all’uso statale dei deepfake da parte di paesi rivali, definendolo una minaccia urgente. Dichiarazioni congiunte di NSA, FBI e CISA hanno identificato i deepfake come uno dei principali rischi per la sicurezza nel 2023.

I rischi etici e strategici

L’interesse del Pentagono per i deepfake ha sollevato preoccupazioni tra gli esperti. Heidy Khlaaf, scienziato capo dell’intelligenza artificiale presso l’AI Now Institute, ha espresso il timore che questo incoraggi altre potenze militari a sviluppare e utilizzare tecnologie simili. Secondo Khlaaf, ciò potrebbe portare a una situazione in cui sarà sempre più difficile distinguere la verità dalla finzione, creando una società vulnerabile alla manipolazione digitale su larga scala.

Mentre il Pentagono continua a esplorare queste tecnologie, la domanda etica rimane: come può una nazione giustificare l’uso di strumenti di disinformazione così sofisticati, mentre ne critica simultaneamente l’uso da parte di altre potenze? La risposta a questa domanda avrà profonde implicazioni non solo per il futuro della guerra digitale, ma anche per la fiducia nelle informazioni che circolano nel mondo online.

Per saperne di più, leggi l’articolo completo su The Intercept.