[lid] Il popolare strumento di generazione di immagini Midjourney, basato sull’intelligenza artificiale, ha avviato una politica restrittiva per impedire ai suoi utenti di creare immagini false raffiguranti il presidente Joe Biden e l’ex presidente Donald Trump prima delle elezioni presidenziali americane imminenti, secondo test condotti dall’Associated Press.

Con le elezioni in corso, il CEO di Midjourney, David Holz, ha affermato durante un evento digitale in orario d’ufficio mercoledì di voler affrontare le questioni legate alle elezioni. Sebbene non abbia delineato con precisione i cambiamenti politici che sarebbero stati apportati, Holz ha descritto la repressione come una misura temporanea per impedire abusi dello strumento. La società non ha risposto immediatamente a una richiesta di commento.

I tentativi degli editori dell’AP di testare la nuova politica di Midjourney, chiedendo la creazione di un’immagine raffigurante “Trump e Biden che si stringono la mano sulla spiaggia”, hanno ricevuto un avviso di “Prompt vietato”. Un secondo tentativo ha portato a un avviso di “Abuso attivato”. La piccola azienda, che conta solo 11 dipendenti secondo il suo sito web, è stata in gran parte silenziosa nel dibattito pubblico sull’utilizzo degli strumenti di intelligenza artificiale generativa per alimentare la disinformazione elettorale. Midjourney è stata l’unica ad non aderire a un patto volontario per combattere i deepfake generati dall’intelligenza artificiale che possono ingannare gli elettori.

Il Center for Countering Digital Hate ha pubblicato un rapporto all’inizio di questo mese, evidenziando che Midjourney è già utilizzato per produrre immagini che potrebbero supportare la disinformazione sui candidati politici o false accuse di frode elettorale. “Midjourney sembra avere il minor controllo tra i generatori di immagini AI quando si tratta di personaggi politici famosi come Joe Biden e Donald Trump”, ha dichiarato Callum Hood, capo della ricerca del gruppo. Midjourney ha ottenuto risultati particolarmente negativi nei test condotti.

Holz ha affermato che non è interessato al discorso politico e che Midjourney mira a permettere alle persone di creare una vasta gamma di immagini, ma ha anche sottolineato la necessità di imporre restrizioni per evitare abusi.

Il gruppo di controllo ha evidenziato che Midjourney ha adottato una politica restrittiva che potrebbe aiutare a mitigare il problema delle immagini false, ma alcuni utenti si sono lamentati della mancanza di comunicazione chiara da parte dell’azienda riguardo a questa modifica.

Midjourney differisce dagli altri generatori di immagini per la sua trasparenza: gli utenti possono vedere suggerimenti e immagini scritte da altri utenti nei forum pubblici sulla piattaforma di social media Discord, dove il gruppo Midjourney ha oltre 19 milioni di membri.

Holz ha avvertito che il problema delle immagini false diventerà sempre più complesso nel futuro e ha suggerito che nel 2028 i candidati potrebbero utilizzare “chatbot deepfake” per simulare dibattiti. L’azienda, fondata nel 2020, si descrive come un laboratorio di ricerca indipendente che esplora nuovi modi di pensare e amplia l’immaginazione umana.