[lid] I pedofili stanno utilizzando l’intelligenza artificiale per generare immagini di abusi sessuali su minori “sorprendentemente realistiche” che molte persone potrebbero trovare “indistinguibili” dalle immagini reali, ha avvertito un gruppo di sicurezza online.

La Internet Watch Foundation (IWF) afferma di aver già trovato immagini molto realistiche generate dall’intelligenza artificiale che raffigurano abusi sessuali su minori e che la tecnologia potrebbe essere utilizzata per generare “quantità senza precedenti” di tali contenuti, secondo un rapporto di Sky News .

Inoltre, le immagini sono così realistiche che potrebbe diventare più difficile determinare quando i bambini reali sono in pericolo, ha avvertito l’IWF, che trova e rimuove contenuti pedopornografici su Internet.

I siti online indagati dall’IWF, alcuni dei quali segnalati dal pubblico, avrebbero presentato immagini raffiguranti bambini di appena tre anni. L’IWF ha affermato di aver persino trovato un “manuale” online per aiutare i pervertiti a utilizzare l’intelligenza artificiale per creare immagini più realistiche di abusi sui minori.

Sebbene sia illegale generare questo tipo di immagini nel Regno Unito, il gruppo di sicurezza online afferma che la tecnologia AI sta avanzando così rapidamente e sta diventando molto più accessibile, che presto potrebbe essere difficile per la legge tenere il passo con il problema.

La National Crime Agency (NCA) del Regno Unito ha affermato che il rischio è “in aumento” e viene preso “estremamente sul serio”, ha riferito Sky News.

“Esiste una possibilità molto reale che se il volume del materiale generato dall’intelligenza artificiale aumenta, ciò potrebbe avere un notevole impatto sulle risorse delle forze dell’ordine, aumentando il tempo necessario per identificare i bambini reali bisognosi di protezione”, Chris Farrimond, direttore della NCA ha affermato.

Il primo ministro del Regno Unito Rishi Sunak ha affermato che il prossimo vertice globale sull’intelligenza artificiale affronterà e discuterà i “guardrail” normativi che potrebbero ridurre i rischi futuri posti dall’intelligenza artificiale.
Un portavoce del governo ha detto a Sky News quanto segue:

I contenuti di sfruttamento e abuso sessuale minorile generati dall’intelligenza artificiale sono illegali, indipendentemente dal fatto che raffigurino o meno un bambino reale, il che significa che le aziende tecnologiche saranno tenute a identificare in modo proattivo i contenuti e rimuoverli ai sensi della legge sulla sicurezza online, progettata per tenere il passo con le tendenze emergenti. tecnologie come l’intelligenza artificiale.

“La legge sulla sicurezza online richiederà alle aziende di intraprendere azioni proattive nell’affrontare tutte le forme di abuso sessuale di minori online, tra cui adescamento, live streaming, materiale pedopornografico e immagini proibite di bambini, altrimenti dovranno affrontare multe enormi”, ha aggiunto il portavoce.

Agenparl aveva precedentemente riferito che i contenuti sessuali generati dall’intelligenza artificiale sono un problema crescente, poiché Facebook e TikTok consentono agli annunci sessuali generati dall’intelligenza artificiale di inondare le loro piattaforme:

NBC News  riferisce  che le piattaforme di social media note per le loro rigorose politiche contro i contenuti sessuali si trovano ora ad affrontare domande sui loro sistemi di moderazione. Instagram e TikTok di Facebook, piattaforme che storicamente hanno vietato la pubblicità di prostituzione, pornografia e persino insegnanti che parlavano di salute sessuale, ora ospitano una nuova generazione di contenuti sessualizzati: pubblicità per immagini sessuali generate dall’intelligenza artificiale e “compagnia”.

Questi annunci, spesso di natura esplicita, promettono agli utenti “foto NSFW” e chat senza censura. Presentano personaggi creati digitalmente, spesso poco vestiti e in pose provocatorie. Ciò che è ancora più allarmante è l’uso di famosi personaggi televisivi per bambini come SpongeBob SquarePants e Cookie Monster in alcuni di questi materiali promozionali.

Agenparl continuerà a riferire sull’errata applicazione della tecnologia AI all’avanguardia.