I video dei social media basati sull’intelligenza artificiale raffigurano bambini scomparsi e morti che raccontano le loro storie

Questi sono alcuni dei casi criminali di più alto profilo al mondo che coinvolgono bambini. Sono storie di abusi, rapimenti, torture e omicidi che tormentano da tempo i paesi in cui si sono verificati i crimini.

Ora, alcuni creatori di contenuti stanno utilizzando l’intelligenza artificiale per ricreare le sembianze di questi bambini deceduti o scomparsi, dando loro “voci” per narrare i dettagli inquietanti di ciò che è successo loro. Gli esperti affermano che, se da un lato i progressi tecnologici nell’intelligenza artificiale offrono opportunità creative, dall’altro rischiano anche di diffondere disinformazione e di offendere i cari delle vittime. Alcuni creatori hanno difeso i loro post come un nuovo modo per aumentare la consapevolezza.

"Ciao, mi chiamo James Bulger", dice l'immagine in un video di TikTok, realizzato con le sembianze del bambino britannico di 2 anni che fu rapito nel 1993 mentre sua madre pagava la spesa.

“Se mia madre avesse girato a destra, oggi avrei potuto essere vivo. Sfortunatamente, ha girato a sinistra", dice la voce infantile, citando quello che una volta la madre di James ha detto essere uno dei suoi più grandi rimpianti: se avesse girato a destra, avrebbe visto suo figlio portato via dai due bambini di 10 anni che più tardi lo torturò e lo uccise.

Sebbene TikTok abbia rimosso diversi video che ritraggono James mentre racconta il suo rapimento e la sua morte a Kirkby, in Inghilterra, molti rimangono disponibili per la visualizzazione su YouTube.

La madre di James, Denise Fergus, ha detto al Daily Mirror che i post erano "disgustosi".

"Per usare il volto e la bocca commovente di un bambino che non c'è più, che ci è stato brutalmente portato via, non ci sono parole", ha detto al giornale.

Nuovo sospettato nel caso di Madeleine McCann, la cui scomparsa tormenta la Gran Bretagna

Un portavoce di TikTok ha descritto il contenuto su James come “inquietante”, affermando che “non c’è posto” sulla piattaforma per tali post. "Le nostre Linee guida della community chiariscono che non consentiamo media sintetici che contengano le sembianze di un giovane", ha dichiarato Barney Hooper in una e-mail al Washington Post. "Continuiamo a rimuovere contenuti di questa natura non appena li troviamo."

Le linee guida di TikTok affermano che il progresso dell'intelligenza artificiale "può rendere più difficile la distinzione tra realtà e finzione, comportando rischi sia sociali che individuali" e chiedono che gli utenti che condividono media sintetici o manipolati che mostrano scene realistiche includano un disclaimer in cui si noti che il contenuto non è vero. Lunedì YouTube non ha immediatamente restituito una richiesta di commento sulle sue linee guida.

Felix M. Simon, ricercatore in comunicazione presso l'Oxford Internet Institute, si è detto sicuro che i video menzionati in questo articolo siano stati prodotti utilizzando "uno o più strumenti di intelligenza artificiale", ma non è in grado di dire esattamente quale software.

"Sembrano essere creati con una qualche forma di strumenti di intelligenza artificiale e portano alcuni dei tratti distintivi tipici dei video più economici generati dall'intelligenza artificiale", come un'estetica simile ad un anime o un fumetto e una pelle lucida, ha detto in una e-mail.

Ai pazienti è stato detto che le loro voci potevano scomparire. Si sono rivolti all’intelligenza artificiale per salvarli.

Secondo il Mirror, Stuart Fergus, il marito della madre di James Bulger, ha detto che dopo aver contattato un creatore chiedendogli di rimuovere il video, ha ricevuto una risposta che diceva: “Non intendiamo offendere nessuno. Facciamo questi video solo per assicurarci che gli incidenti non si ripetano mai più a nessuno. Per favore continua a supportare e condividere la mia pagina per diffondere consapevolezza.

Nonostante i tentativi di TikTok di rimuovere tali video, sulla piattaforma se ne possono ancora trovare molti, alcuni dei quali hanno generato milioni di visualizzazioni.

"Mi chiamo Madeleine Beth McCann", dice una voce infantile in un altro video, che mostra un'immagine della bambina britannica di 3 anni scomparsa da un resort portoghese nel 2007. "Sono ancora scomparsa". Quel video di TikTok, recensito da The Post, era stato visto decine di migliaia di volte prima che TikTok lo rimuovesse. Il proprietario dell'account aveva scritto accanto al video che si trattava di un tentativo di "narrazione coinvolgente".

Un altro video mostra le sembianze di Anne Frank che pubblicizza vestiti per bambini prima di discutere degli orrori dell'Olocausto. “Sei ancora alla ricerca di vestiti per bambini belli e realizzati da te? Allora vai al link nella mia biografia e lasciati sorprendere", dice in tedesco la giovane ragazza dai capelli castani lunghi fino alle spalle. “E ora vi racconto la storia di Anne Frank.”