Genitori in lutto hanno espresso il loro disgusto per una tendenza agghiacciante su TikTok in cui l’intelligenza artificiale viene utilizzata per creare video con bambini reali assassinati.

Questi video, realizzati senza il consenso dei parenti, mostrano versioni rozzamente animate di questi bambini, alcuni dei quali sono ancora neonati, che raccontano come sono stati uccisi.

Ondate di questi video generati dal computer sono state pubblicate su TikTok da aprile, anche se la società ha annunciato il divieto delle versioni giovanili generate dall’intelligenza artificiale a marzo.

Tuttavia, un’indagine della BBC ha scoperto prove che suggeriscono che potrebbe esserci stato un malinteso tra i dipendenti di TikTok riguardo alle politiche della piattaforma.

Un moderatore di contenuti di Tik Tok ha detto alla BBC che quattro mesi dopo l’introduzione del divieto, la società non lo aveva ancora informato del cambiamento delle regole.

Alcuni video delle vittime creati dall’intelligenza artificiale sono rimasti sulla piattaforma per diversi mesi, mentre altri sono stati visualizzati milioni di volte.

Parenti in lutto in diversi paesi hanno parlato delle immagini generate dall’intelligenza artificiale dei loro cari defunti che sono emerse online.

La baronessa Biban Kidron, membro indipendente della Camera dei Lord del Parlamento britannico, afferma che i video possono essere particolarmente angoscianti per le famiglie in lutto perché simulano i loro cari defunti che parlano come se stessero raccontando la propria storia.

“Se sei una persona che ha avuto una relazione con questo bambino, in particolare un genitore o un membro della famiglia, allora si tratta di un’aggressione, un’aggressione emotiva”, dice.

“Peggio del peggior montante”

I parenti di alcuni dei bambini deceduti si sono fatti avanti poco dopo che le immagini hanno cominciato ad emergere.

Una delle prime è stata la canadese Amélie Lemieux.

Nel luglio 2020, le sue figlie – Romi (6) e Nora (11) – sono state uccise dal suo ex marito, che poi si è suicidato.

Nell’aprile di quest’anno, Lemieux è rimasta scioccata nel ricevere un video TikTok generato dall’intelligenza artificiale con una versione di Nora che parlava degli omicidi.

“È peggio del peggior montante che puoi immaginare”, ha detto Lemmy.

“Non ho avuto la forza di guardare fino alla fine, e nemmeno mio fratello.” Ha iniziato a gridare che finisse immediatamente”.

Lemieux era particolarmente preoccupata che i suoi giovani nipoti potessero imbattersi in un video dei loro cari defunti mentre scorrevano TikTok.

Anche se un gran numero di persone ha segnalato il video a TikTok, è rimasto online.

Alla fine, dopo che Lemieux ha fatto diverse apparizioni sui media riguardo alla sua reazione inorridita al video, l’account anonimo che lo aveva pubblicato è stato cancellato.

Lemmy non è riuscita a scoprire chi ha realizzato il video, ma è stupita dalle azioni della persona.

“È incredibilmente scioccante che qualcuno possa fare qualcosa di così inquietante, qualcosa da cui passeremo il resto della nostra vita a riprenderci”, ha detto.

“Vogliono solo visualizzazioni, Mi piace, condivisioni.” E le persone che lasciano commenti qui sotto. Personalmente non posso perdonarlo. »

Nuova tecnologia

La comparsa di questi video è stata resa possibile dalla crescente accessibilità dei software di intelligenza artificiale su Internet.

Ora è possibile creare e animare facilmente figure umane di base e fornire loro una sceneggiatura per parlare con una voce generata dal computer.

Alcuni volti nei video delle vittime reali non assomigliano alla persona reale.

Ma altri si basano su foto reali.

Le persone che effettuano queste registrazioni generalmente cercano di rimanere anonime.

Ma la BBC ha rivelato che uno degli autori è uno studente londinese di nome Ritul.

Sul suo canale YouTube, promuove quelli che chiama video “narrativi” come un modo rapido per ottenere follower su TikTok.

“Ho guadagnato migliaia e migliaia di follower pubblicando video narrativi utilizzando l’intelligenza artificiale”, ha detto in un video.

“Ho ottenuto 47.000 follower e questo in meno di tre settimane.”

Ritul ha rifiutato la nostra richiesta di commento e da allora il suo account TikTok è stato cancellato.

I video di TikTok devono attirare l’attenzione in pochi secondi, altrimenti gli utenti continueranno a scorrere.

Ed è per questo che autori come Ritul si sono concentrati sulla realizzazione di video sui casi più estremi o controversi.

Le storie del tragico destino di alcuni bambini sono state oggetto di molteplici registrazioni in diverse lingue, tra cui portoghese, spagnolo, francese, tedesco, italiano e polacco.

Nel corso di due mesi, la BBC ha scoperto 170 diversi video TikTok generati dall’intelligenza artificiale con una versione di James Bulger, il bambino britannico di due anni ucciso da due bambini più grandi nel Merseyside, in Inghilterra, nel 1993.

Il fenomeno TikTok ha fatto notizia anche in Gran Bretagna a luglio, quando la madre di James, Denise Fergus, ha dichiarato al giornale che i video basati su suo figlio erano “più che malati”.

La reazione di TikTok

TikTok ha rimosso i video in massa e ha rilasciato una dichiarazione in cui afferma:

“Non c’è posto sulla nostra piattaforma per contenuti inquietanti come questo.” Continuiamo a rimuovere contenuti di questo tipo non appena li incontriamo.”

Tra i video di James Bulger rimossi ce n’erano due in vietnamita che avevano un totale di quattro milioni di visualizzazioni.

La BBC ha parlato con un moderatore di contenuti su TikTok in Vietnam, che ha accettato di essere intervistato a condizione di anonimato.

Ha detto che due settimane dopo la rimozione dei video, la società non lo aveva ancora ufficialmente informato che questo tipo di contenuti erano vietati.

Ha detto alla BBC che ritiene che i video siano consentiti dalle regole di TikTok, che consentono alle vittime di sfruttamento e abusi di raccontare le loro storie.

Quindi c’è una sorta di malinteso tra lo staff di TikTok su quale sia esattamente la politica dell’azienda?

TikTok non ha risposto specificamente a questo punto quando abbiamo contattato l’azienda per un commento.

Ma TikTok ha chiarito che il moderatore aveva torto nel suggerire che questi video potessero essere consentiti sulla piattaforma come esperienze delle vittime, perché sono immagini generate al computer di bambini morti piuttosto che esperienze reali di sopravvissuti.

Puoi ancora trovare questo tipo di contenuti molto facilmente su TikTok.

Ma TikTok afferma che non è un segreto che non sarà in grado di trovarli tutti.

Reporting aggiuntivo di Tuong Le della BBC Vietnamservizio g

Guarda il video: Cos’è l’intelligenza artificiale

Seguici su Facebook,Twitter E Viber. Se hai un suggerimento su un argomento da proporci, contattaci bbcnasrpskom@bbc.co.uk

( BBC serbo Tutti i membri )