Em algum lugar de uma animada Nova York, um lacaio desliza e cai um esgoto. Quando uma onda de lodo verde radioativo o envolve, seu corpo começa a se transformar – os membros mutantes, fileiras de presas sangrentas emergentes – sua forma globular e semelhante a um verme, deslizando ameaçadoramente pela tela.
“Cuidado com o lacaio durante a noite, uma alma sombria sem fim à vista”, canta um narrador que soa ai, como a criatura monstruosa, agora à espreita em uma piscina, se esgueirar atrás de uma criança gritando antes de triturá-los, sem piedade, entre os dentes.
Ao clicar no vídeo proprietárioporém, é uma história diferente. “Bem -vindo ao Go Cat – um canal divertido e emocionante do YouTube para crianças!” A descrição do canal anuncia 24.500 assinantes e mais de 7 milhões de espectadores. “Todo episódio está cheio de imaginação, animação colorida e uma história surpreendente de transformação esperando para se desenrolar. Seja um acidente engraçado ou uma falha assustadora, cada vídeo traz uma nova história de transformação para as crianças desfrutarem!”
O conteúdo supostamente adequado para crianças do Go Cat é visceral, surreal-quase a beira do horror corporal. Seus temas parecem estranhamente remanescentes do que, em 2017, ficou conhecido como Elsagateonde centenas de milhares de vídeos surgiram no YouTube representando personagens infantis como Elsa de CongeladoHomem-Aranha e Peppa Pig envolvidos em situações perigosas, sexuais e abusivas. Ao manipular os algoritmos da plataforma, esses vídeos puderam aparecer no aplicativo infantil dedicado do YouTube – gritando nas curiosidades das crianças para cultivar milhares de cliques por dinheiro. Em suas tentativas de erradicar o problema, o YouTube removeu os anúncios em Mais de 2 milhões de vídeosexcluiu mais de 150.000 e encerrou 270 contas. Embora as investigações subsequentes da Wired tenha revelado que canais semelhantes – alguns contendo representações sexuais e escatológicas de Minecraft Avatares– Continuado para aparecer na página de tópicos do YouTube, o alcance de Elsagate foi visivelmente reprimido.
Então veio ai. A capacidade de entrar (e contornar) avisos de IA generativos, emparelhados com um influxo de tutoriais Sobre como monetizar o conteúdo das crianças, significa que criar esses vídeos bizarros e macabros se tornou não apenas fácil, mas lucrativo. Go Cat é apenas um dos muitos que apareceram quando Wired procurou termos tão inócuos quanto “Minions”, “Thomas the Tank Engine” e “Cuts Cats”. Muitos envolvem grampos elsagados, como versões grávidas e vestidas de lingerie de Elsa e Anna, mas os lacaios são outro grande rebatedor, assim como os gatos e gatinhos animados.
Em resposta ao pedido de comentário da Wired, o YouTube diz que “encerrou dois canais sinalizados para violar nossos Termos de Serviço” e está suspendendo a monetização de outros três canais.
“Vários vídeos também foram removidos para violar nossa política de segurança infantil”, diz um porta -voz do YouTube. “Como sempre, todo o conteúdo enviado ao YouTube está sujeito às nossas diretrizes da comunidade e aos princípios de qualidade para crianças – independentemente de como é gerado.”
Quando perguntado sobre quais políticas estão em vigor para impedir que os usuários proibidos simplesmente abrem um novo canal, o YouTube afirmou que isso seria contra seus termos de serviço e que essas políticas eram rigorosamente aplicadas “usando uma combinação de pessoas e tecnologia”.
