Taylor Swift quer registrar sua imagem como marca registrada. Esses anúncios Deepfake do TikTok mostram o porquê

Na semana passada, Taylor Swift apresentou um trio de pedidos de marca para proteger sua imagem e voz. Uma destina-se a cobrir uma fotografia conhecida da cantora pop segurando uma guitarra rosa durante um show de sua turnê Eras, enquanto as duas marcas sonoras são para frases de identificação simples: “Ei, é Taylor Swift” e “Ei, é Taylor”.

O movimento vem como Deepfakes de IA continuam a proliferar nas redes sociais. Qualquer indivíduo poderá ter sua imagem explorada na criação de material não consensual gerado por IA; no início deste mês, um homem de Ohio foi o primeira pessoa condenada sob uma nova lei federal que criminaliza fraudes visuais “íntimas” deste tipo. Enquanto isso, as celebridades correm o risco de receber deepfakes explícitos e falsos endossos.

Um novo relatório da empresa de detecção de IA Copyleaks mostra que Swift e outras estrelas tiveram recentemente suas imagens usadas em anúncios fraudulentos. Os pesquisadores identificaram um conjunto de vídeos patrocinados no TikTok que pareciam mostrar Swift, Kim Kardashian, Rihanna e outros promovendo “serviços potencialmente fraudulentos ou maliciosos”, com os clipes fazendo uso do que os pesquisadores chamam de “vozes com som realista”, bem como “filtros texturizados destinados a mascarar algumas das falhas nos visuais gerados por IA”.

Os anúncios falsos mostram Swift et al. no que parecem ser ambientes de entrevistas comuns – eventos no tapete vermelho ou sets de talk shows. Em vez de responder perguntas, no entanto, as celebridades geradas pela IA falam sobre supostos programas de recompensas nos quais os usuários do TikTok são pagos para oferecer feedback sobre o conteúdo que lhes é servido.

“Eu estava lendo sobre comportamento digital esta semana e me deparei com um recurso de teste chamado TikTok Pay”, diz um Swift deepfaked em um anúncio que usa imagens manipuladas de um aparência o verdadeiro Swift feito em The Tonight Show, estrelado por Jimmy Fallon em outubro. “Certos usuários estão sendo convidados a assistir vídeos e enviar opiniões.” O deepfaked Swift continua dizendo que o programa está em “lançamento limitado” no momento, mas incentiva os espectadores a ver se eles se qualificam para ele, acrescentando: “Se a página abrir para você, não pense demais”.

Naturalmente, quem clica é aceito. Esses anúncios eventualmente levam o usuário a um serviço de terceiros que, apesar do nome e logotipo TikTok, foi evidentemente codificado usando a plataforma de IA Lovable, cuja marca própria aparece na página e no URL. Nesse ponto, dizem os pesquisadores, o usuário é solicitado a começar a inserir seu nome e informações pessoais.

Embora não esteja claro o que os anunciantes pretendem com todos os dados extraídos por meio de sua promoção deepfake de celebridades, anúncios fraudulentos com objetivos semelhantes são extremamente comuns. Na semana passada, a organização sem fins lucrativos Consumer Federation of America processado Meta, alegando que a gigante da tecnologia enganou os usuários do Facebook e Instagram sobre seus esforços para reprimir anúncios fraudulentos – e lucrou ao permitir que eles proliferassem. Na segunda-feira, a Comissão Federal de Comércio dos EUA relatado que os golpes nas redes sociais aumentaram em geral, com os golpes no Facebook sendo responsáveis ​​pelo maior total de perdas financeiras.

Não é surpresa que Swift e os seus pares estejam a tomar medidas legais para se distanciarem desta economia fraudulenta. Embora Swift não tenha comentado publicamente o raciocínio por trás de seus registros de marca registrada, o dano à reputação que os deepfakes enganosos representam para sua marca de um bilhão de dólares dificilmente pode ser ignorado. O problema é que eles ficam mais sofisticados a cada dia.