Durante anos, o chamado Aplicativos e sites “Nudify” teram um cogumelo online, permitindo que as pessoas criem imagens não consensuais e abusivas de mulheres e meninasincluindo material de abuso sexual infantil. Apesar de alguns legisladores e empresas de tecnologia tomarem medidas para limitar os serviços prejudiciais, todos os meses, milhões de pessoas ainda estão acessando os sites, e os criadores dos sites podem estar ganhando milhões de dólares a cada ano, sugere uma nova pesquisa.
Uma análise de 85 sites de Nudify e “Despir” – que permitem que as pessoas enviem fotos e usem a IA para gerar imagens “nuas” dos assuntos com apenas alguns cliques – descobriu que a maioria dos sites depende de serviços de tecnologia do Google, Amazon e Cloudflare para operar e ficar online. As descobertas, revelado pelo indicadoruma publicação que investiga o engano digital, diz que os sites tinham uma média combinada de 18,5 milhões de visitantes para cada um dos últimos seis meses e coletivamente pode estar ganhando até US $ 36 milhões por ano.
Alexios Mantzarlis, co-fundador do indicador e pesquisador de segurança on-line, diz que o ecossistema de nudificador escuro se tornou um “negócio lucrativo” que “o laissez-faire da IA generativa do Vale do Silício. “Eles deveriam ter deixado de fornecer todo e qualquer serviço a nudificadores de AI quando ficou claro que seu único caso de uso era assédio sexual”, diz Mantzarlis sobre empresas de tecnologia. Está cada vez mais se tornando ilegal para Crie ou compartilhe deeffakes explícitos.
De acordo com a pesquisa, a Amazon e o CloudFlare fornecem serviços de hospedagem ou entrega de conteúdo para 62 dos 85 sites, enquanto o sistema de assinatura do Google foi usado em 54 dos sites. Os sites NUDify também usam uma série de outros serviços, como sistemas de pagamento, fornecidos pelas empresas convencionais.
O porta -voz da Amazon Web Services, Ryan Walsh, diz que a AWS tem termos de serviço claros que exigem que os clientes sigam leis “aplicáveis”. “Quando recebemos relatórios de possíveis violações de nossos termos, agimos rapidamente para revisar e tomar medidas para desativar o conteúdo proibido”, diz Walsh, acrescentando que as pessoas podem relatar problemas às suas equipes de segurança.
“Alguns desses sites violam nossos termos, e nossas equipes estão tomando medidas para lidar com essas violações, além de trabalhar em soluções de longo prazo”, diz Karl Ryan, porta-voz do Google, apontando que o sistema de assinatura do Google exige que os desenvolvedores concordem com suas políticas que proíbem conteúdo ilegal e que assedia outros.
O Cloudflare não havia respondido ao pedido de comentário da Wired no momento da redação. A Wired não está nomeando os sites de nudifier nesta história, para não fornecer a eles uma exposição adicional.
Nudify e despi sites e bots ter Florou desde 2019depois de originalmente desova das ferramentas e processos usados para criar o Primeiro “DeepFakes” explícito. Redes de interconectado empresascomo Bellingcat relatou, apareceu on -line oferecendo a tecnologia e ganhando dinheiro com os sistemas.
Em geral, os serviços usam IA para transformar fotos em imagens explícitas não consensuais; Eles geralmente ganham dinheiro vendendo “créditos” ou assinaturas que podem ser usadas para gerar fotos. Eles foram sobrecarregados pela onda de geradores generativos de imagens de IA que apareceram nos últimos anos. Sua produção é extremamente prejudicial. Fotos de mídia social foram roubados e acostumados a criar imagens abusivas; Enquanto isso, em a nova forma de cyberbullying e abusoadolescentes em todo o mundo têm Imagens criadas de seus colegas de classe. Esse abuso de imagem íntimo é angustiante para as vítimas, e as imagens podem ser difícil de esfregar da web.
