Uma imagem de IA A startup do gerador deixou mais de 1 milhão de imagens e vídeos criados com seus sistemas expostos e acessíveis a qualquer pessoa online, de acordo com uma nova pesquisa revisada pela WIRED. A “esmagadora maioria” das imagens envolvia nudez e eram “retratadas com conteúdo adulto”, de acordo com o pesquisador que descobriu o tesouro exposto de dados, com algumas parecendo retratar crianças ou os rostos de crianças trocados em corpos de adultos nus gerados por IA.
Vários sites – incluindo MagicEdit e DreamPal – pareciam estar usando o mesmo banco de dados inseguro, diz o pesquisador de segurança Jeremiah Fowler, que descobriu a falha de segurança em outubro. Na época, diz Fowler, cerca de 10 mil novas imagens eram adicionadas ao banco de dados todos os dias. Indicando como as pessoas podem ter usado as ferramentas de geração e edição de imagens, essas imagens incluíam fotos “inalteradas” de pessoas reais que podem ter feito isso de forma não consensual.nudificado,”ou tiveram seus rostos trocados por outros corpos nus.
“O verdadeiro problema é que pessoas inocentes, especialmente menores de idade, têm suas imagens usadas sem o seu consentimento para criar conteúdo sexual”, diz Fowler, um prolífico caçador de bancos de dados expostos, que publicou as descobertas no site. Blog ExpressVPN. Fowler diz que é o terceiro mal configurado Banco de dados de geração de imagens de IA ele encontrou acesso on-line este ano – e todos eles parecem conter imagens explícitas e não consensuais, incluindo aquelas de jovens e crianças.
As descobertas de Fowler ocorrem no momento em que ferramentas de geração de imagens de IA continuam a ser usadas para criar imagens explícitas de pessoas de forma maliciosa. Um enorme ecossistema de serviços “nudify”, que são usado por milhões de pessoas e ganhar milhões de dólares por anousa IA para “tirar” a roupa das pessoas – quase inteiramente mulheres – nas fotos. Fotos roubadas das redes sociais podem ser editadas com apenas alguns cliques: levando ao abuso e assédio angustiantes de mulheres. Enquanto isso, relatórios de criminosos que usam IA para criar material de abuso sexual infantil, o que abrange uma gama de imagens indecentes envolvendo crianças, duplicaram no último ano.
“Levamos essas preocupações muito a sério”, disse um porta-voz de uma startup chamada DreamX, que opera o MagicEdit e o DreamPal. O porta-voz afirma que uma empresa de marketing influenciadora vinculada ao banco de dados, chamada SocialBook, é administrada “por uma entidade legal separada e não está envolvida” na operação de outros sites. “Essas entidades compartilham alguns relacionamentos históricos por meio de fundadores e ativos legados, mas operam de forma independente com linhas de produtos separadas”, disse o porta-voz.
“O SocialBook não está conectado ao banco de dados que você mencionou, não usa esse armazenamento e não esteve envolvido em sua operação ou gerenciamento em nenhum momento”, disse um porta-voz do SocialBook à WIRED. “As imagens referenciadas não foram geradas, processadas ou armazenadas pelos sistemas do SocialBook. O SocialBook opera de forma independente e não tem nenhuma função na infraestrutura descrita.”
