Todos os 400 sistemas de IA expostos encontrados por upguard Tenha uma coisa em comum: eles usam a estrutura da AI de código aberto chamado llama.cpp. Este software permite que as pessoas implantem com facilidade os modelos de IA de código aberto em seus próprios sistemas ou servidores. No entanto, se não estiver configurado corretamente, poderá expor inadvertidamente os avisos que estão sendo enviados. À medida que empresas e organizações de todos os tamanhos implantam IA, configurar adequadamente os sistemas e a infraestrutura que estão sendo usados é crucial para evitar vazamentos.
Melhorias rápidas da IA generativa nos últimos três anos levaram a uma explosão em companheiros e sistemas de IA que parece mais “humano”. Por exemplo, Meta tem experimentado Com os personagens da IA com os quais as pessoas podem conversar no WhatsApp, Instagram e Messenger. Geralmente, sites e aplicativos complementares permitem que as pessoas tenham conversas de fluxo livre com personagens de IA-personagens de arremesso com personalidades personalizáveis ou como figuras públicas, como celebridades.
As pessoas encontraram amizade e apoio de suas conversas com a IA – e nem todos incentivam cenários românticos ou sexuais. Talvez sem surpresa, porém, as pessoas têm apaixonados por seus personagens de IAe dezenas de Namorada ai e namorado Os serviços surgiram nos últimos anos.
Claire Boine, pesquisadora de pós -doutorado da Faculdade de Direito da Universidade de Washington e afiliada do Instituto Cordell, diz que milhões de pessoas, incluindo adultos e adolescentes, estão usando aplicativos da General AI Companion. “Sabemos que muitas pessoas desenvolvem algum vínculo emocional com os chatbots”, diz Boine, que publicou pesquisar sobre o assunto. “As pessoas sendo emocionalmente ligadas a seus companheiros de IA, por exemplo, aumentam a probabilidade de divulgar informações pessoais ou íntimas”.
No entanto, diz Boine, muitas vezes há um desequilíbrio de poder em se apegar emocionalmente a uma IA criada por uma entidade corporativa. “Às vezes, as pessoas se envolvem com esses bate -papos em primeiro lugar para desenvolver esse tipo de relacionamento”, diz Boine. “Mas então eu sinto que, uma vez que eles o desenvolveram, eles realmente não podem optar por sair tão facilmente.”
À medida que a indústria de companheiros de IA cresceu, alguns desses serviços não têm moderação de conteúdo e outros controles. Personagem AI, que é apoiado pelo Google, está sendo processado Depois que um adolescente da Flórida morreu por suicídio depois de supostamente ficar obcecado com um de seus chatbots. (O personagem Ai tem aumentou suas ferramentas de segurança ao longo do tempo.) Separadamente, os usuários da ferramenta AI generativa O Replika foi derrubado Quando a empresa fez alterações em suas personalidades.
Além dos companheiros individuais, também existem serviços de companheiros de role-playing e fantasia-cada uma com milhares de personas que as pessoas podem falar-que colocam o usuário como personagem em um cenário. Alguns deles podem ser altamente sexualizados e fornecer bate -papos da NSFW. Eles podem usar personagens de anime, alguns dos quais parecem jovens, com alguns sites alegando que permitem conversas “sem censura”.
“Testamos essas coisas e continuamos muito surpresos com o que essas plataformas podem dizer e fazer com aparentemente nenhuma regulamentação ou limitação”, diz Adam Dodge, fundador da Endtab (abuso final de tecnologia). “Isso ainda não está remotamente no radar das pessoas.” Dodge diz que essas tecnologias estão abrindo uma nova era de pornografia on -line, que por sua vez pode introduzir novos problemas sociais à medida que a tecnologia continua a amadurecer e melhorar. “Os usuários passivos agora são participantes ativos com controle sem precedentes sobre os corpos e semelhanças digitais de mulheres e meninas”, diz ele sobre alguns sites.
