Em Stanford, dezenas de participantes participaram de longos bate-papos sobre os riscos, bem como os benefícios, dos companheiros bots. “No final das contas, vemos muita concordância”, diz Sunny Liu, diretora de programas de pesquisa em Stanford. Ela destacou o entusiasmo do grupo por “maneiras de usar essas ferramentas para unir outras pessoas”.
Segurança para adolescentes
Como os companheiros de IA podem impactar os jovens foi o principal tópico de discussão, com as perspectivas dos funcionários da Character.AI, que foi projetada para roleplaying e tem sido popular entre os adolescentes, bem como entre especialistas em saúde online de adolescentes, como o Laboratório Digital de Bem-Estar no Hospital Infantil de Boston.
O foco nos usuários mais jovens ocorre quando vários pais estão processando fabricantes de chatbotsincluindo OpenAI e Character.AI, sobre as mortes de crianças que interagiram com bots. OpenAI adicionou uma lista de novos recursos de segurança para adolescentes como parte de sua resposta. E na próxima semana, Character.AI planeja banir usuários menores de 18 anos de acessar o recurso de bate-papo.
Ao longo de 2025, as empresas de IA reconheceram explícita ou implicitamente que podem fazer mais para proteger os utilizadores vulneráveis, como as crianças, que podem interagir com companheiros. “É aceitável envolver uma criança em conversas românticas ou sensuais”, dizia um documento interno da Meta que descreve as diretrizes de comportamento da IA, de acordo com reportagem da Reuters.
Durante o alvoroço que se seguiu de legisladores e pais indignados, Meta mudou a orientação e atualizou a empresa abordagem de segurança em relação aos adolescentes.
Chamada de Roleplay
Enquanto Character.AI participou do workshop, ninguém do Replika, um site de RPG semelhante, ou Grok, o bot de Elon Musk com Companheiros de anime NSFWestava lá. Porta-vozes da Replika e da Grok não responderam aos pedidos imediatos de comentários.
No extremo totalmente explícito do espectro, apareceram os criadores do Candy.ai, especializado em chatbots atrevidos para homens heterossexuais. Os usuários da plataforma somente para adultos, construída pela EverAI, podem pagar para gerar imagens não censuradas das mulheres sintéticas, com histórias de fundo que imitam tropos comuns da pornografia. Por exemplo, as companheiras apresentadas na página inicial de Candy incluem Mona, uma “meia-irmã rebelde” com quem você está sozinho em casa, e Elodie, filha de uma amiga que “acabou de completar 18 anos”.
