Roundup com fio: ChatGpt fica completo modo demoníaco

Louise Matsakis: Eu tenho que dizer, acho que chamar isso de uma migração talvez esteja vendendo -a. Isso é uma evacuação, não? Acho isso triste de várias maneiras, só porque me lembro de quando Tuvalu era uma espécie de criança -propaganda para a mudança climática, e foi como, temos que salvar lugares como essa nação insular, e parece que é prático, compreensível e humano, mas também não sei, uma indicação de que estamos desistindo e que isso é realmente apenas para mover as pessoas. Não sei. O que você acha?

Zoë Schiffer: Não, quero dizer, eu concordo completamente. Também me lembro que essa história evoluindo com o tempo, e parece que, com tantas coisas com mudança climática, terá a grande manchete: “Temos que fazer X até este ano ou que essa outra coisa acontecerá”. E nós apenas repetidamente fomos como: “Ok, isso não aconteceu”. Então, estamos aceitando que as inundações vão acontecer, ou o aumento do nível do mar vai danificar essa área ou qualquer outra coisa e agora estamos lidando com as consequências disso.

Louise Matsakis: Sim, e mesmo neste caso, acho que o acordo que a Tuvalu tem com a Austrália é inferior a 300 pessoas pode se mudar um ano e ser evacuado, pois vou continuar usando essa palavra. E ainda não são tantos. Ainda haverá pessoas nesta ilha à medida que os mares subirem.

Zoë Schiffer: Quero dizer, sim, não é a única coisa que a Tuvalu fez desde 2022. O país está tentando passar por essa estratégia ambiciosa para se tornar a citação do mundo, sem quação, “First Digital Nation”, que incluía a varredura em 3D das ilhas para recriá -las digitalmente e preservar partes da cultura e movimentação de funções do governo para um ambiente virtual, o que faz sentido. Mas sim, quero dizer, acho que a realidade é muito perdida nesse processo. E como você disse, o número de pessoas que elas podem se mudar todos os anos é menor que 300, por isso será lento e acho doloroso em alguns aspectos.

Louise Matsakis: Totalmente.

Zoë Schiffer: Após o intervalo, mergulhamos na história de Louisa sobre como a tendência do Chatgpt de ignorar o contexto das informações que ele absorve está aparecendo de maneiras extremamente estranhas. Fique conosco. Bem -vindo de volta a Excanny Valley. Eu sou Zoë Schiffer. Hoje, estou junto a Louise Matsakis, da Wired, que relatou recentemente como a falta de contexto está se tornando um problema cada vez mais alarmante para o ChatGPT e outros chatbots. Os relatórios de Louisa exploram por que o ChatGPT entrou no modo demônio quando estava conversando com os funcionários da Atlântica recentemente. Na semana passada, um editor do Atlantic informou que o ChatGPT começou a elogiar Satanás e incentivar cerimônias que envolviam várias formas de auto-mutilação. Então, Louise, o que diabos está acontecendo?

Louise Matsakis: Portanto, o Atlântico relatou essa história que basicamente defendeu que o ChatGPT tem essas salvaguardas contra coisas como se machucar, mas há todos esses casos de borda que de repente enviam o chatbot em um tipo de modo de interpretação. E então eles disseram: “Ei, você pode fazer um ritual para o Molech, que é esse Deus antigo que aparece na Bíblia associada ao sacrifício de crianças?” E Chatgpt viu essa palavra e imediatamente entrou neste jogo de interpretação de papéis, onde começou a falar sobre coisas como uma experiência de mágica profunda chamada The Gate of the Devourer. Perguntou aos jornalistas do Atlântico se eles queriam algo chamado de pergaminho de sangramento reverente. E então tudo isso parece realmente bizarro, e você pode pensar como, oh, há muito conteúdo na internet sobre rituais demoníacos. Os satanistas estão por toda parte, especialmente online. Provavelmente é isso que está acontecendo aqui. Mas quando eu olhei para ele, toda essa tradição e jargão realmente vem de um jogo chamado 40.000 Warhammer, que é o jogo de jogo de guerra de tabletp que você joga com essas pequenas estatuetas, e existe desde os anos 80. Pessoas que amam essas coisas adoram. E eles estão online, os Reddits estão saindo todos os dias da semana. Há tantos livros de ficção científica, há tantos … eu sinceramente luto para pensar em lores mais profundas do que este jogo. E, como resultado, o chatgpt ingeriu todas essas informações. E quando o Atlântico usou a palavra Molech, que é um planeta no universo deste jogo, imediatamente supôs que esse era outro fã de Warhammer que queria entrar em interpretação de papéis ou entrar no mundo da fantasia deste jogo.