Mas talvez a evidência mais convincente, sugerindo que o Chatgpt regurgitou a linguagem do Warhammer 40.000 seja que ele continuasse perguntando se o Atlântico estava interessado em PDFs. A Divisão de Publicação de Games Workshop, empresa do Reino Unido que é dona da franquia Warhammer, existe regularmente livros de regras e guias atualizados para vários personagens. Comprar todos esses livros pode ficar caro, então alguns fãs tentam encontrar cópias piratas online.
O Atlântico e o Openai se recusaram a comentar.
No início deste mês, o boletim informativo Dia do lixo relatado Em experiências semelhantes que um investidor de tecnologia proeminente pode ter tido com o ChatGPT. Nas mídias sociais, o investidor compartilhou capturas de tela de suas conversas com o chatbot, no qual referenciou uma entidade ameaçadora que ele chamou de “sistema não governamental”. Ele parecia acreditar que “impactou negativamente mais de 7.000 vidas” e “extinguiram 12 vidas, cada uma delas totalmente com padrões”. Outros números da indústria de tecnologia disseram que as postagens feitas eles se preocupam sobre a saúde mental do investidor.
De acordo com Dia do lixoas conversas do investidor com o chatgpt se assemelham a escrever de um Projeto de ficção científica Isso começou no final dos anos 2000 chamado SCP, que significa “Seguro, contém, proteger”. Os participantes inventam diferentes SCPs – objetos essencialmente assustadores e fenômenos misteriosos – e depois escrevem relatórios fictícios analisando -os. Eles geralmente contêm coisas como números de classificação e referências a experimentos científicos inventados, detalhes que também apareceram nos registros de bate-papo do investidor. (O investidor não respondeu a um pedido de comentário.)
Existem muitos outros exemplos mais mundanos do que se pode pensar como o problema do contexto da IA. Outro dia, por exemplo, fiz uma pesquisa no Google por “Cavitação Cirurgery”, um termo médico que eu tinha visto citado em um vídeo aleatório do Tiktok. Na época, o resultado principal era uma “visão geral da IA” gerada automaticamente, explicando que a cirurgia de cavitação está “focada em remover o tecido ósseo infectado ou morto da mandíbula”.
Não consegui encontrar estudos científicos respeitáveis descrevendo essa condição, muito menos pesquisas apoiando que a cirurgia é uma boa maneira de tratá -la. A American Dental Association não menciona “cirurgia de cavitação” em nenhum lugar do site. A visão geral da AI do Google, ao que parece, foi retirada de fontes como postagens de blog, promovendo dentistas “holísticos” alternativos em todos os EUA. Aprendi isso clicando em um pequeno ícone ao lado da visão geral da IA, que abriu uma lista de links que o Google usou para gerar sua resposta.
Essas citações são claramente melhores do que nada. Jennifer Kutz, porta -voz do Google, diz: “Mostramos com destaque para apoiar links para que as pessoas possam se aprofundar e aprender mais sobre quais fontes na web estão dizendo”. Mas, quando os links aparecem, a IA do Google geralmente já forneceu uma resposta satisfatória para muitas consultas, uma que reduz a visibilidade de detalhes incômodos como o site onde as informações foram adquiridas e as identidades de seus autores.
O que resta é a linguagem criada pela IA, que, desprovida de contexto adicional, pode ser compreensivelmente autoritativa para muitas pessoas. Nas últimas semanas, os executivos de tecnologia usaram repetidamente a retórica que implica a IA generativa é uma fonte de informação especializada: Elon Musk reivindicado Seu último modelo de IA é “melhor que o nível de doutorado” em todas as disciplinas acadêmicas, sem “sem exceções”. CEO da Openai Sam Altman escreveu Os sistemas automatizados agora são “mais inteligentes que as pessoas de várias maneiras” e previam que o mundo está “perto de construir superinteligência digital”.
Os seres humanos individuais, no entanto, normalmente não possuem experiência em uma ampla gama de campos. Para tomar decisões, levamos em consideração não apenas a própria informação, mas de onde vem e como é apresentada. Embora eu não saiba nada sobre a biologia dos mandíbulas, geralmente não leio blogs de marketing aleatórios quando estou tentando aprender sobre medicina. Mas as ferramentas de IA geralmente apagam o tipo de contexto que as pessoas precisam para tomar decisões instantâneas sobre onde direcionar sua atenção.
A Internet aberta é poderosa porque conecta as pessoas diretamente ao maior arquivo de conhecimento humano que o mundo já criou, abrangendo tudo, desde pinturas renascentistas italianas até comentários do pornhub. Depois de ingerir tudo isso, as empresas de IA usaram o que equivale à história coletiva de nossa espécie para criar software que obscurece sua própria riqueza e complexidade. Tornar -se excessivamente dependente disso pode roubar as pessoas da oportunidade de tirar conclusões de analisar as evidências por si mesmas.
