A IA pode evitar a armadilha da enshittificação?

Recentemente tirei férias na Itália. Como acontece hoje em dia, passei meu itinerário pelo GPT-5 para obter sugestões de passeios e recomendações de restaurantes. O bot relatou que a melhor opção para jantar perto do nosso hotel em Roma era uma curta caminhada pela Via Margutta. Acabou sendo uma das melhores refeições de que me lembro. Ao chegar em casa, perguntei à modelo como ela escolheu aquele restaurante, que hesito em revelar aqui caso queira uma mesa no futuro (Caramba, quem sabe se voltarei: chama-se Babette. Ligue com antecedência para fazer reservas.) A resposta foi complexa e impressionante. Entre os fatores estavam ótimas críticas dos moradores locais, notícias em blogs de culinária e na imprensa italiana, e a célebre combinação de culinária romana e contemporânea do restaurante. Ah, e a curta caminhada.

Algo também foi exigido de minha parte: confiança. Tive que acreditar que o GPT-5 era um corretor honesto, escolhendo meu restaurante sem preconceito; que o restaurante não me foi mostrado como conteúdo patrocinado e não estava recebendo uma parte do meu cheque. Eu poderia ter feito uma pesquisa profunda por conta própria para verificar a recomendação (procurei no site), mas o objetivo de usar IA é contornar esse atrito.

A experiência reforçou a minha confiança nos resultados da IA, mas também me fez pensar: à medida que empresas como a OpenAI se tornam mais poderosas e tentam reembolsar os seus investidores, será que a IA estará propensa à erosão de valor que parece endémica às aplicações tecnológicas que utilizamos hoje?

Jogo de palavras

O escritor e crítico de tecnologia Cory Doctorow chama essa erosão de “enshittificação”. Sua premissa é que plataformas como Google, Amazon, Facebook e TikTok começam com o objetivo de agradar os usuários, mas uma vez que as empresas derrotam os concorrentes, elas se tornam intencionalmente menos úteis para obter lucros maiores. Depois que a WIRED republicou o trabalho pioneiro de Doctorow ensaio de 2022 sobre o fenômeno, o termo entrou no vernáculo, principalmente porque as pessoas reconheceram que era totalmente correto. Enshittificação foi escolhida como a Palavra do Ano de 2023 da American Dialect Society. O conceito tem sido citado com tanta frequência que transcende seus palavrões, aparecendo em locais que normalmente torceriam o nariz para tal palavra. Doctorow acaba de publicar um livro homônimo sobre o assunto; a imagem da capa é o emoji para… adivinhe.

Se os chatbots e os agentes de IA ficarem irritados, poderá ser pior do que a Pesquisa do Google se tornar menos útil, os resultados da Amazon ficarem infestados de anúncios e até mesmo o Facebook mostrar menos conteúdo social em favor de clickbait gerador de raiva.

A IA está em uma trajetória para ser uma companheira constante, dando respostas únicas a muitas de nossas solicitações. As pessoas já confiam nele para ajudar a interpretar eventos atuais e obter conselhos sobre todos os tipos de escolhas de compra – e até mesmo escolhas de vida. Devido aos enormes custos de criação de um modelo de IA completo, é justo assumir que apenas algumas empresas dominarão o campo. Todos eles planejam gastar centenas de bilhões de dólares nos próximos anos para melhorar seus modelos e colocá-los nas mãos do maior número de pessoas possível. Neste momento, eu diria que a IA está no que Doctorow chama de estágio “bom para os usuários”. Mas a pressão para recuperar os enormes investimentos de capital será tremenda – especialmente para as empresas cuja base de utilizadores está bloqueada. Essas condições, como escreve Doctorow, permitem que as empresas abusem dos seus utilizadores e clientes empresariais “para recuperarem todo o valor para si”.

Quando se imagina a enshittificação da IA, a primeira coisa que vem à mente é a publicidade. O pesadelo é que os modelos de IA farão recomendações com base nas empresas que pagaram pela colocação. Isso não está acontecendo agora, mas as empresas de IA estão explorando ativamente o espaço publicitário. Em uma entrevista recenteSam Altman, CEO da OpenAI, disse: “Acredito que provavelmente haja algum produto publicitário interessante que possamos fazer que seja uma vitória líquida para o usuário e uma espécie de positivo para nosso relacionamento com o usuário”. Enquanto isso, a OpenAI acaba de anunciar um acordo com o Walmart para que os clientes do varejista possam fazer compras dentro do aplicativo ChatGPT. Não consigo imaginar um conflito aí! A plataforma de busca de IA Perplexity possui um programa onde resultados patrocinados aparecem em acompanhamentos claramente rotulados. Mas promete que “esses anúncios não mudarão nosso compromisso em manter um serviço confiável que forneça respostas diretas e imparciais às suas perguntas”.