Semanas depois, por curiosidade, solicitei as transcrições de tudo o que Sensi estava gravando na casa do meu pai. Lendo suas conversas pessoais, de repente me senti como um espião, tendo o dispositivo como meu conspirador silencioso. Eu tinha insistido nisso em primeiro lugar, mas agora me sentia desconfortável com isso. Enquanto isso, meu pai não se lembrava de ter sido informado de que Sensi estava escutando suas conversas.
Lendo suas próprias palavras para ele, me preparei para o pior.
“Então, o que você acha?” Perguntei.
Houve um momento de silêncio em que pude ouvir o sangue girando em meus ouvidos.
“Bem,” ele finalmente disse, parecendo nervoso. “É muito estranho ouvir palavras.” Ele parecia perplexo com o fato de alguém considerar suas conversas dignas de transcrição.
“Mas acho que vale a pena”, acrescentou, antes de mudar de assunto.
Depois do meu pai encolhendo os ombros em aceitação, comecei a investigar o que realmente havia colocado na casa dele. Aprendi que Sensi é um entre um número crescente de dispositivos de IA voltados para idosos: Earzz e Aliado se preocupa vigiar os residentes das casas de repouso quanto a tosses, quedas e movimentos atípicos, enquanto Valorize a serenidade– que parece um alto-falante doméstico retrô e elegante – usa radar para detectar quando alguém em uma sala caiu ou está tombado. (O dispositivo pode ser empacotado com AT&T para resposta rápida a emergências.)
Ao contrário do Alexa, esses dispositivos não esperam que alguém diga “ajuda”. Em vez disso, eles começam a gravar após eventos específicos: sons como pancadas, tosses, gritos e movimentos como cair da cama. No caso da Sensi, o aparelho nem avisa ao idoso que está gravando, o que ajuda a explicar a confusão do meu pai.
O algoritmo da Sensi, supostamente baseado em “1.000 anos” de dados de áudio, afirma identificar desvios nas rotinas habituais de uma pessoa. Se você está com tosse recente, está sempre no banheiro ou simplesmente se arrasta pela casa de uma maneira nova, aparentemente Sensi pode perceber. Mas quando perguntei à cofundadora e CEO da empresa, Romi Gubes, como o algoritmo foi construído, ela disse apenas que seus modelos são “treinados em conjuntos de dados anônimos”, desprovidos de “informações pessoalmente identificáveis”. Ela não detalhou exatamente o que esses conjuntos de dados contêm ou de onde foram extraídos.
Steve Kamau, um coordenador calmo e de fala mansa da Husky Senior Care, a agência que ajuda meu pai nas compras e outras tarefas domésticas, me disse que o dispositivo às vezes funciona exatamente como deveria. Num caso, um idoso caiu ao tentar ir ao banheiro quando não havia nenhum cuidador por perto. Sensi captou tanto o som do impacto quanto os gritos de socorro do homem. Kamau ligou para o cliente (que sempre mantinha o telefone com ele) e confirmou que ele havia caído, depois despachou o 911; o homem foi então ajudado a se levantar do chão. Noutro caso, diz ele, a tosse de uma cliente foi detectada suficientemente cedo para a ter salvado de uma doença mais grave. (Sensi afirma uma taxa de precisão de 90 por cento, com casos extremos revisados por um “humano informado”; Kamau me disse que o sistema também confundiu um controle remoto caído com um idoso caído.)
