“Se não incluirmos pessoas com deficiência ou pessoas com diferenças faciais no desenvolvimento destes processos, ninguém vai pensar nestas questões”, diz Kathleen Bogart, professora de psicologia na Universidade Estadual de Oregon, especializada em investigação sobre deficiência e que vive com diferenças faciais. “A IA ampliou essas questões, mas está enraizada na sub-representação e no preconceito de longa data em relação às pessoas com diferenças faciais que ocorreram muito antes de a IA existir.”
Muito pouco, muito tarde
Quando os sistemas de verificação facial falham, muitas vezes é difícil encontrar ajuda, aumentando ainda mais a pressão sobre uma situação estressante. Durante meses, Noor Al-Khaled, residente de Maryland, lutou para criar uma conta online na Administração da Segurança Social. Al-Khaled, que vive com a rara condição craniofacial Ablepheron Macrostomiadiz que ter uma conta online permitiria que ela acessasse facilmente os registros da SSA e enviasse documentos rapidamente para a agência.
“Não dirijo por causa da minha visão; deveria poder confiar no local”, diz Al-Khaled. “Você tem que tirar uma selfie e as fotos têm que combinar”, diz Al-Khaled. “Por causa da diferença facial, não sei se não está reconhecendo o documento de identidade ou a selfie, mas está sempre dizendo que as imagens não combinam.”
Não ter esse acesso torna a vida mais difícil. “No nível emocional, isso me faz sentir excluída da sociedade”, explica ela. Al-Khaled diz que todos os serviços devem fornecer formas alternativas para as pessoas acederem aos sistemas online. “A falta de outras opções alternativas significa que às vezes as pessoas ficam presas nesses labirintos de sistemas tecnológicos”, diz Byrum, da Present Moment Enterprises.
Cortesia da fonte WIRED
Um porta-voz da SSA afirma que estão disponíveis opções alternativas para verificação facial e que está “comprometida” em tornar os seus serviços acessíveis a todos. A agência, diz o porta-voz, não administra sistemas de reconhecimento facial, mas usa Login.gov e ID.me para serviços de verificação. A Administração de Serviços Gerais, que administra o Login.gov, não respondeu ao pedido de comentários da WIRED. “Acessibilidade é um núcleo prioridade para ID.me”, diz um porta-voz do ID.me, acrescentando que já ajudou pessoas com diferenças faciais e se ofereceu para ajudar diretamente Al-Khaled depois que a WIRED entrou em contato.
“Existem poucas coisas mais desumanizantes do que ouvir de uma máquina que você não é real por causa do seu rosto”, diz Corey R. Taylorum ator e palestrante motivacional radicado em Nova York que vive com uma anomalia craniofacial. No ano passado, diz Taylor, ele estava usando um aplicativo financeiro para acessar uma pequena quantia de dinheiro; ao tentar concluir os processos de pagamento, ele descobriu que o sistema de verificação facial não conseguia combinar sua selfie com a imagem de seu documento de identidade. Para fazer o sistema funcionar, ele teve que assumir diferentes posições. “Tive que literalmente levantar os olhos e contorcer o rosto”, diz Taylor. Quando ele enviou um e-mail para a empresa, recebeu o que parecia ser uma resposta padronizada.
