Flock, o automático leitora de placas de veículos e empresa de câmeras com tecnologia de IA, usa trabalhadores estrangeiros da Upwork para treinar seus algoritmos de aprendizado de máquina, com material de treinamento informando aos trabalhadores como revisar e categorizar filmagens, incluindo imagens de pessoas e veículos nos Estados Unidossegundo material revisado pela 404 Media que foi exposto acidentalmente pela empresa.
As descobertas levantam questões sobre quem exatamente tem acesso às imagens coletadas pelas câmeras de vigilância Flock e onde as pessoas que analisam as imagens podem estar baseadas. O Flock se tornou uma tecnologia difundida nos EUA, com suas câmeras presentes em milhares de comunidades que os policiais usam todos os dias para investigar coisas como roubos de carros. A polícia local também realizou inúmeras pesquisas para ICE no sistema.
As empresas que utilizam IA ou aprendizagem automática recorrem regularmente a trabalhadores estrangeiros para treinar os seus algoritmos, muitas vezes porque a mão-de-obra é mais barata do que contratar no mercado interno. Mas a natureza do negócio de Flock – a criação de um sistema de vigilância que monitoriza constantemente os movimentos dos residentes dos EUA – significa que as filmagens podem ser mais sensíveis do que outros trabalhos de formação em IA.
As câmeras do Flock examinam continuamente a placa, cor, marca e modelo de todos os veículos que passam. As autoridades policiais podem então pesquisar câmeras em todo o país para ver onde mais um veículo dirigiu. As autoridades normalmente vasculham esses dados sem mandado, levando a União Americana pelas Liberdades Civis e a Electronic Frontier Foundation a recentemente processei uma cidade coberto por quase 500 câmeras Flock.
Em termos gerais, o Flock usa IA ou aprendizado de máquina para detectar automaticamente placas, veículos, e pessoasincluindo as roupas que eles estão vestindo, a partir de imagens de câmeras. Uma patente Flock também menciona câmeras detectando “raça”.
Vários informantes apontaram a 404 Media para um painel on-line exposto que mostrava várias métricas associadas ao treinamento de IA de Flock.
Incluía números sobre “anotações concluídas” e “tarefas do anotador restantes na fila”, sendo as anotações as notas que os trabalhadores adicionam às filmagens revisadas para ajudar a treinar algoritmos de IA. As tarefas incluem categorizar marcas, cores e tipos de veículos, transcrever placas de veículos e “tarefas de áudio”. Flock recentemente começou a anunciar um recurso que detectará “gritos”. O painel mostrou que os trabalhadores às vezes completavam milhares e milhares de anotações em períodos de dois dias.
O painel exposto incluía uma lista de pessoas encarregadas de fazer anotações nas filmagens de Flock. Tomando esses nomes, a 404 Media descobriu que alguns estavam localizados nas Filipinas, de acordo com o LinkedIn e outros perfis online.
Muitas dessas pessoas trabalhavam por meio da Upwork, conforme material exposto. Upwork é uma plataforma de trabalho freelance onde as empresas podem contratar designers e escritores ou pagar por “serviços de IA”, de acordo com o site da Upwork.
Os informantes também apontaram várias apresentações do Flock disponíveis publicamente que explicavam com mais detalhes como os trabalhadores deveriam categorizar as imagens. Não está claro quais imagens específicas da câmera os funcionários de IA da Flock estão revisando. Mas as capturas de tela incluídas nos guias dos trabalhadores mostram inúmeras imagens de veículos com placas dos EUA, inclusive em Nova York, Michigan, Flórida, Nova Jersey e Califórnia. Outras imagens incluem sinais de trânsito mostrando claramente que a filmagem foi tirada de dentro dos EUA, e uma imagem contém um anúncio de um escritório de advocacia específico em Atlanta.
