Flock AI policial vai além do radar de placas

A gigante de vigilância veicular Flock Safety afirmou por anos que sua tecnologia “não consegue reconhecer, identificar ou rastrear indivíduos”. No entanto, a empresa construiu um sistema que faz exatamente isso, segundo apuração da WIRED. A nova ferramenta de inteligência artificial, destinada à polícia, é capaz de identificar motoristas e rastrear veículos apenas pelos padrões de movimento.

O sistema, que opera com uma rede de câmeras que registra os deslocamentos de motoristas em mais de 6.000 comunidades, pode selecionar possíveis testemunhas pela frequência com que seus carros passam por um bairro. A ferramenta também consegue revelar “associados” de um motorista com base nas câmeras que eles passam juntos. Como o sistema também acessa arquivos de casos policiais, registros de despacho do 911 e bancos de dados comerciais de identidade, as placas podem ser convertidas em nomes, endereços residenciais e informações sobre parentes.

O software, originalmente chamado de Nightshift e recentemente renomeado para OS Investigate, vem com 69 comandos pré-escritos que os policiais podem selecionar, revisar ou editar antes de enviar à IA. Os agentes também podem inserir comandos próprios. Os comandos sugeridos estão em um arquivo com mais de 450 documentos encontrados no site da Flock, acessíveis por qualquer pessoa. O código descreve 45 ferramentas à disposição da IA, incluindo acesso a leituras de placas, metadados de câmeras, registros de prisão, arquivos de casos, registros de despacho, resultados de balística e bancos de dados comerciais com números de Seguro Social, datas de nascimento, telefones, e-mails e informações sobre parentes e associados.

A Flock afirma que o produto está em fase de teste com um pequeno grupo de parceiros policiais e que suas capacidades podem mudar antes do lançamento oficial. A revelação ocorre em meio a pressão política bipartidária, casos de policiais flagrados usando a plataforma de forma inadequada e uma onda de vandalismo contra as câmeras da empresa em várias cidades.

Especialistas em privacidade e direito afirmam que as ferramentas da Flock já levantam preocupações constitucionais sérias, pois dão à polícia acesso amplo, muitas vezes sem mandado, a um vasto registro dos movimentos das pessoas. Os comandos examinados pela WIRED, no entanto, vão além, transformando uma ferramenta para encontrar um veículo conhecido em um sistema que lança suspeitas sobre motoristas com base em onde e com que frequência eles dirigem, independentemente de serem procurados por um crime.

Um dos comandos pré-carregados no sistema diz: “Encontre-me testemunhas com base nos veículos mais vistos em [bairro] durante os [últimos 14 dias] durante [período diário]”. O policial preenche as lacunas e o resultado é uma lista de placas, que outras ferramentas do produto convertem em nomes e endereços. Outro comando instrui o sistema a listar todos os presos mais de duas vezes em dois anos por “qualquer delito”, mapear onde essas pessoas moram, recuperar as chamadas de serviço em suas casas e “fazer um dossiê sobre os três principais indivíduos”.

Dezenove dos comandos descrevem a busca por padrões de comportamento. Quatorze não exigem placa, nome ou descrição. O policial apenas fornece um local, um período e um comportamento. Alguns pedidos buscam veículos que visitaram três ou mais lojas de varejo em três dias, vários bancos em uma semana ou vários postos de gasolina entre meia-noite e 5h. A ferramenta tem um filtro que exclui ônibus, caminhões e vans de trabalho, para que um motorista de entregas que visite cinco lojas não apareça na lista, enquanto um motorista comum fazendo o mesmo trajeto permanece.

Em resposta, a Flock não contestou as capacidades descritas. O porta-voz Paris Lewbel caracterizou o OS Investigate como um produto separado da tecnologia de leitura de placas, projetado para ajudar investigadores a trabalhar com informações que suas agências já têm acesso. Ele disse que as capacidades da ferramenta podem mudar antes do lançamento.

Especialistas que revisaram o código para a WIRED dizem que as garantias públicas da empresa são difíceis de conciliar com o que encontraram. “Acho que a maioria das pessoas imagina que os leitores de placas verificam se um veículo é procurado. Se não é, a polícia segue em frente”, diz Jay Stanley, analista sênior da ACLU. “Mas estamos vendo cada vez mais a implantação agressiva de IA pela Flock, com muito pouco espaço entre o que pode ser feito e o que está sendo feito.”

Um exemplo de comando pega uma única placa e pede ao sistema para traçar as viagens daquele carro e de seus “três principais associados”. O código descreve como o ranking funciona: conta quantas vezes outras placas aparecem nas mesmas câmeras dentro de uma janela de dois minutos do alvo e reporta qualquer carro que apareça ao lado dele três ou mais vezes. Um policial fornece um veículo e o software encontra até 20.

Leia também: conteúdos sobre mercado e a editoria de negócios.