Polícia de Milwaukee Considera Trocar Fotos por Software de Reconhecimento Facial
A indústria de reconhecimento facial enfrenta escrutínio devido às suas implicações éticas. Uma proposta recente em Milwaukee gerou ainda mais debate: o Departamento de Polícia de Milwaukee está considerando trocar 2,5 milhões de fotos de identificação criminal para uma empresa privada, Biometrica, em troca de acesso gratuito ao seu software de reconhecimento facial.
O potencial acordo, revelado em uma reunião recente da cidade, envolve a polícia de Milwaukee fornecendo à Biometrica uma vasta coleção de fotos de identificação e registros de prisão acumulados ao longo de décadas. Em troca, o departamento receberia duas licenças de pesquisa gratuitas para a tecnologia de reconhecimento facial da Biometrica. Embora o uso pretendido das fotos de identificação pela Biometrica permaneça não confirmado, é altamente provável que sejam usadas para treinar e refinar seu software. Os sistemas de reconhecimento facial geralmente dependem de extensos conjuntos de dados, às vezes obtidos por meios questionáveis.
Preocupações Éticas e Potencial de Viés
A proposta levantou preocupações éticas significativas, particularmente em relação ao potencial de viés e discriminação. A tecnologia de reconhecimento facial demonstrou imprecisões na identificação de indivíduos com tons de pele mais escuros, especialmente mulheres e indivíduos não binários. Esse viés inerente pode levar a prisões injustas e identificação incorreta, afetando desproporcionalmente as comunidades marginalizadas.
David Gwidt, um porta-voz da American Civil Liberties Union de Wisconsin, enfatizou que a confiança em resultados incorretos de reconhecimento facial já levou a várias prisões injustas, com indivíduos negros sendo desproporcionalmente afetados. A ausência de regulamentações em relação à notificação individual, consentimento e opções de exclusão agrava ainda mais essas preocupações.
Wisconsin, como muitos estados, carece de leis específicas de privacidade biométrica, deixando os indivíduos vulneráveis ao potencial uso indevido de seus dados faciais. Embora as fotos de identificação sejam geralmente consideradas registros públicos em Wisconsin, as implicações éticas de usá-las para treinar tecnologia de vigilância permanecem um ponto de discórdia.
Riscos de Segurança de Dados
Além das considerações éticas, foram levantadas preocupações sobre a segurança dos dados. As empresas de reconhecimento facial não são imunes a violações de dados, o que pode expor os indivíduos a roubo de identidade e outros riscos de segurança. Ao contrário de senhas ou outras informações pessoais, o rosto de uma pessoa não pode ser facilmente alterado, tornando os dados biométricos particularmente sensíveis.
Jeramie Scott, Conselheiro Sênior da EPIC, destacou a ironia inerente do acordo proposto: a polícia de Milwaukee está contemplando oferecer milhões de fotos de identificação, provavelmente apresentando desproporcionalmente pessoas de cor, para treinar uma tecnologia de vigilância que provavelmente será usada desproporcionalmente em pessoas de cor. Isso, argumenta ele, exacerbaria as desigualdades raciais existentes dentro do sistema de justiça criminal.
Dada a falta de regulamentação federal abrangente sobre reconhecimento facial e a ausência de regulamentações estaduais em Wisconsin, os críticos argumentam que o curso de ação mais seguro seria para a polícia de Milwaukee abster-se de usar a tecnologia por completo, especialmente na ausência de salvaguardas e limitações claras.
A ACLU local apelou para uma pausa de dois anos na implementação de qualquer nova tecnologia de vigilância em Milwaukee, juntamente com o desenvolvimento de regulamentos para os sistemas existentes e oportunidades para a contribuição da comunidade. Embora o Departamento de Polícia de Milwaukee tenha prometido desenvolver uma política para evitar prisões baseadas apenas em correspondências de reconhecimento facial, a ausência de regulamentos aplicáveis levanta preocupações sobre a responsabilidade.
Fonte: Gizmodo