2019-07-01T22:29:42+01:0001/07/2019|Tags: , , , |

O banimento da tecnologia de reconhecimento facial é um atraso para a segurança (Contribuição)

Kevin Freiburger

26 de junho de 2019

A tecnologia de reconhecimento facial nem sempre esteve ao alcance do setor público. A precisão dos algoritmos não era confiável, alguns continham vieses e os sistemas exigiam um overhead de TI significativo para serem executados.

Mas a situação mudou. A tecnologia de reconhecimento facial de hoje em dia é muito mais rápida, precisa e fácil de se operar graças ao aprendizado de máquina. Ele permite que o software aprenda sozinho, reduz o viés e aumenta a precisão. A Google, a Microsoft e a Amazon ajudaram a democratizar essa tecnologia de aprendizado de máquina com ferramentas inovadoras e infraestrutura que os fornecedores de reconhecimento facial utilizaram para aprimorar seus softwares. Mas a Amazon e a Microsoft foram um pouco além e criaram seus próprios sistemas de reconhecimento facial, disponíveis para compra por qualquer pessoa, inclusive governos.

A Microsoft já não vende mais os softwares para governos, mas a Amazon continua vendendo. Durante a reunião anual de acionistas em maio, a Amazon reafirmou que continuará vendendo o recurso para instituições governamentais que “sigam a lei”. E a justificativa deles é que não se pode banir uma tecnologia só porque ela tem o potencial de ser usada de forma errada.

Mas nem todo mundo concorda com isso. Agora que instituições governamentais estão usando essa tecnologia, organizações de fiscalização do governo (watchdog) e cidadãos preocupados estão tentando conter as ameaças que essa tecnologia traz tanto para a privacidade dos cidadãos quanto para os direitos humanos básicos.

A cidade de São Francisco levou a briga anda mais longe. No começo de maio, líderes votaram para banir o uso da tecnologia de vigilância pela polícia e outras instituições governamentais. Além de câmeras corporais e leitores de pedágio, a “tecnologia de vigilância” também inclui todas as formas de softwares de reconhecimento facial além de quaisquer informações advindas dessas formas. Isso significa que, embora a vigilância em massa esteja no centro desse banimento, qualquer tecnologia que crie ou use dados biométricos também está na lista de proibições.

Como um centro de inovação tecnológica, os líderes de São Francisco se sentiram na obrigação de ajudar a prevenir o uso incorreto da tecnologia de reconhecimento facial. O banimento aplaca os medos de um estado de vigilância, mas também atrasa o progresso dessa tecnologia em prol da segurança e outras aplicações úteis.

O BANIMENTO COMPLETO DO RECONHECIMENTO FACIAL É UM ERRO

Não reconhecer os benefícios da tecnologia de reconhecimento facial é prejudicial para as instituições governamentais. Em vez de negar seu valor por completo, as entidades governamentais deveriam reconhecer sua utilidade e regulamentar seu uso.

O uso do software nos DMVs (departamentos de veículos motorizados) é um ótimo exemplo de bom uso da tecnologia de reconhecimento facial. Muitas dessas agências já usam a tecnologia, não para capturar vídeos de vigilância de massa, mas para reduzir o roubo de identidade (e com bons resultados) e prevenir o uso de documentos de identidade fraudados.

Com o uso de software de reconhecimento facial, um DMV identificou 173 transações fraudulentas, 53 de roubo de identidade e uma tentativa de obter uma identidade emitida pelo governo com as informações roubadas da vítima. Essas estatísticas foram reunidas em um único ano naquele estado. Banir uma tecnologia que produz tantos resultados em benefício do público é um atraso.

RESOLVER EQUÍVOCOS É A CHAVE PARA PREVENIR MAIS BANIMENTOS

O reconhecimento facial era uma área obscura para os governos e outras entidades que aplicavam sua tecnologia: os usuários precisavam de um resultado, mas não se interessavam muito em como esse resultado era obtido. Depois das notícias do banimento de São Francisco, no entanto, tanto usuários quanto cidadãos passaram a se interessar pelos detalhes, o que é um movimento positivo. O desejo de informações em torno da tecnologia auxilia e incentiva um debate, que pode levar a uma aceitação maior. A educação contínua é a única forma de os governos e cidadãos se sentirem confortáveis com o reconhecimento facial e apoiarem o fim do banimento.

Existem muitos equívocos em torno da forma como essa tecnologia funciona. Um exemplo é a ideia de que a tecnologia é um sistema binário para identificar suspeitos e criminosos. A realidade é muito diferente. O reconhecimento facial trabalha com probabilidade de correspondência. As instituições que usam o sistema normalmente o implantam junto com outras ferramentas de investigação que filtram os falsos positivos depois que um usuário treinado conduz uma investigação.

A tecnologia de reconhecimento facial não é uma solução perfeita, e os algoritmos podem estar vulneráveis a vieses. Mas ela continuará a melhorar com o tempo e o uso de mais dados. Os fornecedores da tecnologia estão melhorando os algoritmos com aprendizado de máquina, usando conjuntos de dados maiores e mais diversos para otimizar a precisão para variabilidade entre raças, regiões geográficas e gêneros. Enquanto isso, instituições governamentais podem empregar de forma segura a tecnologia como uma ferramenta para orientar investigações. No entanto, a tecnologia nunca deve ser a fonte absoluta para uma tomada de decisão.

As agências do governo e os cidadãos precisam estar cientes desses fatos. O público precisa entender que a tecnologia de reconhecimento facial não e uma varinha mágica que tudo resolve, mas sim mais uma ferramenta que ajuda a proteger cidades e prevenir o crime. Trazer para conhecimento do público a tecnologia e os equívocos relacionados a ela é muito importante e facilita as conversas entre instituições governamentais e os constituintes, para que os líderes possam esclarecer e reduzir as preocupações.

DEIXAR A TECNOLOGIA AMADURECER

Banimentos similares aos de São Francisco estão ganhando força em Oakland (na Califórnia) e Somerville (Massachusetts). Mas, antes que mais banimentos aconteçam, os líderes do setor público precisam tomar o problema nas próprias mãos e apoiar as regulamentações que reconhecem os benefícios e previnem o mau uso da tecnologia. Não se modernizar com o tempo e banir uma tecnologia emergente antes de sua maturação completa é um atraso para o setor público e um desserviço aos constituintes que ele protege.

A tecnologia de reconhecimento facial é incrivelmente precisa e está se tornando melhor a cada ano. Várias entidades governamentais pelos EUA usam a tecnologia para proteger os moradores de roubo de identidade e fraude. Algumas instituições até usam o produto de reconhecimento facial da Amazon para encontrar crianças desaparecidas e exploradas.

Os algoritmos ainda estão aprendendo e continuarão a ganhar precisão e reduzir o viés conforme o tempo. É muito importante entendermos a tecnologia por trás disso e o valor que ela traz antes de partir para julgamentos (e antes que os governos implementem banimentos completos).

 

Sobre Kevin Freiburger

Kevin Freiburger é Diretor de Programas de Identidade na Valid, uma empresa de tecnologia que oferece soluções de identidade para governos federais, estaduais e locais. Com mais de 15 anos de experiência voltada para o cliente no setor de identificação, Kevin é quem conduz a estratégia por trás do portfólio de produto, constrói e alinha as equipes para executá-la e emprega os produtos em projetos de grandes empresas com as equipes de implementação.

Leia o artigo também na GovTech. (Apenas em inglês)