RACISMO ALGORÍTMICO E AS FERRAMENTAS DE RECONHECIMENTO FACIAL

Honoráveis Ouvintes! Sejam muito bem-vindos a mais um episódio do Hextramuros! Sou Washington Clark dos Santos, seu anfitrião! Compondo a Série "Questões Raciais na Segurança Pública e Justiça Criminal no Brasil", no episódio de hoje abordamos um tema que está no centro dos debates sobre tecnologia e direitos humanos, o reconhecimento facial! Se, por um lado, essa tecnologia tem sido utilizada para fortalecer a segurança pública, identificando criminosos, prevenindo fraudes e auxiliando na localização de pessoas desaparecidas, vozes se levantam, legitimamente, com preocupações quanto ao seu uso desproporcional contra determinados grupos raciais, com registros de casos de falsos positivos que resultam em abordagens indevidas e injustiças, principalmente contra pessoas negras! Afinal, como equilibrar os potenciais benefícios do reconhecimento facial com a necessidade de garantir que essa ferramenta não perpetue desigualdades históricas? De que forma podemos avançar no uso dessas tecnologias sem comprometer os direitos fundamentais? Para trazer luz a esse debate, converso com Flávio Roberto de Melo, Papiloscopista Policial Federal, Especialista em Identificação Humana e, à época da entrevista, Diretor do Instituto Nacional de Identificação. Com sua experiência, vamos explorar os desafios, os avanços e os caminhos para que a tecnologia seja uma aliada da segurança pública sem comprometer a justiça racial. Flávio, na satisfação de recebê-lo para esta conversa, dou-lhe as boas-vindas e peço que se apresente, por favor:

É um prazer muito grande estar contigo aqui para bater este papo! Meu nome é Flávio Roberto de Melo. Atualmente, estou como Diretor do Instituto Nacional de Identificação da Polícia Federal do Brasil, INI.

Meu caro; muito se discute sobre o reconhecimento facial falhar mais frequentemente ao identificar pessoas negras, levantando preocupações sobre o que se convencionou chamar racismo algorítmico. Qual é a sua visão sobre esse risco e como você acredita que o setor de segurança pública pode lidar com esse problema para evitar que a tecnologia alimente ou amplifique a discriminação racial?

A verdade, Clark, é que o termo "Racismo Algorítmico" foi cunhado fazendo-se inferências superficiais sobre como os softwares de reconhecimento facial são programados e treinados! Atualmente, no mundo, há dois grandes polos de referência de estudos na área de reconhecimento facial: um deles é a FISWIG e o outro a INFES. Ambas as entidades, assim como inúmeras outras instituições acadêmicas, preconizam que o reconhecimento facial seja feito com base em características morfológicas da face humana e não em medidas geométricas, o que talvez pudesse criar algum tipo de viés. Mas, mesmo assim, somente com estudos que isso poderia ser afirmado. Assim, para um software de reconhecimento facial e sua modelagem de treinamento, é indiferente condições sociais e, tão somente, as morfológicas que importam! Ademais, e o mais importante de tudo, é que quem define em "ultima ratio" a identificação de uma pessoa não é o software, mas sim um profissional expert! No caso das polícias no Brasil, o papiloscopista, sendo a aplicação ou o software apenas mais uma ferramenta de apoio para a identificação da pessoa!

Em um contexto de segurança pública, como você enxerga o impacto das tecnologias de reconhecimento facial nas comunidades negras, considerando o histórico de discriminação racial no Brasil?

Com toda a minha experiência policial de duas décadas, eu vou afirmar que o reconhecimento facial no Brasil tem sido muito mais utilizado pelas polícias para a promoção de direitos humanos, propriamente dito, do que para fins de persecução criminal! As pessoas, de um modo geral, desconhecem isso, Clark, mas, a identificação biométrica tem sido uma importante ferramenta para a identificação de pessoas desaparecidas! E com o advento de softwares de reconhecimento facial, que são importantes ferramentas utilizadas por especialistas em biometrias, como os papiloscopistas, a biometria facial tem adquirido uma relevância maior do que as outras! Eu comento isso porque, se pensarmos no país de desigualdades sociais que vivemos e que essas desigualdades afetam preponderantemente pessoas negras, também é um fato que, elas são as maiores vítimas dos diversos crimes relacionados ao desaparecimento de pessoas e, portanto, quando os softwares de reconhecimento facial são utilizados com o propósito de identificar e localizar pessoas desaparecidas, consequentemente, o estrato social menos favorecido, que possui mais pessoas negras, também é o mais beneficiado! Como eu comentei na pergunta anterior, softwares de identificação facial analisam características morfológicas e não de raças! Quando há discriminação racial e, de fato, isso ainda é uma triste realidade, isso acontece em razão da intervenção humana, que toma decisões com base em critérios discriminatórios!

Uma preocupação crescente é a questão da transparência nos algoritmos de reconhecimento facial, especialmente em relação ao potencial de reforçar estereótipos raciais. Como a expertise dos profissionais de identificação humana pode impactar na segurança da utilização responsável dessas ferramentas?

Essa é uma questão de suma importância! A expertise dos profissionais de identificação humana é o grande fiel da balança na identificação de pessoas através da face. É importante que, assim como qualquer outra ferramenta, nas mais diversas profissões, por exemplo, um bisturi nas mãos treinadas de um cirurgião, que os softwares de reconhecimento facial sejam utilizados por profissionais adequadamente capacitados para isso! Dentro de uma instituição policial, como você muito bem sabe, há várias expertises, sendo a de perícia facial uma delas que, na maioria das polícias brasileiras, compete ao papiloscopista. Ou seja, é o policial qualificado que tem que ser a inteligência humana à frente da inteligência artificial que, de fato, deverá tomar a decisão pela identificação biométrica, facial ou não, utilizando-se, inclusive, de vários outros elementos à sua disposição, que não os relacionados à face, como outras biometrias associadas e informações de inteligência! Em resumo, o que eu quero dizer é que softwares de identificação facial não são autônomos em suas conclusões! Portanto, eles não podem ser utilizados por policiais que não sejam qualificados para tal, sob o risco de decisões equivocadas!

Quais medidas você acredita que devem ser adotadas para minimizar os falsos positivos e evitar que resultem em prisões ou abordagens indevidas?

Indiscutivelmente, uma das perguntas mais importantes que você me fez! Isso se soluciona com a atuação do expert em identificação humana em todos os processos e situações do uso da tecnologia de reconhecimento facial! Ainda mais quando o Estado usa do seu poder de coerção em prol da sociedade, evitando, assim, arbitrariedades!

A diversidade na criação de algoritmos de reconhecimento facial é fundamental para reduzir vieses. Na sua experiência, como o Brasil pode fomentar o desenvolvimento de tecnologias mais inclusivas e representativas?

As IAs de reconhecimento facial são treinadas com base em amostras de faces de pessoas, analisando suas conformações morfológicas e antropométricas e não suas características faciais! Quanto mais diversidade, o que é uma característica típica da população brasileira, isso pode conferir, com certeza, um impacto positivo nas avaliações da IA!

Meu caro, caminhando para o final de nossa conversa, na sua pessoa, homenageio a todos os profissionais da área e, agradecendo a sua colaboração, deixo este espaço para suas considerações finais. Fraterno abraço!

O Estado tem que estar à frente do crime organizado em todas as áreas e não o contrário! É notório das forças policiais e da sociedade, através da mídia, por exemplo, o uso de drones por facções criminosas. Pois bem, se nós não nos valermos das incontáveis benesses do uso da tecnologia de reconhecimento facial para garantirmos uma sociedade mais segura, pode ter certeza que o crime organizado ofará para alcançar seus intentos de lucro e de expansão do seu domínio! Clark; agradeço muito a oportunidade desse bate-papo! É algo muito importante nós tratarmos sobre esse assunto, porque estamos vivendo numa época da história da humanidade onde a tecnologia domina tudo o que fazemos! Então, é importante que nós a utilizemos para tornarmos melhores as condições da sociedade! Deixo meu abraço e agradeço muito por essa oportunidade e pode contar comigo para o que precisar em relação às áreas das biometrias de identificação!

Honoráveis Ouvintes! Este foi mais um episódio do Hextramuros! Sou Washington Clark dos Santos, seu anfitrião! No conteúdo de hoje, entrevistei Flávio Roberto de Melo, Papiloscopista Policial Federal e Especialista em Identificação Humana, abordando o tema Racismo Algorítmico e os Impactos da inteligência artificial nas Ferramentas de Reconhecimento Facial. Acesse nosso website! Saiba mais sobre este conteúdo e compartilhe nosso propósito! Será um prazer ter a sua colaboração! Pela sua audiência, muito obrigado e até a próxima!