Não é de hoje que existem relatos de que as tecnologias de reconhecimento facial, em geral, no que se refere ao gênero de pessoas com tons de pele mais claros em relação as que possuem tons de pele mais escuros, onde também tiveram o melhor desempenho homens com pele mais clara, e o pior em mulheres com pele mais escura.
Porém, com o aprimoramento da tecnologia de reconhecimento facial, divulgada na última terça-feira (26) pela Microsoft, esse problema foi resolvido. No anúncio, a companhia informou que foi capaz de reduzir as taxas de erro para homens e mulheres com pele mais escura em até 20 vezes. Para todas as mulheres, as taxas de erro foram reduzidas em nove vezes. O que, no geral, segundo a empresa, com essas melhorias foi possível reduzir significativamente as diferenças de precisão em toda a demografia.
A equipe responsável pelo desenvolvimento da tecnologia de reconhecimento facial, que está disponível para clientes como a Face API via Serviços Cognitivos do Azure, trabalhou em parceria com especialistas em preconceito e justiça para melhorar um sistema chamado classificador de gênero, focando especificamente em obter melhorias nos resultados para todos os tons de pele.
“Tivemos conversas sobre diferentes maneiras de detectar preconceitos e operacionalizar a justiça. Nós conversamos sobre os esforços de coleta de dados para diversificar os dados de treinamento. Conversamos sobre diferentes estratégias para testar internamente nossos sistemas antes de implantá-los”, informou a pesquisadora sênior do laboratório de pesquisa da Microsoft e especialista em justiça, prestação de contas e transparência em sistemas de IA, Hanna Wallach.
Essas melhorias alcançadas no aprimoramento da tecnologia graças ao treinamento expandido e revisado e conjuntos de dados de benchmark; lançando de novos esforços de coleta de dados para melhorar ainda mais os dados de treinamento, concentrando-se especificamente no tom da pele, gênero e idade; e melhorando o classificador para produzir resultados de maior precisão.