Serão os assistentes de voz racistas?
Os algoritmos de reconhecimento de voz a que os assistentes digitais recorrem parecem ter dificuldades em identificar e compreender os comandos dados por utilizadores negros. Um estudo elaborado por investigadores da Universidade de Stanford revela que se registam mais dificuldades com vozes de pessoas negras do que com vozes de caucasianos.
O estudo, reportado pelo The Verge, analisou a reacção de ferramentas de reconhecimento de voz da Apple, Amazon, Google, IBM e Microft. Os investigadores recorreram a plataformas destas gigantes tecnológicas para transcrever entrevistas com 42 caucasianos e 73 negros, sendo que todas foram realizadas nos Estados Unidos da América.
As ferramentas compreenderam mal algumas palavras em cerca de 19% do tempo referente às entrevistas com caucasianos. Por outro lado, as entrevistas com negros revelaram um índice de erro significativamente superior: durante 35% do tempo, os algoritmos não percebiam o que era dito.
O mesmo estudo indica que somente 2% do total dos áudios com caucasianos resultou em textos sem qualquer sentido. Este número sobe para 20% nos casos de pessoas negras. Verificou-se ainda uma tendência para mais erros em entrevistas com homens negros (41% versus 30% das mulheres).
A Microsoft, ainda assim, parece ser a empresa com o melhor algoritmo de reconhecimento de voz, independentemente do tom da pele. A Apple, por seu turno, tem as piores ferramentas.
Os investigadores sugerem que os problemas encontrados serão resultado do preconceito presente nas bases de dados que treinam os algoritmos. Isto porque os algoritmos aprendem com base na análise de grandes quantidades de informação e apenas compreenderão aquilo que lhes foi mostrado.
Outra análise do MIT, reportada pelo mesmo site, dá conta do mesmo tipo de preconceito, mas relativamente à imagem. Olhando apenas para o serviço de reconhecimento facial da Amazon, o estudo demonstrou níveis baixos de erro na identificação do género de homens com pele clara. No sentido inverso, o serviço mostrou dificuldades em perceber qual o género de indíviduos com pele mais escura.