Tecnologia da Google identifica comentários tóxicos
A Google está a trabalhar com a Jigsaw no desenvolvimento de uma tecnologia capaz de identificar comentários tóxicos. Chama-se Pesperctive e recorre a machine learning para perceber que conteúdos são semelhantes a mensagens que levaram utilizadores a abandonar conversas online anteriormente. Para isso, examina milhares de comentários previamente assinalados por revisores humanos.
O Perspective vai ser disponibilizado a programadores e publishers para que possam descobrir de que forma esta tecnologia pode impactar as suas plataformas. Os membros europeus da Digital News Initiative têm acesso garantido a esta novidade.
Segundo Jared Cohen, presidente da Jigsaw, os publishers podem escolher o que querem fazer com a informação que lhes chega através do Perspective: marcar comentários para os seus próprios moderadores reverem; ou confrontar quem comenta com o potencial tóxico daquilo que está a escrever no momento.
A nova tecnologia já foi testada pelo The New York Times, que utilizou o Perspective para ordenar os comentários recebidos nas notícias por níveis de toxicidade. Desta forma, conseguiam aprovar ou rejeitar os mesmos mais rapidamente.
«O Perspective proporciona aos publishers uma ferramenta para receber conversações inclusivas. Mas isto é mais do que melhorar os comentários – trata-se de tornar a Internet num espaço onde a voz de todos possa ser escutada», afirma Jared Cohen.