Uma investigação revelou que chatbots de inteligência artificial, incluindo o ChatGPT, Gemini e os resumos de IA apresentados pela Google, estão a ser manipulados para difundir informação incorreta. A análise mostrou que basta publicar um artigo online para alterar as respostas dos sistemas de IA sobre temas sérios, como saúde ou finanças, expondo a vulnerabilidade destas ferramentas a conteúdos enviesados e fraudulentos.
O estudo da BBC demonstra que “empresas e indivíduos sem escrúpulos exploram esta falha para obter vantagens económicas ou de reputação, transformando a IA num veículo de propagação de desinformação em larga escala”. Este problema surge porque “muitas destas plataformas utilizam informação de páginas individuais ou publicações em redes sociais, tornando-as suscetíveis a conteúdos manipulados”.
Em resposta, a Google atualizou recentemente as suas políticas antisspam, esclarecendo que “a manipulação de respostas de IA viola as regras da empresa”. Esta medida permite “identificar e penalizar sites e empresas que tentem abusar do sistema, incluindo a sua remoção ou despromoção nos resultados de pesquisa”. Contudo, a BBC nota que “a manipulação continua a ocorrer, evidenciando que os mecanismos de proteção ainda não são totalmente eficazes”.
A investigação sublinha que “a propagação de informação enviesada ou incorreta não afeta apenas decisões económicas ou de consumo, mas pode ter implicações legais e de saúde pública”. Globalmente, mais de mil milhões de pessoas utilizam chatbots de IA regularmente, enquanto 2,5 mil milhões consultam mensalmente os resumos de IA da Google.
Apesar de iniciativas silenciosas por parte da Google e de outras empresas de IA, como a remoção de conteúdos suspeitos e a introdução de avisos de confiabilidade, os especialistas alertam para a necessidade de mecanismos mais robustos que garantam a fiabilidade destas ferramentas.
