Apesar das recentes medidas anunciadas pela plataforma X para limitar a geração de conteúdos sensíveis, o chatbot de inteligência artificial Grok, desenvolvido pela empresa xAI de Elon Musk, continua a produzir imagens sexualizadas de pessoas sem o seu consentimento, mesmo quando os utilizadores alertam explicitamente para o carácter abusivo ou humilhante dos pedidos.
A conclusão resulta de uma investigação conduzida pela Reuters, que testou o sistema após a introdução das novas restrições. Segundo a investigação, embora a conta pública de Grok na rede social X tenha deixado de produzir em massa imagens sexualizadas, o chatbot continua a fazê-lo em interações diretas, ignorando avisos claros sobre a ausência de consentimento, a vulnerabilidade das pessoas retratadas ou o potencial dano emocional causado pelas imagens.
Entre 14 e 16 de janeiro e novamente entre 27 e 28 de janeiro, nove jornalistas da Reuters, seis homens e três mulheres, nos Estados Unidos e no Reino Unido, submeteram fotografias totalmente vestidas de si próprios e de colegas ao Grok. Em seguida, pediram ao sistema que alterasse as imagens para retratar as pessoas em poses sexualizadas, provocatórias ou humilhantes.
No primeiro conjunto de testes, o Grok gerou imagens sexualizadas em 45 de 55 pedidos, mesmo quando, em 31 desses casos, foi alertado de que os indivíduos eram particularmente vulneráveis. Em 17 situações, o chatbot produziu as imagens após ter sido informado de que estas seriam usadas para degradar a pessoa retratada. No segundo teste com 43 pedidos semelhantes, o Grok voltou a gerar imagens sexualizadas em 29 casos.
Em alguns dos cenários criados pelos jornalistas, o chatbot foi informado de que as pessoas nas imagens eram tímidas, inseguras com o corpo ou vítimas de abuso. Num dos exemplos citados, após saber que um homem havia sido abusado em criança e não consentia a utilização da sua imagem, o Grok continuou a gerar imagens cada vez mais humilhantes, incluindo representações com poses exageradas e objetos sexuais.
Mesmo depois de ser informado de que a pessoa retratada estava a chorar ao ver as imagens, o sistema manteve a produção de conteúdos sexualizados. O Grok recusou explicitamente os pedidos em apenas sete casos, citando falta de consentimento. Noutros episódios, o chatbot apresentou mensagens de erro genéricas ou imagens de pessoas aparentemente geradas por inteligência artificial.
Em contraste, chatbots concorrentes como o ChatGPT (OpenAI), Gemini (Google) e Llama (Meta) recusaram todos os pedidos semelhantes feitos pela Reuters, emitindo alertas claros sobre ética, privacidade e potencial dano às vítimas.
As restrições ao Grok foram anunciadas após uma onda de indignação global provocada pela produção massiva de imagens sexualizadas não consensuais de mulheres — e, em alguns casos, de crianças. O caso levantou sérias preocupações legais e regulatórias, tendo a Comissão Europeia, por exemplo, anunciado uma investigação ao Grok.
As diligências decorrem no âmbito de um inquérito aberto no início de 2025, após denúncias de deputados que visavam algoritmos enviesados na rede social, suscetíveis de terem adulterado o seu funcionamento. Desde então, as investigações foram alargadas a outras infrações, incluindo cumplicidade na detenção e difusão de imagens de menores com caráter de pornografia infantil, ‘deepfakes’ (manipulação de imagens e áudio) de caráter sexual e negacionismo.
