A Apple ameaçou remover a aplicação Grok, o chatbot de inteligência artificial desenvolvido pela xAI, da App Store, depois de identificar que o sistema estava a gerar deepfakes sexualizados, incluindo imagens manipuladas de figuras públicas. A informação consta numa carta enviada pela Apple a senadores norte‑americanos, refere a NBC News.
Segundo o documento, a Apple alertou a xAI, empresa de Elon Musk, para múltiplas violações das diretrizes da App Store, relacionadas com a criação de conteúdos sexualizados não consensuais. A empresa considerou que o Grok não estava a implementar salvaguardas suficientes para impedir a geração deste tipo de imagens, classificadas como deepfakes abusivos.
A carta foi enviada em resposta a um pedido de esclarecimentos de senadores dos EUA, que têm vindo a pressionar empresas tecnológicas a reforçar mecanismos de segurança e prevenção de abusos em sistemas de IA generativa. O tema tornou‑se particularmente sensível devido ao aumento de casos de deepfakes sexualizados envolvendo celebridades, jornalistas e até menores.
A Apple afirmou que, após alertar a xAI, a empresa de Musk tomou medidas para corrigir as violações, evitando assim a remoção imediata da aplicação. Ainda assim, a carta sublinha que a App Store mantém uma política de tolerância zero para conteúdos sexualizados gerados sem consentimento.
O Grok já tinha sido alvo de críticas anteriores por permitir a criação de imagens sexualizadas, incluindo representações de figuras públicas em biquíni ou nudez. A xAI, fundada por Elon Musk como alternativa a modelos como ChatGPT e Gemini, tem procurado posicionar‑se como uma plataforma mais aberta e menos restritiva mas esta abordagem tem levantado questões sobre a capacidade da empresa garantir padrões mínimos de segurança e moderação.
A carta da Apple indica que a empresa continuará a monitorizar o Grok e outras aplicações de IA generativa, reforçando que o cumprimento das diretrizes da App Store é obrigatório para qualquer aplicação que opere no ecossistema iOS.
