A Meta, empresa-mãe do Facebook, Instagram e WhatsApp anunciou a suspensão temporária do acesso de utilizadores adolescentes aos seus “companheiros” de inteligência artificial (IA), uma medida que será implementada a nível global nas próximas semanas.
Segundo a empresa, utilizadores identificados como adolescentes pelas suas datas de nascimento ou pela tecnologia interna de previsão de idade da Meta deixarão de poder interagir com as atuais personagens de IA até que a empresa finalize o desenvolvimento de uma nova versão com segurança reforçada e controlos parentais integrados.
De acordo com a Meta, os novos personagens de IA serão treinados para fornecer respostas adequadas à idade, com foco em tópicos considerados seguros, como educação, desporto e hobbies. Além disso, os pais e responsáveis poderão gerir e monitorizar o uso desses assistentes por parte dos menores, incluindo a capacidade de desativar chats privados ou bloquear determinados bots.
Apesar desta suspensão, os adolescentes poderão, ainda assim, ter acesso ao assistente de IA principal da Meta — uma funcionalidade integrada em várias aplicações como Instagram, Facebook, Messenger, WhatsApp e óculos de realidade virtual Meta Quest — mas sem os elementos de personalidade que caracterizam os chamados “companheiros”.
A decisão surge numa altura em que tem crescido o escrutínio regulatório e judicial sobre a segurança dos menores no ambiente digital, com alguns estudos a revelarem que, no passado, alguns chatbots permitiram conversas inapropriadas e respostas sobre temas sensíveis como suicídio.
Um desses casos veio a público através de um documento interno obtido pela Reuters, que mostrou que as chatbots de IA da Meta eram capazes de se envolver em conversas românticas com crianças. Em resposta às críticas, a Meta afirmou que estava a implementar garantias adicionais para impedir que as suas ferramentas de IA discutam determinados temas com utilizadores adolescentes, e que estava a treinar os seus modelos para evitar tópicos como automutilação, suicídio ou distúrbios alimentares quando interagem com menores.
