A OpenAI vai lançar, até ao final de setembro, uma nova versão do ChatGPT especialmente desenvolvida para adolescentes. Esta iniciativa surge num momento em que a empresa e outras tecnológicas estão a ser alvo de escrutínio por parte da Comissão Federal de Comércio dos EUA (FTC), devido a preocupações sobre o impacto que os chatbots de inteligência artificial podem ter em crianças e jovens.
A nova experiência do ChatGPT para menores de 18 anos incluirá controlos parentais e medidas de proteção específicas. O sistema identificará automaticamente utilizadores adolescentes e direcioná-los-á para uma versão adaptada da ferramenta, com filtros para bloquear conteúdos impróprios, como material gráfico ou de cariz sexual. Em situações de emergência emocional grave, poderá ainda haver encaminhamento para as autoridades competentes.
Para garantir que os adolescentes são devidamente protegidos, a OpenAI está a desenvolver tecnologia de deteção de idade mais precisa. Sempre que houver dúvidas quanto à idade do utilizador, será aplicada por defeito a versão para menores.
A empresa já tinha anunciado anteriormente a introdução de controlos parentais, agora detalhados: os pais poderão associar a sua conta à dos filhos, definir períodos de utilização, limitar funcionalidades, orientar o tipo de respostas geradas e receber alertas em caso de sinais de sofrimento emocional.
Estas atualizações surgem também após casos mediáticos que colocaram em causa a segurança dos chatbots junto de públicos mais jovens, incluindo um processo judicial que envolve alegações relacionadas com saúde mental de um adolescente.
O ChatGPT continua a ser indicado para utilizadores com 13 anos ou mais, mas esta nova abordagem reforça a estratégia da OpenAI para tornar a tecnologia mais segura e transparente. Ao investir em mecanismos de proteção e envolvimento parental, a empresa procura equilibrar o potencial da IA com a necessidade de salvaguardar os utilizadores mais vulneráveis.
