Crianças em risco: IA agrava perigos de abusos na Internet

Com a inteligência artificial (IA), a sociedade pode voltar a cair no erro que foi cometido com as redes sociais e a Internet em geral, alerta a revista científica The Lancet.

Quando começarmos a estudar cientificamente os seus efeitos, especialmente na saúde mental das crianças, e agirmos com base nas provas, os jovens já terão adotado a nova tecnologia. “Se não aprendermos com as experiências do passado, poderemos encontrar-nos numa situação semelhante dentro de dez anos (…), envolvidos noutro ciclo de pânico mediático e não conseguindo tornar a IA segura e benéfica para as crianças e adolescentes”, alerta Karen L Mansfield. L Mansfield, psicóloga investigadora da Universidade de Oxford, na publicação científica, a mesma que revela, também hoje, um destes riscos já comprovados: uma em cada 12 crianças é vítima de abuso ou exploração sexual todos os anos no mundo.

“Na Internet, podemos encontrar tudo o que de mau se possa imaginar, tráfico de qualquer tipo. Já existia antes da Internet, mas tem sido uma plataforma de promoção e divulgação global”, explica Jorge B., conhecido online como @NoobInTheNet , que começou a mergulhar nas profundezas da Internet quando tinha apenas 12 anos. Graças à supervisão dos pais e à orientação inicial da empresa de cibersegurança Kaspersky, conseguiu evitar os caminhos mais obscuros. Hoje tem 21 anos e trabalha no departamento de informática de uma multinacional de seguros.

E o pior é que estas portas do mal para crianças e adolescentes não são inacessíveis, antes pelo contrário, explica Jorge B. “O pior que se pode encontrar na Internet não está numa rede profunda e difícil de encontrar. A melhor maneira de esconder algo é torná-lo visível para toda a gente. Vai-se encontrar à superfície, no sítio mais inoportuno e na altura mais imprópria”, comenta em relação à infância e à juventude, quando, nas suas palavras, ‘falta à mochila alguma experiência e uma certa maturidade tecnológica’.

O jovem especialista destaca entre os perigos mais comuns da IA a falsificação de identidade através de conteúdos falsos, uma prática que visa predominantemente raparigas e mulheres jovens. A investigação de Mansfield aponta para mais exemplos, especialmente aqueles que têm um impacto direto na saúde mental. A psicóloga identifica como potencialmente prejudiciais “funções semelhantes às humanas”, como agentes de IA, ou “a produção de imagens e conteúdos de vídeo suficientemente convincentes para serem indistinguíveis de conteúdos autênticos [deepfakes e desinformação], que ‘podem influenciar as emoções e o comportamento das crianças’. A psicóloga refere ainda os “sistemas de recomendação de conteúdos e as ferramentas de diagnóstico em linha para a depressão, ansiedade ou distúrbios alimentares, que estão a ser cada vez mais utilizados para o autodiagnóstico”.

“Com a IA humana a melhorar ou a moderar as interações em linha, a gama de potenciais benefícios e danos para as crianças e adolescentes é mais diversificada do que alguma vez foram as redes sociais e os jogos em linha”.

Marc Rivero, investigador sénior de segurança da Kaspersky, que não participou no estudo, chega a uma conclusão semelhante: “A inteligência artificial está a transformar a experiência digital das crianças e dos adolescentes, mas também pode ter um impacto negativo na sua saúde mental e emocional. Ao personalizar o conteúdo que vêem e ao sugerir interações, a IA pode expô-los a material inadequado ou a grupos em linha que promovem actividades ilegais. Estas influências podem aumentar a ansiedade, o isolamento ou mesmo levar a comportamentos de risco no ambiente digital. Por conseguinte, é essencial proteger os menores através de uma educação digital precoce, da utilização de ferramentas de monitorização adequadas, como o controlo parental, e do estabelecimento de um diálogo aberto com as crianças para as ensinar a navegar no mundo digital de forma segura e responsável”.

O alerta de Rivero e dos investigadores de Oxford é especialmente relevante porque, de acordo com o relatório da Kaspersky Being Online: Children and Parents on the Internet, “a maioria das crianças tem acesso à tecnologia desde muito cedo: quase metade das crianças espanholas (47%) tem o seu primeiro contacto com um dispositivo ligado à Internet antes dos 7 anos de idade, 24,5% dos pais espanhóis nunca falam com os seus filhos sobre os perigos do ambiente digital e 75% reconhecem que os seus filhos ‘não tinham conhecimentos suficientes para utilizar a rede de forma segura’”.

Todos os especialistas consultados concordam em três chaves: formação, informação e investigação, para que o acesso aos recursos da IA seja feito com as melhores defesas possíveis. Sem estas, as regulamentações ou proibições posteriores de utilização da tecnologia são ineficazes.

Isto foi demonstrado por um dos piores flagelos da Internet, onde as regras e os limites não impediram durante um ano que uma em cada 12 crianças no mundo sofresse exploração ou abuso sexual no mundo. É a conclusão de uma investigação liderada por Deborah Fry , professora de Investigação em Proteção Infantil na Universidade de Edimburgo, que foi também publicada hoje pela The Lancet .

Tal como o estudo de Oxford, este trabalho também aponta o perigo do surgimento da IA. “As tecnologias emergentes baseadas em avanços tanto em hardware [equipamento] como em software [programas] estão a utilizar décadas de investigação em IA. As formas como os jovens interagem com ele estão em constante mudança e muitos especialistas prevêem uma IA semelhante à humana nesta década”, alerta Fry na investigação.

A equipa do especialista em proteção infantil aponta a limitação da investigação baseada em tempos de utilização de ecrãs ou redes sociais. Suspeita também de medidas ligadas a estes dois aspetos: “Os limites de tempo [de navegação] e de idade [de acesso às aplicações] afastam a responsabilidade da necessidade de regular conteúdos nocivos, colocando a responsabilidade nos pais e encarregados de educação ou na massa integração de tecnologias de estimativa de idade não testadas, que foram consideradas como apresentando riscos de privacidade e segurança.”

Os investigadores apontam ainda a falta de dados uniformes e homogéneos para resolver um problema global. Na verdade, não existe sequer uma unidade de critérios na consideração dos abusos sexuais e dos crimes através da Internet.