A OpenAI anunciou uma nova funcionalidade de segurança no ChatGPT que permite enviar alertas a contactos de confiança quando são detetados sinais de risco de autolesão durante interações com a plataforma.
De acordo com o site Merca20, a ferramenta foi desenvolvida como uma medida adicional de prevenção, procurando reforçar o apoio em situações emocionalmente sensíveis através da ligação a pessoas próximas do utilizador.
A funcionalidade é opcional e pode ser ativada nas definições da conta, permitindo ao utilizador indicar previamente um contacto de confiança. Em caso de deteção de sinais considerados preocupantes, esse contacto poderá ser notificado para acompanhar a situação.
Antes do envio de qualquer alerta, o processo envolve sistemas automatizados de análise e mecanismos de validação, com o objetivo de minimizar erros e evitar interpretações indevidas em contextos delicados.
A OpenAI sublinha que não são partilhados conteúdos das conversas, garantindo a proteção da privacidade dos utilizadores. A notificação funciona apenas como um sinal de alerta, incentivando uma intervenção humana em momentos críticos.
A nova funcionalidade destina-se a utilizadores maiores de idade e não substitui apoio médico ou serviços de emergência, sendo enquadrada como uma camada adicional de segurança no uso de ferramentas de inteligência artificial.
O lançamento surge num contexto de crescente atenção ao impacto das plataformas digitais na saúde mental, com empresas tecnológicas a reforçarem mecanismos de proteção e responsabilidade no desenvolvimento de soluções baseadas em IA.
