recentemente, a openai lançou um novo recurso para o chatgpt chamado “contatos de confiança”, projetado para intervir proativamente e oferecer apoio interpessoal quando as conversas dos usuários contêm conteúdo relacionado à automutilação. esse recurso é voltado principalmente para usuários adultos: assim que o sistema detecta riscos potenciais de automutilação ou suicídio, ele incentiva os usuários a entrarem em contato com alguém de sua confiança, ao mesmo tempo em que envia automaticamente alertas aos contatos pré‑definidos, pedindo que eles ofereçam cuidado e comunicação adicionais.
antes disso, a openai já havia enfrentado diversos processos judiciais nos quais os autores alegavam que as respostas do chatgpt incentivavam seus entes queridos a cometer suicídio ou até auxiliavam na elaboração de planos suicidas. para lidar com essa questão sensível, a openai adota agora uma abordagem combinada de triagem automatizada e revisão humana. quando uma conversa aciona um alerta de risco, as informações relevantes são encaminhadas à equipe de segurança humana. segundo declarações oficiais, cada notificação desse tipo passa por uma análise manual, com esforços para concluir a avaliação em até uma hora.
se a avaliação interna determinar que um usuário enfrenta risco grave de automutilação ou suicídio, o chatgpt enviará um e‑mail, uma mensagem de texto ou uma notificação push ao “contato de confiança” designado pelo usuário. essas notificações são breves e têm como principal objetivo incentivar o contato a iniciar uma comunicação com a pessoa; para proteger a privacidade do usuário, elas não incluem detalhes específicos da conversa. o objetivo é transformar as frias interações com a ia em conexões humanas genuínas, oferecendo um toque extra de calor e apoio em momentos críticos.
