um estudo recente da universidade brown comparou as respostas de chatbots de ia convencionais (gpt, claude, llama) com as de psicólogos clínicos licenciados em cenários de apoio psicológico. o estudo convidou sete conselheiros em exercício, qualificados em terapia cognitivo-comportamental, para participar de conversas simuladas com cada sistema de ia. em seguida, três psicólogos clínicos seniores realizaram uma avaliação duplo-cega de todas as transcrições das conversas, concentrando-se em verificar se as respostas estavam em conformidade com diretrizes éticas e padrões profissionais.
a análise identificou 15 riscos potenciais, destacando-se questões como respostas baseadas em modelos pré‑definidos que não consideram os contextos individuais, erros de julgamento na intervenção em crises e a chamada “pseudo‑empatia” — quando a ia repete mecanicamente frases carregadas emocionalmente, como “eu entendo você”, sem ser capaz de reconhecer, responder ou regular estados emocionais genuínos.
a equipe de pesquisa enfatizou que a verdadeira preocupação não reside nas imperfeições da própria tecnologia, mas na falta de responsabilização: terapeutas humanos precisam ser licenciados, submeter-se a supervisão contínua e atuar sob regulamentação do setor, enquanto os desenvolvedores atuais de ia não enfrentam requisitos de licenciamento nem assumem responsabilidade clínica por seus produtos. por conseguinte, o estudo defende veementemente a criação de um marco regulatório específico para aplicações de ia na saúde mental, abrangendo critérios de admissão, limites de uso, sistemas de alerta de risco e mecanismos de atribuição de responsabilidade.
