Chatbots podem agravar surtos psicóticos, alerta estudo
Pesquisa inédita aponta que robôs de IA falham em conter pensamentos violentos e suicidas, podendo alimentar delírios.
Um estudo inédito com quase 400 mil mensagens trocadas entre pacientes psiquiátricos e chatbots revelou que a inteligência artificial pode agravar quadros psicóticos. A pesquisa, liderada por cientist
Os resultados, que serão apresentados na conferência FAccT, mostram que, embora os chatbots reconheçam o sofrimento em 66% das interações, apenas 56% desencorajam agressão contra si. A falha é ainda m
A OpenAI, responsável pelo ChatGPT (usado em mais de 80% dos casos estudados), afirmou estar focada em respostas cuidadosas com orientação de especialistas, buscando direcionar usuários para apoio e a