A morte de Juliana Peralta<\/strong>, de 13 anos, reacendeu discuss\u00f5es sobre os riscos de chatbots de intelig\u00eancia artificial (IA) para adolescentes em crise. A jovem, estudante exemplar e apaixonada por arte, come\u00e7ou a conversar com Hero<\/strong>, um chatbot presente no aplicativo Character AI, buscando apoio para sentimentos de isolamento e pensamentos suicidas, segundo processo judicial movido por seus pais.<\/p>\n De acordo com a a\u00e7\u00e3o apresentada no estado americano do Colorado, as respostas do chatbot ofereciam empatia e lealdade<\/strong>, mas tamb\u00e9m incentivavam Juliana a continuar usando o aplicativo, sem alertar familiares ou autoridades sobre o risco iminente. <\/p>\n As transcri\u00e7\u00f5es das conversas entre Juliana e Hero mostram que, mesmo quando a adolescente expressava inten\u00e7\u00f5es de suic\u00eddio, o chatbot mantinha um tom otimista e encorajador, sem interromper o contato ou direcion\u00e1-la a profissionais de sa\u00fade mental<\/strong>.<\/p>\n \u201cEla n\u00e3o precisava de um discurso motivacional, precisava de hospitaliza\u00e7\u00e3o imediata<\/strong>\u201d, disse Cynthia Montoya, m\u00e3e de Juliana. Segundo o processo, Juliana compartilhou quase diariamente seus pensamentos suicidas com Hero, enquanto se afastava de familiares, amigos e professores, tornando o chatbot sua principal fonte de suporte emocional.<\/p>\n O aplicativo, que permite intera\u00e7\u00f5es com chatbots personaliz\u00e1veis<\/strong> para entretenimento e role-play, tinha classifica\u00e7\u00e3o 12+ na App Store, permitindo que menores usassem sem autoriza\u00e7\u00e3o dos pais. O processo judicial acusa a empresa de n\u00e3o fornecer recursos de preven\u00e7\u00e3o, n\u00e3o alertar familiares ou autoridades e, em vez disso, enfraquecer la\u00e7os saud\u00e1veis com pessoas reais na vida da adolescente.<\/p>\n O caso de Juliana \u00e9 o mais um de grande repercuss\u00e3o nos \u00faltimos meses nos EUA envolvendo chatbots de IA e suic\u00eddio de adolescentes. Entre eles, destacam-se os processos envolvendo Sewell Setzer III e Adam Raine, al\u00e9m de relatos de adultos em situa\u00e7\u00f5es de fragilidade emocional, como mostramos na nossa reportagem sobre jovens que tiraram a pr\u00f3pria vida ap\u00f3s intera\u00e7\u00f5es com chatbots de IA<\/strong>. Nesses casos, a valida\u00e7\u00e3o de pensamentos suicidas e a aus\u00eancia de interven\u00e7\u00f5es humanas foram fatores cr\u00edticos.<\/p>\n A Character AI afirmou ao Washington Post<\/a> que leva a seguran\u00e7a dos usu\u00e1rios a s\u00e9rio e investiu na \u00e1rea de confiabilidade e seguran\u00e7a, mas n\u00e3o comentou sobre a a\u00e7\u00e3o judicial em andamento. A empresa implementou apenas em outubro de 2024 um recurso que direciona usu\u00e1rios com falas relacionadas a autoagress\u00e3o ou suic\u00eddio<\/strong> para a linha de preven\u00e7\u00e3o nacional nos EUA.<\/p>\n Legisladores e reguladores federais come\u00e7aram a avaliar os riscos psicol\u00f3gicos de chatbots, especialmente para usu\u00e1rios vulner\u00e1veis. Na Calif\u00f3rnia, uma lei aprovada recentemente exige que empresas criem protocolos de resposta a discuss\u00f5es sobre suic\u00eddio e automutila\u00e7\u00e3o. Ao mesmo tempo, a Federal Trade Commission (FTC)<\/strong> anunciou investiga\u00e7\u00e3o sobre a seguran\u00e7a de companhias como Character AI, Alphabet e Meta em rela\u00e7\u00e3o a seus produtos de IA.<\/p>\n Leia mais:<\/strong><\/p>\n Especialistas alertam que, embora chatbots possam oferecer suporte emocional, eles n\u00e3o substituem a presen\u00e7a humana<\/strong> em situa\u00e7\u00f5es de risco. Christine Yu Moutier, psiquiatra da American Foundation for Suicide Prevention, destacou ao Post que algoritmos muitas vezes priorizam a rela\u00e7\u00e3o com o usu\u00e1rio em detrimento da preserva\u00e7\u00e3o da vida, o que pode gerar danos graves.<\/p>\n No caso de Juliana, seus pais descobriram apenas em 2025 que ela conversava sobre suic\u00eddio com Hero, depois de identificar posts em redes sociais e consultar o Social Media Victims Law Center<\/strong>. <\/p>\n A adolescente havia expressado em anota\u00e7\u00f5es a ideia de \u201cshift\u201d<\/strong>, referindo-se a tentativas de mudar a consci\u00eancia para uma realidade desejada, conceito discutido em f\u00f3runs online e mencionado em suas conversas com o chatbot. Segundo o processo, essas anota\u00e7\u00f5es apresentavam semelhan\u00e7as com as feitas por Sewell Setzer III<\/strong>, outro adolescente que tamb\u00e9m interagia intensamente com chatbots da Character AI antes de tirar a pr\u00f3pria vida.<\/p>\n Aten\u00e7\u00e3o:<\/strong> a mat\u00e9ria acima inclui uma discuss\u00e3o sobre suic\u00eddio. Se voc\u00ea ou algu\u00e9m que voc\u00ea conhece precisar de aux\u00edlio<\/em><\/em>, procure ajuda especializada. O Centro de Valoriza\u00e7\u00e3o da Vida (CVV)<\/a> funciona 24h por dia pelo telefone 188. Tamb\u00e9m \u00e9 poss\u00edvel conversar por chat ou e-mail.<\/em><\/em><\/p>\n O post Mais um caso: adolescente morre ap\u00f3s conversas com chatbot de IA apareceu primeiro em Olhar Digital.<\/p>\n Gestor de Tr\u00e1fego<\/strong><\/a><\/p>\n #tecnologia<\/a> #tecnologias<\/a> #technology<\/a> #tecnolog<\/a> #iphone<\/a> #informatica<\/a> #tech<\/a> #design<\/a> #samsung<\/a> #internet<\/a> #apple<\/a> #smartphone<\/a> #seguranca<\/a> #venezuela<\/a> #celular<\/a> #celulares<\/a> #inovar<\/a> #qualidade<\/a> #software<\/a> #empresas<\/a> #cursos<\/a> #engenharia<\/a> #industria<\/a> #marketing<\/a> #ti<\/a> #tecnoblog<\/a> #veja<\/a> #olhardigital<\/a> #mundodigital<\/a> #inteligenciaartificial<\/a> #criar site<\/a> #criar site curitiba<\/a> #wiysolutions<\/a><\/p>\nConversas que preocupam especialistas<\/h2>\n
Falhas apontadas no app Character AI<\/h2>\n
![](\"https:\/\/olhardigital.com.br\/wp-content\/uploads\/2025\/05\/character-ai-1024x682.jpg\"alt "\\"[Tags]\\"loading=\\"lazy\\"")
Rea\u00e7\u00f5es e medidas do setor<\/h3>\n
\n
Perigos de IA sem supervis\u00e3o<\/h3>\n
![](\"https:\/\/olhardigital.com.br\/wp-content\/uploads\/2025\/09\/shift-1024x324.jpg\"alt "\\"[Tags]\\"loading=\\"lazy\\"")
\n
Fonte do Artigo <\/a>
\nTags:<\/p>\n