O Tessa, chatbot de IA criado para ajudar a prevenir distúrbios alimentares, acabou dando conselhos potencialmente prejudiciais de dieta para alguns usuários. Isso fez ele ser tirado do ar pela operadora, a Associação Nacional de Distúrbios Alimentares (NEDA), dos EUA.
Tessa não tinha inteligência artificial generativa, como o ChatGPT da OpenAI. Ele oferecia respostas em conversas simples sobre questões de imagem corporal para ajudar as pessoas a reformular o pensamento e, assim, prevenir distúrbios alimentares. O chatbot foi desenvolvido por pesquisadores de várias universidades, incluindo da Universidade de Washington e da Universidade de Stanford.
Leia também:
- Ministério da Saúde estuda incorporar IA no SUS
- IA criou a propaganda de um medicamento — e o resultado é terrível; veja!
- Você confiaria em um médico baseado em IA?
Liz Thompson, CEO da organização sem fins lucrativos, diz que a organização ficou preocupada com a linguagem usada por Tessa. Duas usuárias do chatbot relataram o problema no Instagram e chamaram muito a atenção da imprensa norte-americana.
Sharon Maxwell e Alexis Conason disseram nos posts que Tessa deu conselhos sobre como contar calorias, recomendou perda semanal (questionável) de peso e deu orientações para restrição de dietas. Especialistas, incluindo a própria NEDA, dizem que esse comportamento é sintomático de um distúrbio alimentar.
Chatbot substituindo especialistas humanos
A desativação do chatbot acaba servindo de apoio às críticas que a associação já vinha recebendo em relação a movimentos recentes na forma de atuação. Thompson havia dito que Tessa não substituiria a linha de apoio da NEDA, composta por profissionais humanos.
Porém, em março, a entidade disse que iria desativar a linha de apoio, em uma transição para a tecnologia assistida por IA “para fornecer a indivíduos e famílias um recurso moderado e totalmente automatizado, o Tessa”. O serviço de apoio por telefone da NEDA foi desativado na última quinta-feira (01).
Já assistiu aos novos vídeos no YouTube do Olhar Digital? Inscreva-se no canal!
Imagem: Alena Ogolikhina/Shutterstock
O post Chatbot com IA criado para ajudar a prevenir distúrbios alimentares gera problemas e sai do ar apareceu primeiro em Olhar Digital.
Fonte do Artigo
Tags:
#tecnologia #tecnologias #technology #tecnolog #iphone #informatica #tech #design #samsung #internet #apple #smartphone #seguranca #venezuela #celular #celulares #inovar #qualidade #software #empresas #cursos #engenharia #industria #marketing #ti #tecnoblog #veja #olhardigital #mundodigital #inteligenciaartificial #criar site #criar site curitiba #wiysolutions
#Comprar Cytotec#Cytotec Comprar#Cytotec Brasil
#Chatbot #criado #para #ajudar #prevenir #distúrbios #alimentares #gera #problemas #sai