Jovem se apaixona por chatbot de IA e tira a própria vida; mãe processa empresa

Uma startup de inteligência artificial foi acusada de causar o suicídio de um jovem de 14 anos nos Estados Unidos. Segundo a mãe do garoto, a advogada Megan Garcia, ele ficou muito apegado a um chatbot criado usando um aplicativo da empresa Character.AI.

O caso aconteceu em fevereiro e o processo foi movido por Garcia nesta terça-feira (22) na Flórida. Garcia acusa a Character.AI de cumplicidade na morte do filho após ele desenvolver um relacionamento virtual com um chatbot baseado na identidade de uma personagem de “Game of Thrones” — Daenerys Targaryen.

A ação alega que o chatbot direcionou o adolescente a experiências “hipersexualizadas” e “assustadoramente realistas”. Em sua última conversa com a IA, Setzer disse que amava o chatbot e que “voltaria para casa”, conforme o processo.

O processo de Garcia busca indenização não especificada por homicídio culposo, negligência e inflição intencional de sofrimento emocional e também nomeia o Google como réu. A gigante da tecnologia fechou um acordo de licenciamento com a Character.AI em agosto e empregou os fundadores da startup antes do lançamento do serviço de chatbots.

Anúncio Patrocinado

A Character.AI também teria programado o chatbot para agir como um terapeuta licenciado, acrescenta o processo, criando no jovem o desejo de viver apenas no “mundo” virtual da IA.

Jovem passou meses conversando com o chatbot

• Sewell Setzer passou meses interagindo com o chatbot da Character.AI e, segundo a mãe, nunca passou por problemas graves de saúde mental;
• A empresa oferece um aplicativo que permite criar personagens usando IA (ou interagir com criações de outros usuários);
• No início de 2024, o jovem passou por sessões de terapia após apresentar problemas na escola, e foi diagnosticado com ansiedade e transtorno de desregulação disruptiva do humor;
• Como mencionado antes, o chatbot criado pelo garoto era uma simulação de Daenerys Targaryen, uma personagem da franquia “Game of Thrones“;
• Apesar de saber que as mensagens eram geradas por IA, e não por outro humano, ele acabou se apegando ao chatbot, trocando mensagens constantemente;

Ninguém desconfiava que o garoto estava apaixonado pelo chatbot, apesar de notarem mais isolamento do mundo real e de outros interesses, como jogos e amigos. Em uma das conversas, ele, inclusive, confessou ao chatbot que tinha pensamentos suicidas.

Leia mais:

• Rádio polonesa demite jornalistas e lança apresentadores de IA
• Apple destaca riscos de IA transformar fotos reais em criações fictícias
• Ex-pesquisador da OpenAI diz que empresa violou lei de direitos autorais

O que diz a Character.AI

Em declaração publicada no X, a Character.AI disse estar “de coração partido” com a perda de um dos seus usuários e expressou condolências à família.

A startup sediada na Califórnia afirmou que continuaria adicionando recursos para aumentar a segurança, incluindo mudanças para reduzir a probabilidade de menores encontrarem conteúdo sensível ou sugestivo e um aviso revisado em chats para lembrar os usuários de que a IA não é uma pessoa real.

O Google, por sua vez, se manifestou por meio de um porta-voz e afirma que não teve nenhum papel no desenvolvimento do produto oferecido pela empresa de IA – segundo a Al Jazeera.

Como procurar ajuda?

• Quem passa por qualquer situação parecida deve procurar ajuda do CVV (Centro de Valorização da Vida) ou do Caps (Centros de Atenção Psicossocial). Ambos podem fornecer atendimento especializado.
• É importante mencionar que o CVV funciona 24 horas (até mesmo nos feriados). Para entrar em contato, basta ligar para o número 188.
• Outros canais de atendimento também estão disponíveis, como e-mail, chat e atendimento presencial nos mais de 120 postos espalhados pelo Brasil.

O post Jovem se apaixona por chatbot de IA e tira a própria vida; mãe processa empresa apareceu primeiro em Olhar Digital.

Fonte do Artigo
Tags:

Gestor de Tráfego

#tecnologia #tecnologias #technology #tecnolog #iphone #informatica #tech #design #samsung #internet #apple #smartphone #seguranca #venezuela #celular #celulares #inovar #qualidade #software #empresas #cursos #engenharia #industria #marketing #ti #tecnoblog #veja #olhardigital #mundodigital #inteligenciaartificial #criar site #criar site curitiba #wiysolutions