OpenAI pensa com carinho sobre marcar ou não textos gerados pelo ChatGPT

Existe um dilema na OpenAI. A desenvolvedora do ChatGPT criou uma ferramenta capaz de sinalizar textos gerados pela plataforma. Mas será que a empresa deveria lançá-la? Eis a questão, levantada pelo Wall Street Journal, cuja resposta é mais complicada do que parece.

A ferramenta, pronta há aproximadamente um ano, introduz uma mudança sutil na forma como o ChatGPT “escreve”, criando um padrão que pode ser utilizado para identificar textos gerados por IA.

De um lado, a implementação do recurso parece ser uma medida responsável. De outro, a empresa teme que possa perder dinheiro por conta da mudança.

Sinalizar ou não os textos gerados no ChatGPT vira dilema na OpenAI

Em essência, a ferramenta não altera a qualidade dos textos gerados pelo ChatGPT. Além disso, uma pesquisa encomendada pela OpenAI indicou um forte apoio global à ideia de ferramentas que detectam conteúdo gerado por IA.

Anúncio Patrocinado

Além disso, o recurso em questão seria particularmente útil para o ambiente acadêmico, por exemplo. Isso porque ajudaria professores a identificar trabalhos produzidos por IA.

Apesar da eficácia técnica da marcação, descrita pela OpenAI como “99,9% eficaz” e resistente a adulterações como parafrasear, a empresa revelou numa atualização em seu blog que técnicas simples como o uso de outro modelo de IA para reformular o texto podem facilmente burlar a detecção.

Leia mais:

• ChatGPT consome 500ml de água quando falamos com ele
• Marco Legal da Inteligência Artificial: entenda os 5 principais pontos
• 14 perguntas e respostas sobre Inteligência Artificial (IA)

Além disso, existe a preocupação de que o uso da ferramenta possa estigmatizar usuários de IA – especialmente aqueles que não são falantes nativos de inglês, que podem depender mais dessas tecnologias para comunicação e aprendizado.

Outro ponto sensível é a possível reação dos usuários do ChatGPT. Segundo a empresa, cerca de 30% dos usuários indicaram que reduziriam o uso do software se a marcação fosse implementada. Daí o possível prejuízo, coisa que empresa nenhuma quer.

O post OpenAI pensa com carinho sobre marcar ou não textos gerados pelo ChatGPT apareceu primeiro em Olhar Digital.

Fonte do Artigo
Tags:

Gestor de Tráfego

#tecnologia #tecnologias #technology #tecnolog #iphone #informatica #tech #design #samsung #internet #apple #smartphone #seguranca #venezuela #celular #celulares #inovar #qualidade #software #empresas #cursos #engenharia #industria #marketing #ti #tecnoblog #veja #olhardigital #mundodigital #inteligenciaartificial #criar site #criar site curitiba #wiysolutions