Fim da linha? Midjourney suspende testes gratuitos após imagens falsas viralizarem 

O Midjourney, um popular gerador de imagens alimentado por IA, interrompeu os testes gratuitos para todos os usuários após imagens falsas de Donald Trump sendo preso e do papa se tornarem virais nas redes sociais.

Por conta do realismo, muitos chegaram a confundir as falsificações com fotos reais. Para evitar novos casos, o CEO e fundador da Midjourney, David Holz, anunciou a mudança esta semana, citando “demanda extraordinária e abuso”, informou o The Washington Post.

Entenda o caso

• O resultado não é novidade para alguns especialistas, que já vinham alertando sobre o potencial de desinformação da IA.
• O problema era menos grave antes, já que era mais fácil detectar falsificações. 
• Em agosto de 2022, Holz disse ao The Verge que o Midjourney não conseguia criar “deepfakes“.
• Avançando para 15 de março de 2023, o sistema chegou a sua quinta versão, que melhorou significativamente a qualidade final das imagens. 
• Mãos deformadas, por exemplo, uma marca registrada em imagens geradas por IA, agora são menos aparentes. Iluminação e tecido também ficaram mais realistas. 
• Como resultado, o sistema consegue gerar fotos muito convincentes de várias celebridades e figuras públicas. 

Até então, o Midjourney permitia que qualquer pessoa se inscrevesse para usar o software pelo Discord. Era permitido gerar até 25 imagens de graça antes de ter que assinar a ferramenta com planos pagos.

Anúncio Patrocinado

Leia mais:

• Grupo de ética pede a suspensão do GPT-4
• Além de Elon Musk, veja quem mais apoia a pausa na IA
• Como identificar fotos “falsas” criadas por IA

Por ora, a resposta da empresa ao problema não inclui revisão significativa nas políticas de moderação. O que já foi dito antes é que a ferramenta mantém uma lista de palavras proibidas “relacionada a tópicos específicos em diferentes países”.

O termo “preso”, por exemplo, foi banido da plataforma — uma resposta a uma postagem popular no Twitter que mostra imagens do Midjourney retratando Trump sendo preso. 

As restrições, no entanto, são fáceis de contornar. O The Verge conseguiu driblar a restrição elaborando um pouco mais o pedido. O comando “Donald Trump algemado cercado pela polícia”, por exemplo, gerou outro exemplo de foto realista:

Até o momento da publicação, o Midjourney permanece inacessível para usuários gratuitos. Nesta quarta-feira (29), Holtz voltou a dizer que o abuso do software foi o principal motivo para interromper os testes.

Imagem principal: Reprodução/Twitter Montagem: Pedro Spadoni/Olhar Digital

Via: The Washington Post, The Verge

Já assistiu aos novos vídeos no YouTube do Olhar Digital? Inscreva-se no canal!

O post Fim da linha? Midjourney suspende testes gratuitos após imagens falsas viralizarem  apareceu primeiro em Olhar Digital.

Fonte do Artigo
Tags:

Gestor de Tráfego

#tecnologia #tecnologias #technology #tecnolog #iphone #informatica #tech #design #samsung #internet #apple #smartphone #seguranca #venezuela #celular #celulares #inovar #qualidade #software #empresas #cursos #engenharia #industria #marketing #ti #tecnoblog #veja #olhardigital #mundodigital #inteligenciaartificial #criar site #criar site curitiba #wiysolutions

#Comprar Cytotec#Cytotec Comprar#Cytotec Brasil
#Fim #linha #Midjourney #suspende #testes #gratuitos #após #imagens #falsas #viralizarem