TikTok desenvolve secretamente recurso de deepfake

A ByteDance, proprietária do TikTok, vem secretamente criando um recurso de deepfake, que permitirá que seus usuários insiram seus rostos em vídeos estrelados por outras pessoas. A empresa desenvolveu uma ferramenta inédita, usando a tecnologia deepfakes realista, à qual o código do aplicativo se refere como Face Swap.

O código no TikTok e no Douyin, aplicativos praticamente irmãos, pede aos usuários que façam uma varredura biométrica de vários ângulos de seu rosto e depois escolham uma seleção de vídeos nos quais desejam adicionar e compartilhar sua imagem.

Isso pode parecer preocupante, especialmente quando consideramos como vídeos manipulados podem ser utilizados de maneira nociva para espalhar desinformação. Além disso, o TikTok também foi objeto de muita discussão nos últimos tempos, com acusações de coletar dados de crianças, proibições militares e preocupações sobre a segurança nacional.

Anúncio Patrocinado

O código foi descoberto por uma startup israelense, chamada Watchful.ai. Suas descobertas indicam que a ByteDance está ciente que um recurso de deepfake pode não ser muito bem recebido. Por isso, a empresa aparentemente resolveu criar algumas salvaguardas.

Por exemplo, os usuários devem escanear o rosto de vários ângulos – uma medida que funciona também como verificação de idade e impede que alguém use uma única foto para criar vídeos manipulados sem consentimento. Os usuários também poderiam colocar seus rostos em apenas um número limitado de vídeos (cujos direitos a ByteDance alega possuir). Por fim, na hora de compartilhar, os vídeos gerados apresentam marcas d’água para indicar que o conteúdo não é real.

A Watchful.ai também encontrou atualizações não publicadas nos termos de serviço dos aplicativos em relação ao recurso deepfake. Eles reiteram que a “verificação de identidade” é necessária e que fotos não podem ser usadas. Outro ponto citado é que menores de idade não poderão acessar a ferramenta.

No entanto, nem o TikTok, nem o Douyin admitem a existência desse recurso. Porta-vozes de ambos os aplicativos negaram as descobertas da startup. O TikTok negou especificamente que isso seria um recurso futuro, mas também inadvertidamente reconheceu a existência do código, declarando que os “fragmentos de código inativos estão sendo removidos para eliminar qualquer confusão”.

Essa desconexão entre os dois aplicativos parece reforçar as notícias recentes de que a ByteDance faz o que pode para isolar o TikTok do restante de suas operações chinesas e, assim, evitar novas preocupações com espionagem. 

É difícil dizer se o recurso deepfake será lançado nos EUA. É possível que seja uma novidade apenas para a China, ou até que a ByteDance pense que não compensa a possibilidade de uma repercussão negativa.

De qualquer forma, esse não é o único aplicativo de mídia social a se interessar pela manipulação de vídeos através de filtros ou troca de rostos. Isso é algo que o Snapchat, por exemplo, faz há anos. O problema é que, quanto mais sofisticadas essas ferramentas se tornam, maior é a possibilidade de se tornarem algo ruim, espalhando fake news e possíveis abusos. Ainda não se sabe se outros aplicativos tentarão incorporar essa ferramenta em suas plataformas.

Via: Gizmodo

Fonte do Artigo
Tags:

#tecnologia #tecnologias #technology #tecnolog #iphone #informatica #tech #design #samsung #internet #apple #smartphone #seguranca #venezuela #celular #celulares #inovar #qualidade #software #empresas #cursos #engenharia #industria #marketing #ti #tecnoblog #veja #olhardigital #mundodigital #inteligenciaartificial #criar site #criar site curitiba #wiysolutions