A desenvolvedora ByteDance, responsável pelo fenômeno TikTok, pode entrar no segmento de deepfakes em breve. Segundo o site TechCrunch, códigos a respeito dessa função já são encontrados tanto no TikTok quanto na versão chinesa do app, o Douyin.
O funcionamento seria bem simples: o usuário tem o seu rosto escaneado e "inserido" de forma artificial em outros vídeos, no lugar da face de outra pessoa. Isso pode resultar em montagens, paródias e brincadeiras — além de oferecer vários perigos em termos de falsificação de conteúdos, como materiais pornográficos.
Sabendo dos perigos, a desenvolvedora ainda teria garantido alguns mecanismos de segurança para evitar esse tipo de problema. Os escaneamentos seriam feitos em múltiplos ângulos para evitar falsificação de identidades alheias e apenas uma quantidade limitada de vídeos estaria disponível para edição, além de terem uma marca d'água bastante visível para indicar que a fonte é um deepfake originado do TikTok.
A função foi descoberta por uma startup israelense, que também detectou alterações nos termos de serviço dos aplicativos. Ela ainda não foi liberada ao público e a ByteDance negou a chegada do recurso ao TikTok, o que indica que talvez ele chegue primeiro à versão chinesa do app.
Fontes
Categorias
