Como a Reuters está treinando seus repórteres para identificar “deep fakes”

14/04/2019

Resultado de imagem para deepfakeDeepfake é uma tecnologia que usa inteligência artificial para criar vídeos falsos, mas realistas, de pessoas fazendo coisas que elas nunca fizeram na vida real. No último mês de dezembro, usuários do Reddit deram início a uma bizarra, mas sofisticada “moda”: colocar rostos de celebridades no corpo de atrizes em cenas de filmes pornográficos. A “brincadeira” ganhou tanta força que serviços como o próprio Reddit, o Twitter e até o Pornhub, maior website de conteúdo pornográfico do mundo, anunciaram o banimento desse tipo de conteúdo.

A ferramenta de edição foi criada por um usuário do Reddit e troca o rosto de pessoas em vídeos, com direito a sincronização de movimentos labiais, expressões e tudo o mais, em alguns casos com resultados impressionantes.

E preocupantes! Já imaginou você descobrir que há um vídeo com seu rosto, falando as maiores barbaridades?

Mais preocupante ainda no caso de você ser uma agência de notícias – e descobrir que divulgou um vídeo falso de uma celebridade ou autoridade.

Como, além de alguns exemplos bem conhecidos de Donald Trump, Barack Obama e Angela Merkel, é difícil encontrar exemplos cotidianos para estudar os formatos falsos, a Reuters contratou um,a produtora especializada em deepfake e criou o seu próprio vídeo manipulado, em que um apresentador lia um roteiro em um estúdio, e o compartilhou com os 12 produtores da equipe de conteúdo gerado por usuários, perguntando se eles notaram algo estranho sobre ele.

Quem sabia que o vídeo havia sido manipulado notou incompatibilidades entre áudio e sincronização de lábios, bem como inconsistências onde o locutor parecia estar pronunciando os “s” e os “z” de forma sibilada, mas não soava assim. O locutor também sentava-se estranhamente imóvel. Quem não sabia que o vídeo havia sido alterado tinha a sensação de que algo estava errado no áudio, mas não conseguiam definir o que.

A produtora especializada com quem a Reuters trabalhou estima que existem cerca de 10.000 vídeos “deepfakes” em circulação na web, mas a maioria deles roda em sites de entretenimento para adultos.
De acordo com os dados do Google Trends, as pessoas começaram a pesquisar o termo deepfake em dezembro de 2017, e o interesse em termos de pesquisa chegou ao máximo em fevereiro de 2018.

Embora alguns relatórios digam que a escala da ameaça é exagerada, nos últimos dois anos, a Reuters dobrou o número de pessoas que trabalham na verificação de conteúdo em vídeo de seis para 12. De acordo com Hazel Baker, diretora da equipe de conteúdo gerado por usuários da agência, eles verificam cerca de 80 vídeos por semana. Quanto tempo leva para verificar a veracidade do conteúdo do vídeo varia, mas a equipe só gasta tempo com o que acredita ser verdade.

Todo o conteúdo publicado pela Reuters é verificado por seres humanos, mas usa suporte tecnológico, como referência cruzada no Google Maps e busca reversa de imagens. Por exemplo, enquanto procurava por vídeos de testemunhas oculares após o tiroteio em massa em Christchurch, Nova Zelândia, apareceu um vídeo que mostrava o momento em que um suspeito foi morto a tiros pela polícia. Executados os keyframes por meio de pesquisa reversa, descobriu-se rapidamente que era de um incidente totalmente diferente na Flórida no ano passado. O suspeito no tiroteio em Christchurch não foi morto. “Não basta desmascarar, também é necessário autenticar”, disse Baker.

“Para um evento de notícias de última hora, muitas vezes a primeira câmera em cena não é profissional”, disse Baker. “Mas não podemos ignorar este material; pois é importante para os clientes.”

Fontes: Digiday, Tecnoblog

Deixe um comentário

Preencha os seus dados abaixo ou clique em um ícone para log in:

Logotipo do WordPress.com

Você está comentando utilizando sua conta WordPress.com. Sair /  Alterar )

Foto do Google

Você está comentando utilizando sua conta Google. Sair /  Alterar )

Imagem do Twitter

Você está comentando utilizando sua conta Twitter. Sair /  Alterar )

Foto do Facebook

Você está comentando utilizando sua conta Facebook. Sair /  Alterar )

Conectando a %s

%d blogueiros gostam disto: