Como (e por que) sua empresa deve se planejar para a tecnologia deepfake – 2a. parte: o que é deepfake

10/07/2019

Resultado de imagem para deepfakeComo prometido em artigo anterior, segue a introdução a esse “admirável (e aterrador) mundo novo”:

A palavra deepfake, uma palavra-valise (termo de linguística que se refere a uma palavra ou morfema resultante da fusão de duas palavras, geralmente uma perdendo a parte final e a outra perdendo a parte inicial) que surgiu da fusão de deep learning, aprendizado profundo, e fake, falso, leva a noção de photoshopping a outro nível ao usar uma técnica de IA conhecida como redes adversárias generativas. Essas técnicas opõem algoritmos que geram falsificações a algoritmos que detectam se o resultado é falso ou real. Ao longo de várias rodadas dessa interação adversária, os algoritmos geradores podem produzir resultados que começam a enganar as pessoas.

Especialistas apontam para uma série de razões para a crescente preocupação com deepfakes. Ferramentas de composição de vídeo de alta qualidade estão agora mais facilmente disponíveis. Somos também uma sociedade treinada para obter nossas informações de forma fragmentada — mas não há treino para reconhecer deepfakes.

Quando lemos textos ou olhamos para uma foto, “é possível entender que o contexto pode estar faltando”, disse Bill Bronske, arquiteto sênior de soluções da Globant, uma consultoria de transformação digital. As pessoas entendem que o texto pode ser mal interpretado e as fotos podem ter sido photoshopadas. “No entanto, não percebemos imediatamente que o vídeo ou áudio também pode ser facilmente sintetizado”, disse ele.

Matt Price, engenheiro de pesquisa da ZeroFox, uma empresa de segurança para mídias sociais, disse que o realismo crescente dos deepfakes produzidos hoje é alarmante. Antes do Face Swap —  o primeiro aplicativo simples para criação de deepfakes lançado em dezembro de 2017 — os criadores de deepfakes precisavam ter um conhecimento muito grande de computer vision, computadores muito poderosos e um conjunto de dados cuidadosamente elaborado para criar algo convincente. Agora, qualquer pessoa com acesso a um computador suficientemente poderoso e com capacidade técnica de moderada a baixa pode configurar uma das ferramentas deepfake para criar um vídeo falso, disse Price.

O tempo nos ensinará a melhorar no reconhecimento dos deepfakes. “Assim como quando o Photoshop veio ao mundo e todos acabaram descobrindo que não se pode acreditar no que se vê, o mundo se adaptará e será mais cuidadoso ao assistir ao conteúdo e à sua origem”, disse Jonathan Heimann, co-fundador da Canny AI, que faz ferramentas deepfake para substituição de diálogo de vídeo e sincronia labial (lip-sync) para conteúdo dublado em qualquer idioma.

Mas não se engane: separar o que é deepfake do que é real exigirá muitos cuidados, acrescentou. “Assim como na segurança de TI, eu espero uma luta constante daqueles que tentam fingir contra aqueles que tentam detectar.”

Mesmo quando lutamos para separar os fatos do falso, o dano em certo sentido já foi feito, disse o professor Robert Foehl, de direito empresarial e ética na Universidade de Ohio. Nós, em essência, perdemos uma janela para o mundo.

“O maior perigo dos deepfakes é que, como eles se tornam indistinguíveis de vídeos ou imagens reais, a sociedade não poderá confiar na autenticidade do vídeo e das imagens que vê. Não seremos capazes de determinar a verdade através do uso de vídeos ou imagens. o que é um desvio radical de como temos visto vídeos e imagens desde a sua criação “, disse Foehl.

No próximo artigo, traremos aplicações positivas da tecnologia.

Deixe um comentário

Preencha os seus dados abaixo ou clique em um ícone para log in:

Logotipo do WordPress.com

Você está comentando utilizando sua conta WordPress.com. Sair /  Alterar )

Foto do Google

Você está comentando utilizando sua conta Google. Sair /  Alterar )

Imagem do Twitter

Você está comentando utilizando sua conta Twitter. Sair /  Alterar )

Foto do Facebook

Você está comentando utilizando sua conta Facebook. Sair /  Alterar )

Conectando a %s

%d blogueiros gostam disto: