A semana que passou: chatbot da Microsoft passa de inteligente a manipulado em horas

27/03/2016

Lembra alguém que você conhece?

Na quarta, 23/3, a a Microsoft liberou no Twitter um novo bot inteligência artificial (IA) chamado Tay. Ela (sim, era um avatar feminino) foi criada para conversar com as pessoas de forma divertida, descontraída e natural. Mas, em menos de 24 horas, os usuários da rede social a corromperam. E ela passou de uma inocente robozinha para uma racista, transfóbica e desagradável roborrível.

O que aconteceu? Nada muito diferente do que ocorreu com aquele seu colega que mergulhou em alguns perfis da Internet não muito chegados, digamos assim, a esse papo de compaixão.

Ocorre que, como seu colega, Tay foi programada para aprender e evoluir seus métodos de conversação conforme interagia com as pessoas, utilizando uma base de dados filtrada e anônima sobre coisas publicadas na web por pessoas reais. Com isso, ela aprendia a escrever como os usuários do Twitter escrevem e também a ser um pouco “ácida”.

Como a programação tornava possível dizer para ela “repita o que eu digo: blá blá blá”, e ela responder a sua mensagem com o conteúdo que você quisesse, não demorou muito para que ela passasse a tuitar frases de apoio a Hitler e de ódio a judeus, transexuais, feministas, etc.

Ou seja, em pouco mais de 20 horas, ela passou a ser mais um verbete na enciclopédia de tentativas frustradas de inteligência artificial. Foi o tempo da Microsoft perceber o erro cometido e desligá-la.

Na sexta, 25/3, Peter Lee, Corporate VP da Microsoft Research, publicou um post no blog da empresa com o seguinte teor: “Sentimos imensamente pelos ofensivos e prejudiciais, embora não intencionais, tweets da Tay. Ela agora está off-line e pretendemos trazer Tay de volta apenas quando estivermos seguros de que poderemos antecipar intenções maliciosas que conflitem com nossos princípios e valores. Embora tivéssemos nos preparado para muitos tipos de abusos do sistema, não havíamos previsto esse específico ataque. Como resultado, Tay enviou pelo Twitter uma grande quantidade de palavras e imagens não apropriadas e repreensíveis. Assumimos total responsabilidade pelo fato de não prever essa possibilidade.”

Não seria ótimo suspender também seu colega alucinado.

Fontes: Tecmundo, TechCrunch, Adrenaline

Uma resposta to “A semana que passou: chatbot da Microsoft passa de inteligente a manipulado em horas”

  1. […] Fonte: A semana que passou: chatbot da Microsoft passa de inteligente a manipulado em horas […]

Deixe uma resposta

Preencha os seus dados abaixo ou clique em um ícone para log in:

Logotipo do WordPress.com

Você está comentando utilizando sua conta WordPress.com. Sair / Alterar )

Imagem do Twitter

Você está comentando utilizando sua conta Twitter. Sair / Alterar )

Foto do Facebook

Você está comentando utilizando sua conta Facebook. Sair / Alterar )

Foto do Google+

Você está comentando utilizando sua conta Google+. Sair / Alterar )

Conectando a %s

%d blogueiros gostam disto: