Máquinas podem ter preconceitos? Infelizmente, sim

11/12/2016

Ao ouvir falar em inteligência artificial, você provavelmente pensa em ambientes imaculados e máquinas sem emoção – portanto, sem preconceitos. Bem, é melhor pensar de novo.

Para começar, as máquinas e softwares inteligentes estão começando a aparecer por toda parte, ou seja, não apenas em laboratórios e outros lugares totalmente higienizados. Eles estão nos escritórios, nas fábricas, até nos esgotos – nada menos imaculado do que isso, certo?

A segunda parte da premissa também não é verdadeira. Ou, pelo menos, parcialmente falsa. Realmente, as máquinas não têm emoções como as entendemos. Já, quando se trata de preconceitos…

O fato é que algumas dessas coisas inteligentes estão se mostrando bem preconceituosas. E a fonte desses “sentimentos” é bastante variada. Kristian Hammond, chief scientist da Narrative Science e professor da Northwestern University, em artigo para o site TechCrunch , cita o que chama de “fontes inesperadas de preconceitos em inteligência artificial”.

Vamos falar sobre duas delas.

Preconceitos podem ser gerados pelos dados que chegam às máquinas. Há uma série de exemplos disso acontecendo, desde anedóticos, como a dificuldade das câmeras Nikon (irônico, não?) em reconhecer detalhes de rostos asiáticos até questões bem sérias como análise de predisposição ao crime).

Podem ser gerados também por interações. Foi o que aconteceu com o chatbot Tay, da Microsoft , programado para aprender através das interações com seus usuários. Uma dessas comunidades conseguiur fazer Tay aprender a ser racista e misógino.

Resumindo o recado do Kris, “em um mundo ideal, sistemas inteligentes e seus algoritmos seriam objetivos. Infelizmente, esses sistemas são construídos por nós e, como resultado, terminam refletindo nossos preconceitos. Entender esses preconceitos e a fonte dos problemas, podemos ativamente desenhar sistemas para evita-los.”

Fontes: TechCrunch, The Verge, Gizmodo, ProPublica

Anúncios

Deixe um comentário

Preencha os seus dados abaixo ou clique em um ícone para log in:

Logotipo do WordPress.com

Você está comentando utilizando sua conta WordPress.com. Sair / Alterar )

Imagem do Twitter

Você está comentando utilizando sua conta Twitter. Sair / Alterar )

Foto do Facebook

Você está comentando utilizando sua conta Facebook. Sair / Alterar )

Foto do Google+

Você está comentando utilizando sua conta Google+. Sair / Alterar )

Conectando a %s

%d blogueiros gostam disto: