Como Fei-Fei Li quer garantir que Inteligência Artificial seja melhor para a humanidade

20/01/2019

O artigo original foi publicado na edição de dezembro da revista Wired. Selecionei alguns trechos interessantes. O artigo completo, em inglês, pode ser lido aqui.

Por volta de uma da manhã de uma noite quente em junho passado, Fei-Fei Li estava sentada de pijama em um quarto de hotel em Washington, DC, ensaiando um discurso que faria em poucas horas perante o Comitê de Ciência, Espaço e Tecnologia da Câmara dos Deputados, no Congresso dos EUA. Antes de ir para a cama, Li eliminou um parágrafo completo de suas anotações para ter certeza de que poderia enfatizar os pontos mais importantes no curto espaço de tempo reservado.

Fei-Fei Li cresceu em Chengdu, uma cidade industrial no sul da China e veio para os EUA quando tinha 16 anos. Ela formou-se em física e estudou ciência da computação e engenharia. Em 2000, ela começou seu doutorado na Caltech em Pasadena, trabalhando no cruzamento da neurociência e ciência da computação.

No dia seguinte, ao chegar ao Congresso, Li parou tirar com seu celular uma foto das gigantescas portas de madeira. (“Como cientista, sinto-me especial com relação ao comitê”, ela disse.) A audiência naquela manhã, que teve como título “Inteligência Artificial – Grande poder Traz Grande Responsabilidade”, incluiu Timothy Persons, cientista-chefe do Government Accountability Office, e Greg Brockman, cofundador e diretor de tecnologia da organização sem fins lucrativos OpenAI. Mas apenas Li, a única mulher na mesa, pode reivindicar uma realização inédita no campo da IA. Como pesquisadora que construiu o ImageNet, um banco de dados que ajuda os computadores a reconhecer imagens, ela é parte de um minúsculo grupo de cientistas – um grupo talvez pequeno o suficiente para caber em uma mesa de cozinha – responsáveis ​​por avanços notáveis ​​recentes da IA.

Naquele mês de junho, Li trabalhava como cientista chefe de inteligência artificial no Google Cloud e estava afastada de seu cargo como diretora do Laboratório de Inteligência Artificial de Stanford. Mas ela estava frente ao comitê porque também era cofundadora de uma organização sem fins lucrativos focada em recrutar mulheres e pessoas de cor para se tornarem desenvolvedores de inteligência artificial.

Não foi surpresa que os legisladores tenham procurado sua expertise naquele dia. O que foi surpreendente foi o conteúdo de sua palestra: os graves perigos trazidos pelo campo que ela tanto ama.

O tempo entre uma invenção e seus impactos pode ser extremamente curto. Com a ajuda de ferramentas de inteligência artificial como o ImageNet, um computador pode ser ensinado a aprender uma tarefa específica e, em seguida, agir muito mais rápido do que uma pessoa jamais poderia. À medida que essa tecnologia se torna mais sofisticada, ela está sendo utilizada para filtrar, classificar e analisar dados e tomar decisões de consequências sociais e globais. Embora essas ferramentas existam, de uma forma ou de outra, há mais de 60 anos, na década passada, começamos a usá-las para tarefas que mudam a trajetória das vidas humanas: Hoje, a inteligência artificial ajuda a determinar quais tratamentos são usados ​​em pessoas com doenças, que se qualifica para seguro de vida, quanto tempo de prisão uma pessoa serve, quais candidatos a emprego recebem entrevistas.

Esses poderes, claro, podem ser perigosos. A Amazon teve que abandonar o software de recrutamento de AI que aprendeu a penalizar currículos que incluíam a palavra “mulheres”. E quem pode esquecer o fiasco do Google de 2015, quando seu software de identificação de foto rotulou negros como gorilas, ou o chatbot da Microsoft que começou a tuitar insultos raciais. Mas esses são problemas que podem ser explicados e, portanto, revertidos. No futuro próximo, acredita Li, chegaremos a um momento em que será impossível corrigir o curso. Isso porque a tecnologia está sendo adotada de maneira rápida e ampla.

Li estava testemunhando naquela manhã porque ela está convencida de que seu campo precisa de uma recalibração. Líderes técnicos proeminentes, poderosos e principalmente do sexo masculino têm alertado sobre um futuro no qual a tecnologia baseada em inteligência artificial se torna uma ameaça existencial para os humanos. Mas Li acha que esses medos recebem muito peso e atenção. Ela está focada em uma questão menos melodramática, mas que pode ter mais consequências: como a IA afetará a maneira como as pessoas trabalham e vivem. A tecnologia está fadada a alterar a experiência humana – e não necessariamente para melhor. “Temos tempo”, diz Li, “mas temos que agir agora”. Se fizermos mudanças fundamentais em como a IA é projetada – e quem a projeta – a tecnologia, argumenta Li, será uma força transformadora para o bem. Se não, estaremos deixando muita coisa da humanidade fora da equação.

Na audiência, Li foi a última a falar. “Não há nada artificial sobre AI”, começou assim sua fala. “É inspirado por pessoas, é criado por pessoas e, o mais importante, impacta as pessoas. É uma ferramenta poderosa que estamos apenas começando a entender, e essa é uma responsabilidade profunda”.

O final de sua palestra foi emblemática: “Como cientista, sinto-me humilde ao perceber como é nascente a ciência da IA. É a ciência de apenas 60 anos. Em comparação com as ciências clássicas que tornam a vida humana melhor a cada dia –  física, química, biologia – há um longo caminho a percorrer para que a IA perceba seu potencial para ajudar as pessoas.” E acrescentou: “Com diretrizes adequadas, a Inteligência Artificial tornará a vida melhor. Mas sem elas, pode ampliar ainda mais a divisão da riqueza, tornar a tecnologia ainda mais exclusiva e reforçar os preconceitos que passamos gerações tentando superar.”

Deixe um comentário

Preencha os seus dados abaixo ou clique em um ícone para log in:

Logotipo do WordPress.com

Você está comentando utilizando sua conta WordPress.com. Sair /  Alterar )

Foto do Google

Você está comentando utilizando sua conta Google. Sair /  Alterar )

Imagem do Twitter

Você está comentando utilizando sua conta Twitter. Sair /  Alterar )

Foto do Facebook

Você está comentando utilizando sua conta Facebook. Sair /  Alterar )

Conectando a %s

%d blogueiros gostam disto: