HackTalks | Blog de Ideias e Conexões de Impacto | por HackTown
HackTalks 2020

“Os dados que a maioria das pessoas usa para treinar seus modelos de Inteligência Artificial já vem com um viés embutido”

Carlos Henrique Vilela
Carlos Henrique Vilela 5min de leitura

Conversamos com John Tubert, Head de Tecnologia da R/GA NY, sobre a evolução da Inteligência Artificial, a existência de vieses que chegam a ser assustadores, e de como evitá-los. Confira. 

Conte-nos um pouco sobre você e sobre a sua carreira.

Sou nascido na Argentina, mas moro nos EUA há 30 anos. Atualmente, vivo em Nova York com minha esposa e minhas duas filhas.

Nos últimos 20 anos, venho trabalhando na área de tecnologia, na criação e gestão de sites, de aplicativos, de experiências em mídias sociais e outros tipos de customer experiences.

No momento, lidero o time de tecnologia da R/GA NY. Antes disso, liderei a equipe de tecnologia do escritório da R/GA em São Francisco durante 5 anos. Em 2010, também ajudei a criar o escritório de R/GA de Buenos Aires.

Como a Inteligência Artificial (AI) está presente no seu trabalho?

Pessoalmente, me interesso por Inteligência Artificial já há muito tempo, e no trabalho não é diferente. Utilizamos AI para projetos internos e para o trabalho com clientes. Além disso, no início do ano, tivemos nossa primeira cúpula global de AI, para tornar todos na empresa mais inteligentes sobre IA e ML (Machine Learning).

Como tem sido a evolução da Inteligência Artificial (AI), ao seu ver? E qual a aplicação de AI  mais impressionante que você viu ultimamente?

A Inteligência Artificial está se tornando cada vez mais sofisticada, com sistemas computacionais cada vez mais baratos, mais poderosos e com armazenamento em nuvem. Além disso, mais e mais empresas tem agilizado e facilitado a construção de modelos (Google AutoML, por exemplo), e cada vez mais se tem construído aplicativos equipados com AI.

Sobre aplicações de AI, tem tanta coisa impressionante que fica difícil pensar em apenas uma. Pessoalmente, amo aquelas que tornam as coisas mais rápidas e fáceis, como a funcionalidade de preenchimento automático do Gmail. Também existem usos incríveis da AI para ajudar na detecção de fraudes que empresas, como a que a Amex tem usado, e que podem ajudar a economizar milhões de dólares. Ou até aplicações ainda mais relevantes como a Inteligência Artificial utilizada para salvar vidas, como no diagnóstico de sinais de câncer de pulmão em raios-x.

Por que muitos tipos de Inteligência Artificial (AI) têm vieses (AI Bias)? Como você vê essa questão?

A resposta é simples: os dados que a maioria das pessoas usa para treinar seus modelos de Inteligência Artificial já vem com um viés embutido. Até grandes empresas de tecnologia usam dados tendenciosos para treinar seus modelos.

Além disso, muitas empresas não colocam os “testes de viés” como parte de seu ciclo de desenvolvimento, ou então usam dados históricos que já possuem um viés de origem. 

Por exemplo, imagine que eu construa um sistema de AI para encontrar os melhores professores para uma faculdade, mas utilize para isso os dados históricos dos últimos 100 anos. Se a maioria dos professores que tivemos nos últimos 100 anos tiverem sido do sexo masculino, o algoritmo de AI poderia apenas qualificar os candidatos homens do sexo masculino como “bons”.

Quais são alguns exemplos assustadores de vieses de Inteligência Artificial (AI Bias) presentes em determinados algoritmos?

Há muitos exemplos em diferentes setores. Alguns que me impactam são os seguintes, sobre os quais falei no SXSW no ano passado:

  • Câmeras alimentadas por Inteligência Artificial não conseguem detectar peles mais escuras. Em alguns casos, dá a informação errada e, em outros, falha em detectar completamente. Dessa forma, coisas pequenas, como um dispensador de sabonete líquido automático, podem não funcionar nesses casos. E coisas mais importantes, como carros autônomos, podem não identificar uma pessoa com pele mais escura.
  • Uma empresa chamada Compas criou uma ferramenta de AI que ajuda a determinar se um criminoso condenado tem probabilidade de cometer outro crime. O algoritmo provou ser tendencioso contra afro-descendentes.
  • A Amazon criou uma ferramenta de AI para classificar candidatos a vagas de trabalho, e logo percebeu que estava discriminando as mulheres.

Ao seu ver, como os vieses de AI (AI Bias) podem impactar nossas vidas?

Como mencionei antes, os impactos são enormes. Se os carros autônomos não conseguem ver as pessoas com a pele mais escura, como vamos colocá-las na rua? Os governos podem utilizar ferramentas de AI para ajudar a encontrar criminosos se essas ferramentas apresentam vieses?

Que medidas podem ser tomadas para reduzir e até mesmo eliminar o viés? 

Para reduzir o AI Bias, as empresas devem contratar equipes mais diversas. Assim, serão capazes de encontrar o viés no início do processo, poderão inserir dados mais diversos, ou até mesmo utilizar conjuntos de dados existentes que contenham mais diversidade. Também podem tornar públicos os dados que utiliza, para que coletivamente possamos encontrar os vieses.

A boa notícia é que empresas como IBM, Google e Amazon já estão tomando medidas para ajudar a resolver esses problemas.

O Google, por exemplo, lançou recentemente várias ferramentas para ajudar nisso. Você pode ver mais informações neste link.

Já a IBM vem trabalhando no The Fairness 360 Kit nos últimos dois anos. E a Amazon também está desenvolvendo ferramentas do tipo.

Pra finalizar, como a R/GA lida com os vieses de AI (AI Bias)? Que exemplos você poderia compartilhar?

Utilizamos muitas das ferramentas que compartilhei anteriormente e também estudamos e compartilhamos constantemente as melhores práticas com o restante da equipe. Também temos algumas parcerias com startups que atuam neste sentido.

Sobre os exemplos, infelizmente não posso compartilhar nenhum trabalho que estamos trabalhando no momento, pois ainda são confidenciais. Mas tenho certeza de que nos próximos meses terei alguns prontos para serem divididos, usando as ferramentas e práticas que compartilhei na entrevista.

Carlos Henrique Vilela

Cofundador, Head de Curadoria do HackTown / Head de Marketing e Inovação na Leucotron / Head de conteúdo do HackTalks

Mais Posts

Deixe uma resposta

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

Orgulhosamente Desenvolvido por Trackdev