Discriminação Algorítmica: você está atento a isso?

Por Haroldo Luis Nascimento Pereira, 24 de Janeiro de 2019

Compartilhe o conteúdo!

Estamos prestes a vivenciar uma grande revolução provocada pelos avanços tecnológicos, sobretudo por aqueles relacionados a Big Data, Inteligência Artificial e Machine Learning, que influenciarão a forma como aprendemos, nos relacionamos, interagimos em sociedade e consumimos. Mas isso requer cuidado e atenção.


É inegável que essa revolução afetará todos os mercados. Já estamos presenciando impactos importantes na agricultura, na educação, no mercado financeiro, na segurança pública. Não há segmento que fique de fora, e as startups estão puxando essas inovações e agitando mercados já consolidados. Em meio a esse emaranhado de redes neurais capazes de estabelecer padrões baseados em dados históricos e, a partir deles, aprender sobre determinados comportamentos apontando tendências, é possível haver distorções de análise. Essas distorções podem ser provocadas por comportamentos culturais, características físicas e anos de preconceitos sociais que subjugam diversos grupos.

O nome que se tem dado a isso é Discriminação Algorítmica (algorithm bias). O assunto tem sido explorado por alguns pesquisadores, como Joy Buolamwini, fundadora da Algorithmic Justice League 1, que busca conscientizar sobre o problema e combatê-lo. Em um TEDx de 2016 que já teve mais de 1 milhão de visualizações, ela cita como exemplo modelos de reconhecimento facial que não identificavam faces negras. Mas o problema está longe de ser apenas esse. O algoritmo do sistema de justiça americano (Correctional Offender Management Profiling for Alternative Sanctions - COMPAS) usado para prever reincidência criminal, por exemplo, tende a indicar, de maneira errada, que a probabilidade de reincidência entre negros é até duas vezes maior do que entre brancos, conforme divulgado no estudo do Dartmouth College 2.Essas situações decorrem de um problema estrutural da sociedade e demonstram como novas tecnologias podem atuar reforçando preconceitos.

Em Inovação, sabemos da importância de grupos heterogêneos e multidisciplinares para alcançar soluções que busquem a inclusão; em IA isso é particularmente preocupante, dado o potencial de avanço e disseminação. Mais do que estar atentos à forma como os dados são utilizados, precisamos analisar a maneira como os modelos e algoritmos são construídos e calibrados. Só assim seremos capazes de fazer com que aprendam com nossos acertos, sem os vícios e preconceitos que tanto ferem nossa sociedade e dos quais ainda tentamos nos livrar.

Fonte: ajlunited / ScienceMag

Haroldo Luis Nascimento Pereira

Haroldo Luis Nascimento Pereira

Gerente no Banco Bradesco

Especialista em Estratégia e Política Internacional pela Escola de Sociologia de São Paulo e possui MBA em Negócios de Varejo, com foco em Estratégia e Gestão pela FIA/USP. Haroldo certificou-se como Gestor da Inovação pelo programa IBELT - Yellow e hoje faz parte do Núcleo de Inovadores!

conteÚdos relacionados

Além das metas de eficiência energética e rotulagem veicular, estão previstas também no Rota 2030 diversas metas e compromissos

Saiba mais
O Rota 2030 pode ajudar na segurança veicular

Quando se trata de tendências, nós da Pieracciani acreditamos ser de extrema importância que todos tenham ciência do foco que as

Saiba mais
Quais são as startups que mudarão o mundo em 2019?

As fábricas de automóveis e caminhões, bem como as de seus componentes, vêm sendo continuamente otimizadas, quando não

Saiba mais
O Rota 2030 e a Engenharia do Processo Produtivo

O Ministério da Economia publicou em 12 de março a Portaria nº 86, que regulamenta os procedimentos para credenciamento de

Saiba mais
Governo publica portaria que regulamento conselho gestor e aportes financeiros do regime de autopeças