Cientistas desenvolveram um código para diagnosticar como um algoritmo enviesado toma uma decisão.
Tecnologias como Inteligência Artificial e Machine Learning se apoiam em algoritmos para aprimorar processos e prover uma melhor tomada de decisão. No entanto, quando eles são programados de forma enviesada, as chances de um efeito colateral surgir são grandes.
Embora toda a comunidade de inovação se esforce para garantir que os insights extraídos dessas tecnologias sejam justos, uma pergunta continua sem muita resposta: é possível eliminar os vieses de um algoritmo?
Para os pesquisadores Thibaut Vidal e Toni Pacheco, do Departamento de Informática do Centro Técnico Científico da PUC-Rio (CTC/Puc-Rio), a transparência pode ser um caminho para entender como um algoritmo escolhe o que é certo ou errado, positivo ou negativo.
A dupla, em parceria com Maximilian Schiffer, da TUM School of Management, Technical University of Munich, conduziram o estudo “Born-again Tree Ensembles” para visualizar quais são os processos de decisões de um algoritmo, como mostra essa matéria do site da Computerworld Brasil,
Em entrevista à publicação, Vidal afirmou que a pesquisa buscou diagnosticar os métodos existentes de um algoritmo para melhorar a sua interpretação. O estudo até chegou a ser apresentado na International Conference on Machine Learning em julho deste ano.
Abaixo, o Mundo + Tech resume alguns pontos da pesquisa.
Vieses de algoritmos baseados no fator humano
Machine Learning e Inteligência Artificial são duas tecnologias que tomam decisões baseadas em dados. São milhares deles para processar, interpretar e aprender. Apesar disso, os algoritmos responsáveis por essas tarefas são programados por pessoas.
Porém, essas pessoas que desenvolveram os algoritmos eram, até então, majoritariamente homens brancos e de classe média. Ou seja, essa falta de diversidade vai se refletir também na maneira como essas tecnologias vão decidir.
LEIA TAMBÉM: Por que é preciso debater também os problemas da Inteligência Artificial?
Aqui vale destacar que, às vezes, o viés é um reflexo de valores preconceituosos e colocados em um algoritmo de forma inconsciente. No entanto, identificar e tentar mitigar esses vícios é uma tarefa bastante complicada, aponta Vidal.
O que o time de pesquisadores quer, com a pesquisa, é aprimorar as técnicas de diagnóstico de vieses de algoritmos “simplificando um conjunto de árvores de decisões* e ajudar o trabalho de análise”, contou ao site.
*Nota da redação:
Um algoritmo de construção de árvore de decisões seria uma espécie de fluxograma em que a estrutura de dados possui regras e toda informação armazenada nela é chamada de nó. O nó raiz é o ponto de partida da decisão, que é tomada no nó folha.
Esse conjunto de árvores de decisões serve para automatizar tarefas de previsão e classificação, geralmente vistas em recomendação de um produto, análise de concessão de crédito, diagnóstico médico, entre outros.
O problema é que muitas vezes, os algoritmos são baseados em Random Forest (múltiplas árvores de decisões). Apesar de eles terem melhor desempenho, isso aumenta a complexidade e a interpretabilidade de um algoritmo.
E o que o estudo propõe é conseguir encontrar um meio termo: “uma árvore de decisão interpretável e de alto desempenho.”
Como os pesquisadores esperam com isso
A partir de um trabalho multidisciplinar. Vidal afirma que a pesquisa não é sobre um novo método de Machine Learning, mas diagnosticar vieses nos métodos já existentes.
“Só poderemos ajudar a evitar vieses na tomada de decisão se a gente entender os próprios mecanismos que desenvolverem esses dados no passado para não reproduzir os mesmos no futuro”, disse o professor.
No estudo, ele apresentou um algoritmo de classificação simples, em que ele foi transformado de Random Forest para uma única árvore de decisão, mas com as mesmas funções de decisão que um conjunto de árvores.
Porém, Vidal acredita que um cenário “algoritmos de Machine Learning de forma que eles sejam mais igualitários para os indivíduos” vai exigir a participação de especialistas de outros campos de estudos na construção deles.
Essa colaboração, destaca, envolve profissionais da sociologia, antropologia, história e computação. De acordo com o professor, esse trabalho multidisciplinar vai deixar os algoritmos mais “interpretáveis e mais diagnosticáveis pelos humanos.”
Para o futuro, os pesquisadores esperam avançar nas técnicas de diagnóstico, permitindo propor novos algoritmos para lidar com um conjunto de dados de forma eficaz e sem perda de produtividade.
Enquanto essa meta não é atingida, o time também trabalha para disponibilizar uma versão do código do estudo. A ideia é que companhias e outros pesquisadores façam uso da ferramenta.
Principais destaques desta matéria
- Vieses de algoritmos ainda são problemas para empresas e comunidade acadêmica.
- Já que decisão baseada em IA ou Machine Learning pode não ser justa.
- Pesquisadores buscam diagnosticar algoritmos para identificar como ele toma uma decisão.
