É possível errar com dados objetivos e precisos. Deixadas só por conta dos mecanismos de atribuição de verdade por estatística, que são a essência dos algoritmos de inteligência artificial (IA), as aplicações podem carregar distorções e anacronismos que vão de encontro aos objetivos dos stakeholders (clientes, funcionários e investidores). “É preciso questionar a cultura, entender os dados e colocar a IA nos contextos. Se isso não for bem trabalhado, vamos reforçar características negativas”, diz Ione Coco, presidente da MCIO, uma associação de mais de 350 líderes de TI, que tem como um de seus objetivos garantir a diversidade.
Os impactos da IA nas políticas de inclusão e diversidade foram foco do painel IA e equidade: o papel das mulheres na transformação digital, que reuniu lideranças de TI no Futurecom 2024.
“É importante considerar a diversidade desde o início do desenvolvimento com IA”, defende Christiane Edington, da Edington Consultoria. “Nos folders que recebemos neste evento, as lideranças quase sempre são representadas por figuras masculinas”, notou Joyce Seiler, líder de IA e gestão de dados no Hospital Sírio-Libanês.
A especialista recomenda que, na prática, o primeiro ponto de atenção seja a coleta dos dados. “É importante que o modelo só veja os dados realmente relevantes”, enfatiza. “Em IA, há muitos algoritmos prontos. É preciso ser crítico e ter bom senso para entender o contexto e os resultados gerados”, acrescenta.
“É importante mapear qual ferramenta de IA é utilizada, como se usa, se (e como) contribui para um ambiente de trabalho inclusivo”, enumera Lyzbeth Cronembold, CEO da Changers.
A executiva do Sírio-Libanês traz mais uma recomendação: “cuidado para não criar vieses tentando evitar viés. Por exemplo, vi o caso de um gerador de imagens treinado para representar vários gêneros e raças. Alguém pediu uma ilustração de um combate na Segunda Guerra e foram incluídos negros e mulheres no exército inimigo”, cita.
Busca ativa
Christiane Edington, da Edington Consultoria, celebra um relativo aumento da presença feminina na alta direção das companhias. Em contrapartida, nos níveis intermediários e gerenciais isso não ocorre. “Superar o primeiro degrau é muito difícil”, constata.
Ione Coco adianta que a MCIO deve intensificar processos de busca ativa, inclusive para atender às necessidades de inclusão e diversidade. “Não vamos esperar que as mulheres manifestem interesse de aprender mais sobre TI e IA. Vamos tentar convencê-las”, explica. A executiva também enfatiza a necessidade de conscientizar todas as lideranças. “Nenhum gestor de RH pode admitir um processo de recrutamento que exclua currículos de mulheres”, resume.
