Os algoritmos são a base dos sistemas de inteligência artificial, mas, muitas vezes, eles podem conter algum tipo de viés, como raça ou gênero, o que pode fomentar discriminação. Para evitar isso, o Conselho da Cidade de Nova York deu um primeiro passo no final de 2021, instituindo uma lei que exige auditorias de algoritmos usados pelos empregadores em situações de contratação ou promoção de colaboradores.
A lei, primeira do tipo no país, estabelece que empregadores devem contratar profissionais para avaliar se o algoritmo apresenta viés com base em sexo, raça ou etnia. Além disso, também passa a ser obrigatório informar o uso de inteligência artificial nos processos seletivos aos candidatos a emprego que moram em Nova York.
Porém, Julia Stoyanovich, professora associada da Universidade de Nova York, que participou das discussões para criar os Sistemas de Decisão Automatizada, considera que a exigência de auditoria é falha porque se aplica apenas à discriminação com base em gênero ou raça. “Algumas dessas ferramentas são realmente sem sentido”, disse ela. “As pessoas precisam ter conhecimento de como funcionam os algoritmos, pois todos nós vamos nos candidatar a empregos em algum momento.”
IA precisa do olhar humano
Além da lei de Nova York, já existem outras iniciativas que visam regulamentar e preservar a imparcialidade dos algoritmos. Em Washington, por exemplo, os membros do Congresso estão elaborando um projeto de lei que exigiria que as empresas avaliassem os sistemas automatizados de tomada de decisão usados em áreas como saúde, habitação, emprego ou educação e relatassem as descobertas à Federal Trade Commission
Uma Declaração de Direitos da IA, proposta em novembro de 2021 pela Casa Branca, pede a divulgação de quando a inteligência artificial toma decisões que afetam os direitos civis de uma pessoa e diz que os sistemas devem ser “cuidadosamente auditados” quanto à precisão e viés, entre outras coisas.
Na União Europeia, os legisladores estão analisando a proposição de uma lei para regular o uso de dados sensíveis pelos algoritmos e a criação de um registro público de sistemas de alto risco. China, Canadá, Alemanha e Reino Unido também já adotaram medidas para regular a IA nos últimos anos.
Apesar da importância de tais iniciativas, vale lembrar que os algoritmos precisam de um olhar humano por trás da inteligência artificial. “Não se trata apenas de criar um algoritmo, é preciso contar com profissionais capacitados, que saibam analisar os dados, para evitar que algum tipo de viés interfira nos resultados. É necessário ter um olhar humano que adeque as informações, faça a limpeza dos dados e faça com que elas se integrem e interajam com os sistemas da empresa”, explicou o vice-presidente de inovação da Cia Técnica Consulting, Cezar Taurion, em entrevista exclusiva ao Próximo Nível.
