País criou Carta com um conjunto de regras para que entidades públicas sejam transparentes com os cidadãos em relação ao uso de algoritmos.
O uso de dados por entidades públicas ajuda a informar, melhorar e fornecer diversos serviços aos cidadãos. Essas políticas públicas podem ser desenvolvidas de maneira mais assertiva quando os dados são analisados por algoritmos de Inteligência Artificial (IA).
Porém, a grande dúvida dos cidadãos é: como a IA usa os dados pessoais para tomar decisões, quando o viés é invisível? Em 2019, um estudo publicado na revista acadêmica Science mostrou que algoritmos de hospitais têm preconceito contra pacientes negros.
Diante desse cenário, a Nova Zelândia criou uma iniciativa para combater o enviesamento algorítmico e dos próprios servidores públicos: é a Carta de Algoritmo para Nova Zelândia.
A Carta, assinada por 21 órgãos governamentais, tem o intuito de fornecer confiança aos cidadãos do país ao ser transparente quanto ao uso dos dados de forma segura e eficaz pelas entidades públicas.
Na Nova Zelândia, os órgãos públicos utilizam IA para processar e interpretar grandes quantidades de dados. Porém, o país acredita que o preconceito humano é maximizado nos algoritmos, ainda mais nos que não foram projetados e operados corretamente, enviesando a tomada de decisão.
A transparência nos algoritmos
A Carta de Algoritmo para Nova Zelândia possui um conjunto de regras para as melhores práticas no uso de Inteligência Artificial no setor público. Uma delas é a documentação simples do algoritmo em inglês. Ou seja, é preciso deixar claro para o cidadão quando e como ele é usado.
Essa documentação só não será pública caso haja uma restrição legal. Quando não, todos os órgãos devem informar como os dados são coletados, como são protegidos e onde são armazenados. É uma forma de um viés não influenciar uma decisão baseada na IA.
Outras medidas de transparência que o setor público deve adotar são:
- Incluir a cultura indígena Te Ao Māori no desenvolvimento e uso de algoritmos.
- Identificar pessoas, comunidades e grupos que estudem e sejam entusiastas de algoritmos ou que se sentiram afetados pelo uso dele.
- Entender as limitações de um algoritmo, assim como identificar e gerenciar (reprogramar) o viés.
- Revisão periódica dos algoritmos para garantir a privacidade, a ética e os direitos humanos.
- Revisão por pares para avaliar consequências indesejadas geradas por uma decisão enviesada.
- Nomear um ponto de contato (entre cidadão e governo) para consultas públicas sobre algoritmos.
- Fornecer um canal para um cidadão apelar uma decisão baseada em IA.
Como a Carta será aplicada?
De acordo com a Nova Zelândia, aplicar todas as regras da Carta pode ser “impossível para os órgãos governamentais cumprirem e não alcançar os benefícios pretendidos da Carta”, como informado no site do governo sobre a transparência de dados.
Para garantir o bem-estar dos cidadãos e o uso consciente dos dados, o país criou uma matriz de risco para os órgãos avaliarem quando um algoritmo deve ser utilizado e qual o risco de viés ele pode apresentar.
A probabilidade de uso é dividida em:
- Provável: uso frequente de algoritmos em operações padrão.
- Ocasional: uso moderado em operações padrão.
- Improvável: chance mínima de um algoritmo ser utilizado.
Cada probabilidade acima pode ser agrupada em três riscos:
- Baixo: quando o impacto da decisão baseada em IA é isolada ou não gera consequências graves. Aqui a Carta pode ou não ser aplicada.
- Moderado: decisão pode impactar uma certa quantidade de pessoas e gerar uma gravidade moderada na vida delas. A aplicação da carta deve acontecer.
- Alto: muitas pessoas são impactadas, gerando consequências graves. As regras estabelecidas pela Carta são obrigatórias.
Nova Zelândia pode ser exemplo para outros países
De acordo com o governo, a Carta será aplicada de forma diferente em cada entidade pública. Porém, elas podem ter uma abordagem focada nas decisões que apresentam um alto risco de impacto negativo nos cidadãos do país.
Além disso, a Nova Zelândia espera focar no uso de algoritmos que apresentam alto risco ou crítico, revisando os sistemas que os utilizam a cada 12 meses, com data inicial a partir de julho de 2020.
Principais destaques desta matéria
- Nova Zelândia criou Carta com um conjunto de regras para o uso consciente de algoritmos.
- Iniciativa tem apoio de 21 entidades públicas, que deverão ser transparentes com os cidadãos sobre as decisões tomadas com base em Inteligência Artificial.
- Ideia é diminuir o viés dos algoritmos dando transparência ao cidadão de como os dados devem ser utilizados.
