Ao mesmo tempo em que os formuladores de estratégias data driven e inteligência artificial (IA) enfatizam a democratização de dados, com tudo pronto no data lake para ser consumido pelas áreas de negócios, o advento das novas tecnologias pega as organizações mais maduras. Até porque muitos líderes em atividade lembram das contrapartidas à onda do big data – de repente, ficou relativamente fácil e barato ingerir dados, até isso se tornar um passivo com as legislações de proteção de privacidade.
Embora a legislação para IA seja uma discussão em andamento, os especialistas em regulação, proteção de dados e gestão de risco, hoje, antecipam os principais desafios e já apontam as melhores diretrizes.
Kátia Cardoso, gerente de projetos da Agência Nacional de Proteção de Dados (ANPD), explica que, mesmo antes de uma legislação específica para a IA, a LGPD já dá uma forte referência sobre as melhores práticas. O Projeto de Lei 2338, que trata especificamente de IA, propõe atribuir à agência os novos controles. Todavia, decisões como o bloqueio dos treinamentos da IA da Meta com dados pessoais têm fundamento na legislação vigente. “Treinar máquinas com dados sensíveis alegando ‘legítimo interesse’ não tem possibilidade legal”, afirma.
A gerente da ANPD enfatiza que não há necessariamente contradição entre o uso de dados e as regras de privacidade. “Os desenvolvedores de IA precisam conhecer os conceitos de finalidade e anonimização, e entender a essência da LGPD. Podemos fomentar a economia dos dados com privacy by design”, argumenta.
Regulação de IA está além da LGPD
“Já temos processos fortes de governança, em função da LGPD”, diz Maria Tereza David, Diretora de Privacidade e Proteção de Dados (DPO) da Claro. Ela conta que sua equipe realiza treinamentos com 150 diretores. “Os princípios de ética e privacidade têm que permear tudo”, resume. No entanto, além da conformidade à legislação sobre dados sensíveis, com a IA o escopo de governança é bem mais amplo. “Recursos de ML e IA já estão em vários processos, da análise de crédito à recomendação de um filme. Tudo isso precisa de governança”, menciona.
Embora os profissionais de privacidade e proteção de dados tenham protagonismo nas estratégias para IA, a DPO avalia que as decisões e responsabilidades, em relação à IA, devem ser estendidas a comitês multidisciplinares, com uma visão mais ampla de riscos, inclusive operacionais.
“Uma boa governança de dados resolve boa parte da questão sobre o que se pode usar para treinar as IAs. Essa premissa é vital para gerar insights e monetizar”, diz Alessandra Monteiro Martins, vice-presidente Instituto Brasileiro de Segurança, Proteção e Privacidade de Dados (Ibraspd). Ele acrescenta que, mesmo sem uma legislação definida no Brasil, já há várias referências e normas internacionais de boas práticas com IA. “A governança de IA envolve abordagens semelhantes de gestão de riscos, responsabilização e tudo que sabemos que não se pode fazer com os dados”, resume.
Maria Cecília Gomes, líder de proteção de dados da Bian Consultoria, chama atenção sobre a necessidade de estender o mapeamento e o controle dos dados em cadeias de valor. As especialistas participaram do painel IA e o futuro da governança, no Futurecom.
