Parceria Editorial
A governança de IA é crucial, não apenas por questões de ética e compliance, mas como um acelerador da estratégia de negócios. E não se trata apenas de estabelecer normas e sim ter estruturas bem definidas envolvendo as múltiplas áreas da empresa — do C-Level à tecnologia e jurídico.
Esse é o resumo da conversa de quatro especialistas no segundo episódio da série “Vamos habilitar o próximo novo? — Conversas”, apresentado pela Claro empresas e veiculada pelo Valor Econômico.
Mediado por Silvio Meira, cientista chefe da TDS Company, e Ronaldo Lemos, advogado, professor e diretor cientifico do ITS Rio, o encontro contou com a participação de Carol Sevciuc, diretora de transformação digital e inovação da PepsiCo, e de Rodrigo Assad, diretor de inovação do beOn Claro.
“A governança de IA é necessária para qualquer empresa, independentemente do tamanho e deve ser vista como um local de discussão e aprendizado, não como um entrave”, argumentou Carol. Assad concordou com ela e explicou que o processo é um embate que não deve ficar restrito às áreas técnicas.
“O desafio inicial da governança é por onde começar, para que a IA não se torne um “brinquedo caro” sem resultados mensuráveis”, argumentou. “A governança ajuda a medir o impacto da IA no negócio, determinando se é apenas um custo ou se gera um resultado qualitativo ou quantitativo”, completou o executivo da Claro.
Para Lemos, a governança tem a função de garantir que as decisões sejam implementadas dentro da empresa e seu avanço acontece de acordo com as melhorias da tecnologia.
Ele diferencia esse processo da regulação. Enquanto a governança permite a tomada e a efetivação de decisões, sendo facilitada pela IA em tempo real, a regulação, em função de seu caráter de lei, impõe obrigações. No caso da IA, a regulação determina, por exemplo, como deve ser a aplicação da tecnologia de forma positiva e compatível com o que é exigido legalmente.
Shadow AI
Um dos principais benefícios da governança, de acordo com Lemos, é reduzir a chamada shadow AI, uso secreto e não autorizado no ambiente corporativo.
Tanto Meira como Carol apostam no letramento dos colaboradores como um recurso para evitar o uso da IA “no escurinho”, outra tradução apropriada desse problema.
“Na PepsiCo, implementamos uma governança federada e focada em arquitetura e parceiros. Ela utiliza o conceito de “freedom in a box”, ou seja, liberdade dentro de uma caixa, onde as unidades de negócio podem adotar casos de uso se estes estiverem homologados em uma biblioteca de IA, o que acelera o processo e o impacto”, explicou.
Assad destacou o perigo da shadow AI na exposição de dados das companhias, alertando para o “limite do caos”, que é o vazamento de informações sensíveis como planilhas financeiras.
De acordo com ele, a governança deve atuar como “guardrail” dos dados, permitindo que as pessoas sejam produtivas, mas de forma segura. “A área de segurança deve ser envolvida desde o começo”, aconselha.
Jornada de maturidade
O processo de engajamento da empresa na aplicação segura de IA é uma jornada que também exige paciência. Para os especialistas, a conscientização deve incluir toda a cadeia de valor, com atenção especial para os fornecedores menores que podem não ter uma governança adequada.
“Fornecedores pequenos devem adotar um mínimo de boas práticas, pois um incidente mata o negócio”, alerta Lemos. O advogado compara a jornada de maturidade da IA com a implementação da LGPD, que obrigou diversas áreas a conversarem internamente.
Em sua experiência, Carol explica que a maturidade começa com o entendimento dos frameworks existentes e criando uma convergência de agendas nas empresas. “O ponto de virada na PepsiCo foi incentivar a discussão de usos de caso no comitê de governança, fazendo as pessoas entenderem o impacto da IA na cadeia de negócios”, detalha.
Assim como Carol, Assad tem o background de vivenciar a governança de IA em uma grande corporação. Na Claro, o processo envolveu a identificação das demandas potenciais na empresa e a criação de um comitê onde qualquer colaborador pode submeter uma possível aplicação, mas precisa explicar o benefício.
Ele sugere que a experiência aprendida em grandes empresas pode ser “encapsulada” e entregue para as pequenas e médias empresas (PMEs), ajudando-as a acelerar. “A grande dica é começar rápido, pequeno, mas crescer rápido, errando e corrigindo rapidamente”, explica.
Estágios de IA
A governança estratégica – e em tempo real – dos dados também precisa ser entendida de acordo com os níveis de complexidade da tecnologia.
“Dentro da PepsiCo, temos cenários em diferentes camadas. O banco de dados de consumidor, por exemplo, está na primeira camada. Na área de vendas, eles já usam IA para identificar a localização de lojas e para melhorar o abastecimento de caminhões, obtendo maior precisão e gerando menos desperdício”, detalha Carol.
No caso da Claro, uma das primeiras etapas de uso da IA aconteceu com a transcrição de 100% das ligações dos call centers, com a meta de escutar e aprender mais sobre o cliente.
“O diagnóstico ocorre ao entender por que o cliente está chateado. Ao cruzar o que o cliente fala com o que ele compra, conseguimos identificar a próxima melhor oferta. Isso resultou em uma melhora de 5% a 10% na assertividade no call center e um aumento de 20 pontos no NPS”, diz ele, referindo-se à métrica que mede a fidelização dos clientes.
Ética na aplicação de IA
Para Assad, em cinco anos, os colaboradores estarão assistidos por agentes de IA que os tornarão mais produtivos, inclusive com o uso potencial de recursos de computação quântica. O cenário é positivo, mas também envolve preocupações.
“A discussão sensível que ainda não está acalorada é como imprimir princípios e valores humanos na IA, que vão além de vieses”, lembra Carol. Ela usa os comandos do carro autônomo como modelo de como a IA pode infringir leis para cumprir o objetivo de chegar mais rápido. Nesse caso, o veículo inteligente pode seguir o comando, sem se preocupar se está respeitando limites de velocidade, caso a IA não esteja devidamente programada.
Lemos conclui o debate ao sugerir que a melhor forma de embutir os valores de uma organização na IA é a própria organização personalizar e treinar internamente a tecnologia. “A IA será a multiplicidade de modelos, treinados pela experiência própria das organizações”, finaliza.
