A popularização da inteligência artificial e a corrida das empresas para incorporar a tecnologia aos negócios ampliam tanto as oportunidades de eficiência quanto os riscos operacionais, como o fenômeno do shadow AI. Nesse cenário, a governança se torna determinante para garantir que as aplicações de IA gerem valor sem comprometer a segurança, a conformidade regulatória e a operação.
Durante o painel do Rio Innovation Week, “Inteligência Artificial: de eficiência a risco operacional”, especialistas da área defenderam a governança by design, incorporada desde o desenvolvimento das aplicações, como forma de assegurar que os dados que alimentam a tecnologia estejam seguros e de acordo com normas regulatórias nacionais e internacionais, a depender da operação. O líder em IA, dados e IA Gen da EY, Andrei Graça, acredita que as organizações devam se antecipar às regulações, mapear e inventariar as aplicações já adotadas pela empresa e estabelecer diretrizes de uso, segurança cibernética e governança para orientar a adoção responsável da IA.
Governança impulsiona a inovação
Andrei retratou a IA em dois momentos: a IA tradicional e a IA generativa. Ainda que a governança seja tratada como fundamental para ambas, na generativa a criticidade é mais latente. Nesse caso, a governança é inerente ao desenvolvimento da tecnologia, seja ela estruturada desde a concepção da aplicação (by design) ou exigida via regulação em algum estágio, explicou Graça.
Segundo o executivo, a IA não é mais uma agenda tecnológica, é uma agenda corporativa. Como evidência dessa transformação, o executivo citou um estudo da EY que mostra o aumento das discussões sobre riscos associados à IA nos Conselhos.
O debate sobre a IA nos negócios, afirmou Graça, deve se debruçar na premissa de que inovação e governança não são antagonistas. Portanto, devem caminhar de forma conjunta para criar comitês e processos que tenham uma abordagem holística, que envolva toda a empresa – não somente a área de TI – e que capture o valor da tecnologia.
Uso responsável da IA
O painel, que tinha como objetivo discutir o papel da governança na adoção da IA, teve como consenso a criação de diretrizes internas enquanto a regulamentação brasileira e as normas internacionais se consolidam no âmbito jurídico.
Para o gerente geral da Petrobras, Fernando Garcia, o uso responsável da IA é uma temática que deve ser tratada por todas as empresas. Nesse processo deve-se ter em vista, segundo o executivo, não só a regulação brasileira, ainda em trâmite, como as regulamentações dos países onde estão sediados os provedores de IA, os modelos de linguagem (LLMs) e os data centers. A partir dessas considerações, dos valores e objetivos de cada empresa, as organizações podem estruturar suas diretrizes de uso.
Na Petrobras, detalhou Garcia, a área de TI participou da validação de modelos e aplicações antes que fossem disponibilizados a toda organização. Com isso, os colaboradores puderam explorar os recursos de forma segura. Além disso, o executivo indicou que os projetos de baixo risco associados podem servir para validar políticas, controles e diretrizes antes da expansão para aplicações mais críticas. A diretriz implementada pela Petrobras é pautada em cinco tópicos:
- IA centrada no ser humano
- Accountability (revisão humana em todas as soluções)
- Transparência e explicabilidade
- Segurança
- Inovação prudente e colaborativa
Governança fortalece segurança
A segurança permanece como uma das principais preocupações das empresas e clientes diante da expansão da IA. Para reverter esse quadro e consolidar processos e operações confiáveis, os executivos levantaram algumas medidas. Além do quesito de governança, o processo envolve, segundo os especialistas, avaliar onde residem os custos e riscos, evitar dependência excessiva de fornecedores (lock-in), fugir dos indicadores de vaidade, construir uma cultura de segurança de IA e desenvolver o pensamento crítico para avaliar os resultados produzidos pela IA. Garcia afirmou que esse julgamento vai ser o diferencial competitivo na era da IA.
A iniciativa da EY em criar uma academia de IA mandatória para todos os funcionários foi tida como um exemplo de como promover cultura de IA na empresa e aumentar a capacitação dos funcionários e a segurança dos processos.
Aplicações de IA à vista
Complementar à palestra de governança, o painel “Agentes de IA: o futuro da inovação é executar, não apenas conversar” explorou aplicações já existentes de IA, considerando aspectos de governança, infraestrutura e informação.
Um dos benefícios que a IA proporciona é a automatização de tarefas repetitivas e a alocação de pessoas para atividades que demandam mais capacidades analíticas. Foi assim que o iFood viu seu número de colaboradores ser ultrapassado por agentes de IA (14 mil agentes e oito mil funcionários).
Como qualquer crescimento abrupto requer uma base mais robusta para sustentar a nova operação, a infraestrutura tem que se adaptar e adequar aos novos parâmetros que a IA alcança. Nesse sentido, a CEO da Mansour Consultoria, Karine Mansour, explicou que o boom tecnológico impulsionado pela adoção de IA nas empresas e crescimento das LLMs fez o planejamento de crescimento de infraestrutura ser revisado a cada seis meses ou um ano, em vez dos cinco anos recomendados em tempos pré-pandemia.
O desenvolvimento de modelos próprios de linguagem também reduz a exposição de dados sensíveis, uma vez que a empresa mantém o controle sobre toda a jornada de dados e os submete à sua governança.
Uma das aplicações de IA própria foi apresentada pela gerente de marketing da Zoop (iFood Pago), Marcella Calfi, sobre a premissa de “conversar cada vez mais, clicar cada vez menos”. A Ailo é um assistente de IA da companhia que compreende linguagem natural, interpreta intenções e sugere opções de acordo com as expectativas dos consumidores para proporcionar uma experiência de compra menos friccionada. A expectativa é que o pagamento agêntico seja mais disseminado nos próximos anos com o avanço da familiaridade dos usuários com agentes no setor financeiro.
Um estudo da Zoop reforça essa perspectiva: embora 85% dos brasileiros afirmem não conhecer o conceito, mais de 60% dizem estar dispostos a utilizá-lo após receberem uma explicação sobre seu funcionamento.
