A inteligência artificial está avançando de uma tecnologia que responde a comandos para sistemas capazes de executar tarefas, interagir com outros agentes e tomar decisões com diferentes níveis de autonomia. No setor financeiro, esse movimento coloca uma questão que ainda não tem resposta definitiva: quem controla os agentes quando eles começam a decidir e agir em nome das instituições?
O dilema esteve no centro do painel “Quem controla os agentes? Riscos, governança e ética em ambientes de múltiplos agentes”, realizado nesta segunda-feira (24), durante o Febraban Tech 2026. O debate reuniu Camila Achutti, da Mastertech; Juliano Maranhão, da Universidade de São Paulo (USP); Roberto Frossard, do Itaú Unibanco; Sandoval César de Oliveira Mendonça, da Caixa; e Neli Freitas, da Risk Women.
A discussão indicou que a questão não é apenas desenvolver agentes mais eficientes. À medida que sistemas passam a operar em conjunto, cresce a necessidade de estabelecer quem pode decidir, quais limites devem ser respeitados, como cada ação pode ser rastreada e quem assume a responsabilidade quando algo dá errado.
O tema integra a trilha “Agentes de IA em rede: é o fim da Era dos Assistentes?”, criada pelo evento para discutir a evolução dos assistentes isolados para estruturas de agentes interconectados, capazes de colaborar entre si e com humanos em tarefas complexas.
Responsabilidade humana permanece no centro
Para Juliano Maranhão, uma das perguntas fundamentais diante da expansão dos agentes é simples: quando a IA erra, quem é responsável?
A questão ganha complexidade em sistemas multiagentes porque uma decisão pode resultar da interação entre diferentes agentes, bases de dados, regras e ferramentas. Identificar apenas o resultado final não é suficiente. É preciso compreender onde a decisão foi tomada, quais informações foram utilizadas e qual agente participou de cada etapa.
“Por isso, rastreabilidade e explicabilidade aparecem como elementos centrais da governança”, apontou.
O desafio, porém, não termina na capacidade de explicar uma decisão. Existe também uma dimensão jurídica: como atribuir responsabilidade a um agente de IA? Uma máquina pode ter intenção ou culpa? E como definir a responsabilidade da instituição perante terceiros?
No setor financeiro, a resposta tende a permanecer ligada às próprias instituições. Roberto Frossard, do Itaú Unibanco, destacou que os bancos precisam trabalhar na definição dos papéis relacionados a risco, privacidade e governança. Se um sistema falha, a responsabilidade não pode ser simplesmente transferida para a tecnologia.
Um dos pontos mais concretos do debate apareceu na discussão sobre arquitetura. Em um ambiente multiagente, a trilha de auditoria não pode ser uma camada acrescentada depois. A proposta discutida no painel é que o sistema já seja desenvolvido com mecanismos capazes de registrar suas operações desde o início.
“Essa trilha precisa ser imutável, acessível para leitura humana e protegida do próprio agente, de forma que a IA não possa alterar os registros usados posteriormente para investigar seu comportamento”, completou Frossard.
Segundo ele, a ideia muda a lógica tradicional de auditoria: em vez de reconstruir posteriormente o caminho percorrido por uma decisão, o próprio sistema deve nascer preparado para deixar esse caminho registrado.
Sandoval Mendonça, da Caixa, observou que a indústria de tecnologia já trabalha há décadas com mecanismos desse tipo. A diferença, agora, está na autonomia dos sistemas e na necessidade de aplicar esses conceitos a arquiteturas nas quais agentes podem interagir e tomar decisões em sequência.
E quem audita o auditor?
A evolução dos sistemas multiagentes abre outra camada de complexidade: a própria IA pode participar da fiscalização de outras IAs? Uma das possibilidades discutidas foi a criação de agentes capazes de avaliar o comportamento de outros agentes. Em determinadas arquiteturas, um agente poderia funcionar como uma espécie de guardião, monitorando as ações de outros sistemas e identificando comportamentos fora dos parâmetros estabelecidos.
Mas isso cria uma nova pergunta: quem controla o agente que controla os outros?
E o debate chegou à questão da confiança. Quanto mais registros e mecanismos de auditoria existem, maior pode ser a capacidade de verificar o comportamento da máquina. No entanto, a confiança não pode depender apenas da existência de registros. É preciso definir quem interpreta essas informações e quem tem autoridade para intervir.
Para os painelistas, a resposta depende da maturidade da tecnologia, do caso de uso e do nível de risco envolvido.
Autonomia não significa autoridade
A discussão ganhou uma síntese importante ao tratar dos limites que devem ser impostos aos agentes. Camila Achutti chamou atenção para a necessidade de ampliar o letramento em inteligência artificial e, principalmente, para a capacidade humana de reconhecer quando utilizar, verificar e interromper o uso da tecnologia.
O avanço dos agentes muda o paradigma porque a IA deixa de apenas apoiar uma decisão e começa a participar ativamente dela. A questão, portanto, passa a ser menos “a IA consegue fazer?” e mais “podemos confiar que ela faça?”
Nesse contexto, uma distinção ganha importância: autonomia não é autoridade. Para Sandoval Mendonça, um agente pode ter autonomia para executar determinada tarefa sem necessariamente ter autorização para acessar qualquer informação, acionar qualquer sistema ou tomar decisões irreversíveis.
“Esse cuidado é especialmente relevante em ambientes agênticos. Agentes precisam ter identidade própria, permissões definidas e limites claros de acesso a APIs, dados e outros recursos. A governança precisa determinar não apenas o que cada agente pode fazer, mas também a quais recursos ele pode ter acesso para fazer isso”, explicou.
Governança entra na arquitetura dos sistemas
A discussão aponta para uma mudança importante na forma de pensar a governança de IA. Políticas corporativas, códigos de ética e regras de risco continuam necessários, mas precisam ser traduzidos em mecanismos que possam efetivamente operar dentro dos sistemas.
Isso significa criar agentes alinhados aos princípios das instituições, registrar suas ações, estabelecer limites de acesso, manter trilhas de auditoria e desenvolver mecanismos para interromper operações quando necessário.
O futuro pode levar esse conceito ainda mais longe: códigos de ética incorporados às próprias máquinas, capazes não apenas de orientar seu comportamento, mas também de produzir evidências de que determinadas regras foram cumpridas.
Os painelistas reconheceram que o estágio atual é experimental. Sandoval Mendonça afirmou que há evolução significativa no mercado, mas ainda existe um caminho longo até que agentes sejam considerados confiáveis para ações irreversíveis.
A questão, portanto, permanece aberta. Segundo Camila Achutti, a tecnologia está avançando mais rapidamente do que as respostas definitivas sobre como governá-la.
No sistema financeiro, onde confiança, segurança e responsabilidade fazem parte do próprio produto, o desafio continua sendo construir mecanismos que permitam aproveitar a autonomia dos agentes sem transferir para as máquinas a autoridade que continua sendo humana.
