Explorar tudo que se pode fazer com IA (inteligência artificial) e evitar o que não se deve fazer são prioridades que definem novas competências nas organizações. Artigo do Wall Street Journal destacou quatro novas profissões relacionadas a essa disciplina. Duas se relacionam a ganhos de produtividade e inovação, enquanto outras são voltadas à gestão responsável dos dados e algoritmos.
Diante da diversidade de modalidades e produtos sob a classificação genérica de IA, surge a necessidade de um facilitador, dedicado à prospecção, classificação e comparações das opções conforme o contexto de uso e os objetivos. Por exemplo, para processos mais dinâmicos, como automação de atendimento, a combinação de ML (aprendizado de máquina) com GenIA (IA generativa) pode ser a alternativa mais adequada. Em outros casos, podem se combinar recursos de visão computacional para incrementar automações mais padronizadas, com robôs executando as rotinas consolidadas.
Além de enxergar os gargalos de produtividade e as oportunidades de otimização de tarefas e processos, o “selecionador de IA” deve considerar as tendências dos fornecedores, os mecanismos contratuais de segurança e privacidade, a viabilidade técnica e os custos de cada opção, e alinhamento com as tecnologias, hábitos e workflows de cada organização.
Outra nova função relacionada a ROI (retorno de investimento) e resultados é a do “treinador de IA”. Dados divulgados recentemente pelo Comitê Gestor da Internet revelam que as estratégias e as lideranças nas empresas têm direcionado o letramento em IA. Enquanto o uso de GenIA chega a 39% entre os trabalhadores, fica em 22% entre os que estão fora do mercado.
O “treinador de IA” vem com uma abordagem muito diferente dos cursos e certificações relacionados a sistemas empresariais. Em vez de aprender a navegar em menus e acionar as funções nas interfaces tradicionais, o usuário deve compreender a lógica da composição das respostas a partir dos dados e dos prompts inseridos.
Explicabilidade e governança by design, para começar certo
O “explicador de IA” atua como um mediador entre quem estabelece os critérios aos sistemas e os diferentes interlocutores afetados. Ao tornar inteligíveis os mecanismos, limites e condicionantes das decisões assistidas ou automatizadas, o objetivo é permitir revisões proativas por áreas como jurídico e conformidade. À medida que se aplica cada vez mais IA em áreas que afetam direitos e expectativas pessoais importantes, como avaliação de crédito ou contratação de funcionários, a explicabilidade é também fundamental para se ter processos transparentes e justos.
Com informações e linguagem adequadas a cada tipo de interlocutor, cabe ao “explicador” esclarecer, por exemplo, quais dados são considerados por um modelo, quais variáveis têm maior peso, em que situações a supervisão é mandatória e quais salvaguardas estão previstas para evitar usos indevidos. Esse perfil profissional tende a ter importância crescente diante de novas exigências da sociedade e das tendências de regulação da IA. À medida que normas nacionais e internacionais passam a exigir transparência proporcional aos impactos e riscos do uso de IA, a função do explicador se consolida como elemento-chave para viabilizar conformidade regulatória, direito à contestação e governança algorítmica.
Complementarmente, ganha relevância a função do “auditor de IA”, com foco específico em sistemas baseados em análise e automação avançadas. Diferentemente da auditoria tradicional, centrada em controles estáticos e conformidade pontual, o auditor de IA precisa lidar com modelos dinâmicos, que evoluem ao longo do tempo, aprendem com novos dados e podem alterar seu comportamento após a implementação.
O papel do auditor envolve verificar se o sistema está operando conforme o propósito definido, se respeita requisitos legais e contratuais e se mantém coerência entre concepção, desenvolvimento, treinamento, implantação e operação. Isso inclui a identificação e o tratamento contínuo de vieses, falhas de dados, inconformidades regulatórias, desvios de desempenho e impactos não previstos sobre usuários ou grupos específicos.
Mais do que um checklist prévio à entrada em produção, a auditoria passa a ser entendida como um processo ao longo de todo o ciclo de vida da IA. Desde a fase de desenho do modelo (governança by design), passando pela validação, monitoramento em produção, ajustes, re-treinamentos e manutenção pós-implementação, o auditor atua para assegurar rastreabilidade, capacidade de correção e mecanismos claros de responsabilização.
Nesse arranjo, explicador e auditor desempenham papéis complementares. Enquanto o primeiro viabiliza entendimento, comunicação e legitimidade, o segundo garante controle, verificação independente e capacidade de intervenção. Juntos, ajudam as organizações a equilibrar inovação, eficiência operacional e conformidade regulatória em um cenário no qual a confiança nos sistemas de IA se torna tão estratégica quanto seu desempenho técnico.
