alucinacoes da ia

Especialistas discutem a importância dos dados contra as alucinações da IA

2 minutos de leitura

Depois da euforia, mercado começa a refletir sobre a qualidade dos dados, pois eles precisam ser confiáveis, evitando as alucinações da IA



Por Redação em 04/10/2023

Não existe Inteligência Artificial Generativa (GenAI) sem uma boa base de dados. Essa é a principal conclusão do mercado depois do boom gerado pelo ChatGPT, e foi o que comentaram especialistas que participaram do primeiro dia do Futurecom 2023, em São Paulo.

Depois da euforia, o mercado começa a refletir sobre a qualidade dos dados, pois eles precisam ser confiáveis, evitando as alucinações da IA, que podem comprometer o uso da tecnologia. Para tanto, é fundamental uma boa gestão dos dados e a capacitação das pessoas que vão gerir sua curadoria.

Essa qualidade da gestão foi defendida por Cláudia Nolla Kirszberg, da IBM, que ainda ressaltou a importância das pessoas estarem preparadas para olhar o processo e ver onde ele pode ser melhorado. Essa construção é enfrentada pelo mercado nacional e vem sendo tratada em cursos específicos para as “novas profissões”, como explica Daniel Domingos, sócio diretor da Cogna Educação.

Sem alucinações, IA do futuro está sendo construída

alucinacoes da ia

Mas é quando interfere positivamente nos processos, que a IA generativa se destaca. No Futurecom 2023, vários exemplos foram apresentados, como o seu uso para agilizar processos jurídicos dentro de bancos, além da resolução de problemas no atendimento de empresas de telefonia ou mesmo na solução de desperdícios na linha de produção de uma indústria. “Precisamos começar a entender como dar acesso aos dados e como conduzir essa jornada, pois as perguntas podem trazer respostas mais difíceis. Temos de ter o nosso framework dentro da nossa governança”, comentou Rodrigo Assad, diretor de Inovação e Produtos B2B na beOn.

Durante algumas palestras, que procuraram focar em IA gerativa aplicadas aos negócios e às profissões, ficou clara a preocupação em discutir dentro de casa os processos e o tratamento dos dados. Bradesco, Claro, IBM e Exame, entre outras empresas, citaram a criação de comitês multidisciplinares para entender os níveis de acesso aos dados próprios e aos que serão coletados. 

Em resumo, foi concluído que toda organização vai ter de trabalhar com dados, mas será preciso garantir precisão a eles, eliminando ainda os vieses. “Em função disso, é fundamental pensar em um equilíbrio entre a proteção dos dados e o uso da IA”, defendeu a CTO da Exame, Izabela Anholett. Segundo ela, pouco se fala da importância dos dados para IA generativa, mas é preciso usá-los com parcimônia para fazer as correlações certas e não gerar nenhuma alucinação no modelo da empresa. 

“Estamos muito no começo, na ponta do iceberg. É difícil falar qual vai ser o futuro, pois ainda estamos construindo, vivendo esse momento de descobrir, entender como podemos usar e liderar esse movimento da IA generativa com responsabilidade”, concluiu Izabela.



Matérias relacionadas

Evento com cinco participantes sentados e conversando em um cenário de estúdio, com Euricion Murari, Sergio Costantini, Eduarda Davidovic, Regina Pedroso e Bruno Diniz ao redor de uma mesa e poltronas. Inovação

Ecossistema de fintechs: da expansão acelerada à busca por sustentabilidade

Debatedores do Febraban Tech defendem proporcionalidade regulatória, autorregulação e governança para conciliar inovação e solidez no setor

Da esquerda para a direita: Bruno Oliveira, Fabio Correa, Heitor Bernardes e Nelson Borges. Executivos sentados no palco durante painel na Febraban Tech 2026 Inovação

Agentes de IA já atuam na engenharia de software do Bradesco

Case apresentado no Febraban Tech 2026 mostrou quatro agentes em produção e os desafios para ampliar o modelo entre diferentes times do banco

Kathleen Woodard em palco durante apresentação em evento corporativo, com telões exibindo slides e mensagem sobre novos diferenciais competitivos e Era da IA. Inovação

Bancos entram na era dos agentes de IA, mas confiança e julgamento humano seguem como diferenciais

Kathleen Woodard, da Microsoft, afirma que instituições financeiras estão deixando a fase de testes para incorporar dados, conhecimento e processos a plataformas de IA em escala

Palestra no evento FEBRABAN TECH com Silvia Bassi, Daniel Augusto Falbi, Estevam Carvalho e Wladimir Silva em um painel, telão com o tema “Do data center ao cluster de IA: infraestrutura, automação de o novo core bancário”. Inovação

IA leva bancos a redesenhar infraestrutura e perfil dos profissionais de tecnologia 

Painel no Febraban Tech 2026 mostra como IA leva bancos a repensar data centers, nuvem e automação e amplia a demanda por novas competências nas equipes de tecnologia