alucinacoes da ia

Especialistas discutem a importância dos dados contra as alucinações da IA

2 minutos de leitura

Depois da euforia, mercado começa a refletir sobre a qualidade dos dados, pois eles precisam ser confiáveis, evitando as alucinações da IA



Por Redação em 04/10/2023

Não existe Inteligência Artificial Generativa (GenAI) sem uma boa base de dados. Essa é a principal conclusão do mercado depois do boom gerado pelo ChatGPT, e foi o que comentaram especialistas que participaram do primeiro dia do Futurecom 2023, em São Paulo.

Depois da euforia, o mercado começa a refletir sobre a qualidade dos dados, pois eles precisam ser confiáveis, evitando as alucinações da IA, que podem comprometer o uso da tecnologia. Para tanto, é fundamental uma boa gestão dos dados e a capacitação das pessoas que vão gerir sua curadoria.

Essa qualidade da gestão foi defendida por Cláudia Nolla Kirszberg, da IBM, que ainda ressaltou a importância das pessoas estarem preparadas para olhar o processo e ver onde ele pode ser melhorado. Essa construção é enfrentada pelo mercado nacional e vem sendo tratada em cursos específicos para as “novas profissões”, como explica Daniel Domingos, sócio diretor da Cogna Educação.

Sem alucinações, IA do futuro está sendo construída

alucinacoes da ia

Mas é quando interfere positivamente nos processos, que a IA generativa se destaca. No Futurecom 2023, vários exemplos foram apresentados, como o seu uso para agilizar processos jurídicos dentro de bancos, além da resolução de problemas no atendimento de empresas de telefonia ou mesmo na solução de desperdícios na linha de produção de uma indústria. “Precisamos começar a entender como dar acesso aos dados e como conduzir essa jornada, pois as perguntas podem trazer respostas mais difíceis. Temos de ter o nosso framework dentro da nossa governança”, comentou Rodrigo Assad, diretor de Inovação e Produtos B2B na beOn.

Durante algumas palestras, que procuraram focar em IA gerativa aplicadas aos negócios e às profissões, ficou clara a preocupação em discutir dentro de casa os processos e o tratamento dos dados. Bradesco, Claro, IBM e Exame, entre outras empresas, citaram a criação de comitês multidisciplinares para entender os níveis de acesso aos dados próprios e aos que serão coletados. 

Em resumo, foi concluído que toda organização vai ter de trabalhar com dados, mas será preciso garantir precisão a eles, eliminando ainda os vieses. “Em função disso, é fundamental pensar em um equilíbrio entre a proteção dos dados e o uso da IA”, defendeu a CTO da Exame, Izabela Anholett. Segundo ela, pouco se fala da importância dos dados para IA generativa, mas é preciso usá-los com parcimônia para fazer as correlações certas e não gerar nenhuma alucinação no modelo da empresa. 

“Estamos muito no começo, na ponta do iceberg. É difícil falar qual vai ser o futuro, pois ainda estamos construindo, vivendo esse momento de descobrir, entender como podemos usar e liderar esse movimento da IA generativa com responsabilidade”, concluiu Izabela.



Matérias relacionadas

Profissional de cibersegurança analisando proteção de dados com elementos visuais de segurança digital, reforçando a importância da governança e controle em IA com Netskope em 2026. Inovação

Cibersegurança em 2026 exigirá governança, resiliência e controle sobre IA

Uso intensivo de IA, avanço da computação quântica e maior pressão regulatória aceleram o amadurecimento da segurança digital e da governança de dados

Profissional usando tecnologia de IA na automação de processos, com painéis digitais e um laptop, destacando inovação e eficiência na gestão de tarefas. Inovação

IA na automação de processos precisa “fazer sentido”

Nível de maturidade da empresa e da equipe que vai utilizar a ferramenta são os dois principais parâmetros para a escolha

Mulher jovem usando smartphone na rua com ilustrações de IA e fumaça roxa, simbolizando a adoção de inteligência artificial no Brasil e suas desigualdades Inovação

IA é adotada por 32% e desigualdade preocupa pesquisadores

Diferenças entre dispositivos, tipos de conexão e letramento restringem benefícios da massificação do acesso à Internet, revela levantamento do Cetic.br

Líder em cenário de incerteza trabalhando com foco utilizando laptop em ambiente de escritório moderno com vista urbana ao fundo. Inovação

Pessoas estão no centro das incertezas e das possibilidades de adaptação

Em um cenário marcado por imprevisibilidade e resistências naturais, liderança e colaboração definem resultados diante de transformações rápidas, diz futurista

    Embratel agora é Claro empresas Saiba mais