alucinacoes da ia

Especialistas discutem a importância dos dados contra as alucinações da IA

2 minutos de leitura

Depois da euforia, mercado começa a refletir sobre a qualidade dos dados, pois eles precisam ser confiáveis, evitando as alucinações da IA



Por Redação em 04/10/2023

Não existe Inteligência Artificial Generativa (GenAI) sem uma boa base de dados. Essa é a principal conclusão do mercado depois do boom gerado pelo ChatGPT, e foi o que comentaram especialistas que participaram do primeiro dia do Futurecom 2023, em São Paulo.

Depois da euforia, o mercado começa a refletir sobre a qualidade dos dados, pois eles precisam ser confiáveis, evitando as alucinações da IA, que podem comprometer o uso da tecnologia. Para tanto, é fundamental uma boa gestão dos dados e a capacitação das pessoas que vão gerir sua curadoria.

Essa qualidade da gestão foi defendida por Cláudia Nolla Kirszberg, da IBM, que ainda ressaltou a importância das pessoas estarem preparadas para olhar o processo e ver onde ele pode ser melhorado. Essa construção é enfrentada pelo mercado nacional e vem sendo tratada em cursos específicos para as “novas profissões”, como explica Daniel Domingos, sócio diretor da Cogna Educação.

Sem alucinações, IA do futuro está sendo construída

alucinacoes da ia

Mas é quando interfere positivamente nos processos, que a IA generativa se destaca. No Futurecom 2023, vários exemplos foram apresentados, como o seu uso para agilizar processos jurídicos dentro de bancos, além da resolução de problemas no atendimento de empresas de telefonia ou mesmo na solução de desperdícios na linha de produção de uma indústria. “Precisamos começar a entender como dar acesso aos dados e como conduzir essa jornada, pois as perguntas podem trazer respostas mais difíceis. Temos de ter o nosso framework dentro da nossa governança”, comentou Rodrigo Assad, diretor de Inovação e Produtos B2B na beOn.

Durante algumas palestras, que procuraram focar em IA gerativa aplicadas aos negócios e às profissões, ficou clara a preocupação em discutir dentro de casa os processos e o tratamento dos dados. Bradesco, Claro, IBM e Exame, entre outras empresas, citaram a criação de comitês multidisciplinares para entender os níveis de acesso aos dados próprios e aos que serão coletados. 

Em resumo, foi concluído que toda organização vai ter de trabalhar com dados, mas será preciso garantir precisão a eles, eliminando ainda os vieses. “Em função disso, é fundamental pensar em um equilíbrio entre a proteção dos dados e o uso da IA”, defendeu a CTO da Exame, Izabela Anholett. Segundo ela, pouco se fala da importância dos dados para IA generativa, mas é preciso usá-los com parcimônia para fazer as correlações certas e não gerar nenhuma alucinação no modelo da empresa. 

“Estamos muito no começo, na ponta do iceberg. É difícil falar qual vai ser o futuro, pois ainda estamos construindo, vivendo esse momento de descobrir, entender como podemos usar e liderar esse movimento da IA generativa com responsabilidade”, concluiu Izabela.



Matérias relacionadas

Luciano Saboia, diretor de pesquisa e consultoria em telecomunicações da IDC América Latina Inovação

IA redesenha “chão de fábrica” e produtos das operadoras

Especialista da IDC explica como a inteligência artificial se torna camada estrutural das redes, fortalece AIOps e abre espaço para ofertas customizadas e monetização via Open Gateway

Pessoa interagindo com um smartphone com ícones de inteligência artificial, linguagem de programação e analítica de dados, ilustrando aplicativos com IA. Inovação

Como criar aplicativos com IA sem conhecimento avançado de programação

Guia prático para profissionais que querem transformar ideias em software usando inteligência artificial

Mulher urbana usando jaqueta de pelúcia vermelha, com celular na mão, ao lado de um bonde amarelo na rua durante pôr do sol, ambiente de cidade moderna com pessoas ao fundo. Inovação

IA baseada em texto não equivale à inteligência humana, avaliam especialistas

Modelos de linguagem se baseiam na previsão de padrões de texto e não reproduzem os processos cognitivos da inteligência humana

Homem trabalhando em ambiente de escritório ilustrando a implementação da IA no RH Inovação

Do operacional à estratégia: como a tecnologia redefine o RH

Integração da tecnologia aos processos de recursos humanos acelera atividades operacionais e permite monitoramento de índices como o de inclusão e diversidade

    Embratel agora é Claro empresas Saiba mais