Na era da inteligência artificial (IA) generativa no direito, com ampla utilização da tecnologia por juízes, desembargadores, ministros e advogados para a elaboração de peças jurídicas, sentenças e acórdãos, um dos principais dilemas que preocupam juristas e especialistas no tema é o possível viés discriminatório ou tendencioso. O que antes era apenas uma dúvida agora já conta com inúmeros exemplos que demonstram que essa possibilidade é real, podendo ocorrer devido às fontes de dados e indicadores utilizados na construção desses resultados.
É o que explica o Juiz Auxiliar do Conselho Nacional de Justiça (CNJ) e Professor Associado de Direito Administrativo da Universidade do Estado do Rio de Janeiro (UERJ), Valter Shuenquener. “A experiência já demostrou que propostas de modelo de IA generativa podem ser tendenciosas, em razão dos dados com os quais ela trabalha, ou seja, ela pode sugerir decisões que são discriminatórias, o que chamamos de ‘discriminação algorítmica’”, disse. Segundo ele, se a IA é tendenciosa, é porque somos preconceituosos. “Existe a possibilidade de preconceito no uso da IA, mas comparando com o preconceito do ser humano, o risco é menor, pois a máquina não trabalha como o sistema humano”, explica o juiz, que participou de painel sobre o tema nesta quarta-feira (16), no ExpoJud, maior congresso de tecnologia, inovação e direito do Brasil, que ocorre em Brasília/DF, de 15 a 17 de outubro.
Coautor do livro “Inteligência Artificial Generativa no Direito”, o Juiz do Tribunal de Justiça do Rio de Janeiro (TJRJ), Fábio Ribeiro Porto, alertou para a importância da supervisão humana em todos os processos onde a tecnologia for utilizada. O magistrado apresentou um case real em que utilizou duas ferramentas de IA para a elaboração de uma sentença de 24 páginas, em apenas 15 minutos.
“É preciso usar isso de forma ética, não é de qualquer modo. Como eu consigo entender a IA? Tenho que saber como se constrói esse prompt (texto em linguagem natural que solicita que a IA generativa execute uma tarefa específica). Tenho que saber que há limites na assimilação da máquina e, sabendo disso, consigo usar de forma ética a IA, e o resultado é fantástico. Hoje existe um novo direito fundamental, o constitucionalismo digital, que tem uma série de regras que precisam ser seguidas”, defendeu o magistrado.
Seguindo esses princípios, avalia o juiz, os benefícios da IA generativa são infinitamente maiores do que as suas fragilidades. “Não podemos abrir mão de ter o ser humano no controle. A inteligência artificial só vai caminhar pelas supervias do judiciário brasileiro com a supervisão humana. Eu já não vejo o judiciário sem a IA”, complementa Fábio Ribeiro Porto, que participou de forma remota do painel.
Presente no debate, o Juiz de Direito do Tribunal de Justiça do Estado do Rio de Janeiro (TJRJ), Anderson Paiva, classifica a IA como uma das maiores e mais disruptivas tecnologias do século. “A IA generativa é a grande invenção do nosso século. Ela não vem para substituir o homem, mas sim para potencializar o conhecimento humano. O desafio, hoje, é processar todo esse mar de informações que temos. Para navegarmos neste tempo em que vivemos, precisamos de uma nova ferramenta, que é IA generativa”.
Tecnologia como motor de inovação na Justiça
Com diversos painéis simultâneos, o segundo dia do ExpoJud contou também com um debate sobre os desafios e soluções tecnológicas que podem impulsionar a inovação no judiciário brasileiro. O Secretário de Tecnologia da Informação e Comunicação do Conselho Superior da Justiça do Trabalho (CSJT), Antônio Francisco Morais Rolla, destacou a importância de um planejamento estratégico organizacional para a condução dos programas de inovação. “Muitas vezes começamos a falar de inovação pela criação de um laboratório para isso, o que pode ser um erro. A inovação precisa ser estratégica, é necessário saber onde está sendo colocada no planejamento institucional, para que toda a organização caminhe para esses objetivos. Não se faz inovação apenas por inovação, mas sim por uma necessidade”.
A falta ou falha de comunicação entre os departamentos de TI e os setores de inovação dos Tribunais, segundo o Secretário de Tecnologia da Informação e Comunicação do Tribunal de Justiça do Rio de Janeiro (TJRJ), Daniel de Lima Haab, pode ser um grande obstáculo para o avanço tecnológico nos órgãos do judiciário. “No Rio de Janeiro, sete de cada 10 projetos de inovação que dão errado têm esse resultado por falta ou falha de comunicação. É preciso haver sintonia entre TI e o laboratório de inovação”.
