Uso da Inteligência Artificial em conformidade com as leis de privacidade dos usuários vai permitir que empresas criem serviços e produtos de valor.
A Inteligência Artificial tem transformado negócios, mas você acha que ela deve ser regulamentada? Pois bem, não é novidade que discussões sobre encontrar meios de “governar” a tecnologia ficaram cada vez mais bem acentuadas.
Em setembro de 2019, a Comissão da União Europeia definiu que, a partir de 1º de dezembro daquele ano, o bloco econômico teria um prazo de 100 dias para apresentar uma legislação referente ao uso de IA.
Já recentemente, Sundair Pichar, CEO do Alphabet, conglomerado de empresas do Google, publicou um editorial no site do jornal Financial Times discutindo a necessidade de uma regulamentação da IA, principalmente em relação ao reconhecimento facial e deepfakes.
Mas o problema é: como seria essa abordagem?
Na opinião de Keylla Saes, coordenadora do MBA em Inteligência Artificial da FIAP, é preciso discutir a regulamentação da IA em diversos aspectos. Por exemplo, em um modelo preditivo para entender o comportamento do usuário, o nível de regulamentação seria mais complexo porque envolve dados pessoais.
“Mas se uma solução de Inteligência Artificial não ferir essas questões [de privacidade do usuário], ela não vai precisar de uma regulamentação mais criteriosa. Embora a discussão deva ser entre a tecnologia e a técnica [aplicada no desenvolvimento de soluções] para saber como regular a IA”, explicou.
O que alguns países (inclusive o Brasil) já estão fazendo?
Antes de explicarmos o impacto de regulamentar a Inteligência Artificial, é válido mostrar que diversos países já têm tomado medidas para utilizar a tecnologia de forma a evitar danos para a sociedade. Um exemplo é quando ela é integrada ao reconhecimento facial.
A cidade de São Francisco (Estados Unidos), no ano passado, aprovou uma lei que bane o uso do reconhecimento facial pela polícia e outras agências públicas. A medida tem como objetivo evitar a injustiça racial e limitar os direitos dos cidadãos.
Enquanto isso, a União Europeia considera banir também o reconhecimento facial em espaços públicos durante um período de cinco anos. É o tempo, segundo a UE, para descobrir como evitar possíveis abusos.
Já a China publicou, em junho do ano passado, os “Princípios de Governança da IA”. O documento fornece uma estrutura e diretrizes para promover o desenvolvimento saudável de soluções baseadas na tecnologia. Esse guia é apoiado por oito princípios que afirmam que a tecnologia deve ter como objetivo melhorar o bem-estar da humanidade:
- Harmonia e simpatia.
- Equidade e justiça.
- Inclusão e compartilhamento.
- Respeito pela privacidade.
- Segurança e controlabilidade.
- Responsabilidade compartilhada.
- Cooperação aberta.
- Governança ágil.
Com isso, o país espera diminuir o viés no desenvolvimento de algoritmos e estabelecer padrões para a coleta, armazenamento, processamento e uso de informações pessoais dos cidadãos.
Aqui no Brasil, a regulamentação da Inteligência Artificial dá os seus primeiros passos no Senado Federal. É lá que tramita o Projeto de Lei 5.051/2019, do senador Styvenson Valentim (PODEMOS/RN). A emenda quer estabelecer os princípios para o uso de Inteligência Artificial no Brasil.
O texto tem sete artigos e propõe que o uso da tecnologia deve ter como finalidade o bem-estar geral, a promoção e harmonização do trabalho humano e do desenvolvimento econômico. Também é clara em definir que sistemas decisórios baseados em IA devem sempre ser um apoio para a tomada de decisão feita por um humano.
“O projeto de lei quer trazer uma harmonia entre a Inteligência Artificial e a sociedade, que é cada vez mais digital. Criar princípios da tecnologia é uma forma de limitar a invasão de privacidade e evitar alguns perigos, como o uso deepfakes”, explicou o senador Styvenson Valentim em conversa com o Próximo Nível. “A grande questão é que a IA ainda precisa de um ser humano para ser alimentada e tomar decisão. Então, é uma forma de gerar responsabilidades sobre o uso da tecnologia.”
Atualmente, o PL está na Comissão de Ciência, Tecnologia, Inovação, Comunicação e Informática (CTT) para o senador Rogério Carvalho emitir um relatório sobre a pauta.
Por que regulamentar a Inteligência Artificial?
Por mais que soluções de IA tragam agilidade e desenvolvam novos modelos de negócio, o viés ainda é considerado um grande problema. Até porque os algoritmos da tecnologia aprendem a partir da visão de mundo de uma pessoa humana.
Neste post do Próximo Nível, você descobre mais como o viés de IA pode prejudicar negócios.
Em artigo para o site The Washington Post, R. David Edelman, líder de pesquisa sobre políticas para IA na Internet Policy Research Initiative do MIT, destacou que regulamentar a Inteligência Artificial é vê-la como ferramenta de inúmeros usos e não como uma tecnologia única.
Como apontou o pesquisador, os sistemas de IA podem ser tendenciosos e não cumprir as tarefas que são atribuídas a eles. “Isso é um problema quando esses sistemas são colocados em papéis de confiança pública, como emitir sentenças criminais”, escreveu.
Mas isso acontece, segundo Keylla Saes, porque há um agente humano por trás do algoritmo de IA. “É ele que vai entregar uma gama de dados para o algoritmo tomar uma decisão”, disse. No entanto, a coordenadora ressaltou que fazer um tratamento prévio dos dados já pode diminuir esse viés. “Seja tirando informações que não estão completas ou qualificadas; ou ampliando ou reduzindo o histórico de consumo de um cliente”.
Como a regulamentação da IA vai impactar a sociedade?
Possivelmente você sabe que treinar uma IA não é uma tarefa fácil e pode trazer dores de cabeça para as empresas. Recentemente a Apple foi acusada de sexismo ao garantir um limite maior de crédito do Apple Card para consumidores homens do que a mulheres.
Essa situação fez a agência reguladora de Wall Street abrir uma investigação contra a companhia, mas também gerou desconfiança dos consumidores do serviço da Apple. Regulamentar a IA, defende Edelman, é criar e manter a confiança do público na tecnologia.
Por isso, uma sugestão do pesquisador é que as agências reguladoras criem um catálogo das soluções baseadas em Inteligência Artificial com os supostos riscos que esses sistemas podem trazer não só para as empresas, mas também para os clientes.
“É ter consciência da segurança da informação. Os cidadãos precisam se sentir confortáveis com o uso dos dados por parte das empresas. Já as empresas precisam se questionar se a quantidade de dados usados pela IA não vai ferir a privacidade desses consumidores”, destacou Keylla Saes.
A inovação vai ter espaço com a IA regulamentada?
Vai, mas apenas para as empresas que entendam bem o valor do cliente. Ainda mais com a proximidade da Lei Geral de Proteção de Dados Pessoais (LDPG), prevista para entrar em vigor em agosto de 2020.
“A regulamentação da IA já vem sido debatida na União Europeia desde a GDPR. Por isso é uma tendência esse assunto avançar naturalmente no Brasil. No entanto, as empresas que não se prepararem [para o uso de IA de acordo com a LGPD] podem não conseguir inovar”, disse Keylla.
Como explica a coordenadora, inovar exige diversos níveis de maturidade. “Mas se uma empresa quer criar uma boa relação com as pessoas, ela precisa usar a Inteligência Artificial para oferecer um serviço de qualidade. Isso vai resultar em um cliente que confia na marca e dá o consentimento para que as informações dele sejam usadas posteriormente”, finalizou.
Principais destaques desta matéria:
- Regulamentação da Inteligência Artificial tem sido debatida em vários países.
- Estados Unidos, União Europeia e China avançaram em medidas para evitar o mau uso da IA.
- Para Keylla Saes, coordenadora do MBA em Inteligência Artificial da FIAP, regulamentação da tecnologia não vai impactar a inovação.
