A Europa deu mais um passo em direção à regulação de inteligência artificial no mundo após a aprovação do texto-base para o Ato de IA. Embaixadores dos 27 países da União Europeia negociaram por 38 horas até aprovarem por unanimidade o documento, que, entre outras negociações, tratados sistemas de alto risco das IAs generativas.
A proposta é que os desenvolvedores de IA precisem cumprir regras de transparência, evitar a produção de conteúdos ilegais e divulgar um resumo dos dados protegidos por direitos de autor que foram utilizados para a fabricação, como reportou o Meio&Mensagem.
O que é o Ato de IA?
Em seu perfil no Linkedin, o comissário de mercado interno da UE, Thierry Breton, avaliou como histórica a aprovação do texto-base do Ato de IA e ressaltou que a regulação “é mais que um livro de regras: ela, é uma plataforma de lançamento para startups e pesquisadores da UE liderarem uma corrida global por uma IA mais confiável”.
Na mesma publicação, o comissário destacou pontos importantes do texto, explicando o que é e qual a função do Ato de IA:listados abaixo.
- Estabelece um framework para grandes modelos de IA ou modelos de IA de uso geral.
- Proteção dos direitos fundamentais dos cidadãos, com uma abordagem proporcional baseada no risco, que permite a proibição das utilizações que violem tais direitos.
- Possibilidade de testar sistemas de IA de alto risco em condições reais, com as salvaguardas necessárias.
- Aplicação robusta para o Ato de IA, com punições severas a quem o descumprir.
A comissária da UE para Europa Digital, Margrethe Vestager, declarou em suas redes sociais que a dinâmica da lei é simples: “quanto mais arriscada for a inteligência artificial, maior serão as responsabilidades atribuídas aos desenvolvedores”. Segundo ela, uma das maneiras de cumprir essa obrigação é classificar as empresas por nível de risco, como inaceitável, elevado, IA geral e generativa e risco limitado.
Veja, a seguir, detalhes sobre esses riscos, de acordo com o site do Parlamento Europeu:
Riscos inaceitáveis
São aqueles que representam uma ameaça às pessoas e incluem manipulação cognitivo-comportamental, pontuação social, identificação biométrica e categorização de pessoas singulares e sistemas de identificação biométrica em tempo real e à distância. Salvo exceções, serão proibidos.
Risco elevado
São os sistemas que afetam a segurança ou os direitos fundamentais de maneira negativa. Englobam a gestão e funcionamento de infraestruturas essenciais, educação e formação profissional, emprego, gestão dos trabalhadores e acesso ao trabalho por conta própria. Incluem também o acesso e usufruto de serviços privados essenciais e de serviços e benefícios públicos, aplicação da lei, gestão da migração, do asilo e do controle das fronteiras e assistência na interpretação jurídica e na aplicação da lei. Serão avaliados antes de serem lançados no mercado e enquanto perdurar neste, a fim de garantir a integridade da ferramenta.
Inteligência artificial geral e generativa
Esses sistemas devem promover a transparência através da divulgação do conteúdo gerado por IA, da concepção de um modelo que evite a criação de conteúdos ilegais e da publicação de resumos dos dados protegidos por direitos de autor utilizados para a formação.
Risco limitado
Estes sistemas precisam cumprir requisitos mínimos de transparência que sejam suficientes para que o usuário possa tomar decisões.
