As principais empresas globais de inteligência artificial (IA) firmaram um novo conjunto de compromissos voluntários voltados à segurança da IA. O anúncio foi feito pelos governos do Reino Unido e da Coreia do Sul, durante a cúpula global sobre IA, que aconteceu em Seul.
De acordo com o noticiado por O Globo e o Financial Times, entre as empresas que assumiram esses compromissos estão gigantes como Amazon, Google, Meta, Microsoft, OpenAI (liderada por Sam Altman), xAI (de Elon Musk) e a chinesa Zhipu AI.
Um dos pontos elencados como primordiais pela Cúpula de Seul sobre IA é “desligar seus sistemas de ponta se não conseguirem controlar riscos extremos”. Este anúncio foi baseado na Declaração de Bletchley, feita na primeira Cúpula de Segurança de IA, organizada pelo primeiro-ministro do Reino Unido, Rishi Sunak, em novembro de 2023.
ONU e a segurança de IA
Durante a abertura da Cúpula de Seul, Antonio Guterres, secretário-geral da Organização das Nações Unidas (ONU), declarou sobre a rapidez do avanço tecnológico: “Seis meses após a reunião de Bletchley, estamos vendo avanços tecnológicos que mudam vidas e novos riscos que ameaçam vidas — da desinformação à vigilância em massa e à perspectiva de armas autônomas letais”, apontou em seu discurso.
Segundo ele, será preciso uma espécie de proteção universal, além de muito diálogo para resolver a questão da regulação sobre IA. “Não podemos entrar em um futuro distópico em que o poder da IA é controlado por poucas pessoas — ou pior, por algoritmos além da compreensão humana”, ressaltou.
Em março deste ano, a Assembleia Geral da ONU aprovou o que seria uma primeira resolução global sobre o uso seguro de sistemas de inteligência artificial.
Alguns pontos do documento
O documento oficial dos compromissos voluntários voltados à segurança da IA, assinado por empresários, conta com propostas como:
- empresas de IA devem avaliar os riscos apresentados por seus modelos ou sistemas de fronteira, inclusive mesmo antes de implantar os modelos ou sistemas e, conforme apropriado, antes e durante o treinamento;
- as empresas também deverão definir os “limites nos quais os riscos graves apresentados por um modelo ou sistema, a menos que sejam adequadamente mitigados, serão considerados intoleráveis”. Diante disso, as empresas deverão apresentar um plano de ação para mitigação.
Os compromissos assumidos de forma voluntária têm como finalidade ajudar o setor de tecnologia a “avançar em direção ao desenvolvimento seguro e transparente da tecnologia de IA”. Apesar disso, não há apontamentos sobre o não cumprimento das responsabilidades.
