Em um movimento contra o crescimento desenfreado de iniciativas usando inteligência artificial (IA), Elon Musk e mais de mil líderes da tecnologia e especialistas em inteligência artificial assinaram uma carta sugerindo uma pausa na IA. A carta traz um apelo pela pausa de pelo menos seis meses nas pesquisas sobre sistemas avançados de inteligência artificial (IA) e é assinada por nomes de relevância mundial como o historiador Yuval Noah Harari e instituições como Oxford, Cambridge, Stanford e Columbia, além de empresas como Google, Microsoft e Amazon.
A publicação, no final de março, chamou a atenção de todo o mundo. Entre outras coisas, ela aponta que o avanço desenfreado da tecnologia representa, na prática, grandes riscos para a humanidade. Uma suposta “corrida fora de controle” pelo avanço de sistemas, também é citada.
Pausa na IA
Entre os apontamentos da petição que pede a pausa na IA, está um novo prazo para que sejam estabelecidos sistemas de vigilância e técnicas que ajudem a diferenciar o real e o artificial.
De acordo com Diogo Cortiz, Cognitive Scientist and Futurist e Professor da PUC-SP, ao que tudo indica, o argumento não vai contra a inovação. No entanto, os impactos da IA são gigantescos, principalmente no que diz respeito aos novos caminhos da humanidade. Por isso é tão importante que isso não fique preso a um número reduzido de empresas.
Confira alguns pontos importantes da carta
O jornalista e editor de tecnologia, Luiz Gustavo Pacete, destacou alguns pontos sobre a carta aberta que pede a pausa na IA.
- Planejamento e gerenciamento
- Competição com humanos
- OpenAI e a necessidade de uma revisão independente
- Por que pausar e como proceder?
- Governança e transparência
Sobre o planejamento e gerenciamento, a IA avançada pode sim representar uma mudança na história da vida na Terra, por isso deve ser planejada e gerenciada com cuidados e recursos proporcionais. O que não vem acontecendo hoje.
Em relação à competição com humanos, sim, ela vem acontecendo e provocando perguntas como: “vamos nos deixar enganar por uma avalanche de propaganda enganosa gerenciada por IA?” “Devemos arriscar perder o controle de nossa civilização?”, questiona a carta.
OpenAI e a necessidade de uma revisão independente
A defesa é que, em algum momento, será importante uma revisão independente da inteligência artificial e, por isso, a pausa solicitada deve ser pública e verificável, além de incluir todos os principais atores. “Se a tal pausa não puder ser decretada rapidamente, os governos devem intervir e instituir uma moratória”, registra.
Sobre por quê e como pausar, basicamente os laboratórios desenvolvedores de inteligência artificial devem usar a pausa na IA para desenvolver e implementar em conjunto de protocolos de segurança. Também é preciso governança e transparência.
