pausa na ia

Musk, Harari e outros nomes da inovação e tecnologia pedem pausa na IA

2 minutos de leitura

"Carta de trégua na IA" é assinada por mais de mil líderes da tecnologia e especialistas em inteligência artificial



Por Redação em 06/04/2023

Em um movimento contra o crescimento desenfreado de iniciativas usando inteligência artificial (IA), Elon Musk e mais de mil líderes da tecnologia e especialistas em inteligência artificial assinaram uma carta sugerindo uma pausa na IA. A carta traz um apelo pela pausa de pelo menos seis meses nas pesquisas sobre sistemas avançados de inteligência artificial (IA) e é assinada por nomes de relevância mundial como o historiador Yuval Noah Harari e instituições como Oxford, Cambridge, Stanford e Columbia, além de empresas como Google, Microsoft e Amazon.

A publicação, no final de março, chamou a atenção de todo o mundo. Entre outras coisas, ela aponta que o avanço desenfreado da tecnologia representa, na prática, grandes riscos para a humanidade. Uma suposta “corrida fora de controle” pelo avanço de sistemas, também é citada.

Pausa na IA

Entre os apontamentos da petição que pede a pausa na IA, está um novo prazo para que sejam estabelecidos sistemas de vigilância e técnicas que ajudem a diferenciar o real e o artificial.

De acordo com Diogo Cortiz, Cognitive Scientist and Futurist e Professor da PUC-SP, ao que tudo indica, o argumento não vai contra a inovação. No entanto, os impactos da IA são gigantescos, principalmente no que diz respeito aos novos caminhos da humanidade. Por isso é tão importante que isso não fique preso a um número reduzido de empresas.

Confira alguns pontos importantes da carta

O jornalista e editor de tecnologia, Luiz Gustavo Pacete, destacou alguns pontos sobre a carta aberta que pede a pausa na IA. 

  • Planejamento e gerenciamento
  • Competição com humanos
  • OpenAI e a necessidade de uma revisão independente
  • Por que pausar e como proceder?
  • Governança e transparência

Sobre o planejamento e gerenciamento, a IA avançada pode sim representar uma mudança na história da vida na Terra, por isso deve ser planejada e gerenciada com cuidados e recursos proporcionais. O que não vem acontecendo hoje. 

Em relação à competição com humanos, sim, ela vem acontecendo e provocando perguntas como: “vamos nos deixar enganar por uma avalanche de propaganda enganosa gerenciada por IA?” “Devemos arriscar perder o controle de nossa civilização?”, questiona a carta. 

OpenAI e a necessidade de uma revisão independente

A defesa é que, em algum momento, será importante uma revisão independente da inteligência artificial e, por isso, a pausa solicitada deve ser pública e verificável, além de incluir todos os principais atores. “Se a tal pausa não puder ser decretada rapidamente, os governos devem intervir e instituir uma moratória”, registra.

Sobre por quê e como pausar, basicamente os laboratórios desenvolvedores de inteligência artificial devem usar a pausa na IA para desenvolver e implementar em conjunto de protocolos de segurança. Também é preciso governança e transparência.



Matérias relacionadas

Cidade com arranha-céus ao entardecer e sobreposição de ícones tecnológicos, como câmeras de segurança e sensores, sugerindo monitoramento e automação urbana Inovação

Conectividade IoT: como cidades inteligentes integram infraestrutura e dados

NB-IoT, medição inteligente, iluminação conectada e redes elétricas digitais ampliam a capacidade de automação dos serviços urbanos

Pesquisadora em laboratório de tecnologia avançada observa um equipamento de pesquisa com tubos e luzes, enquanto registra dados em um tablet, sugerindo componentes quânticos e experimentos científicos. Inovação

IBM avança na fabricação de componentes quânticos com aporte de US$ 1 bi nos EUA

Investimento em fábrica de Nova York busca acelerar a passagem da pesquisa quântica para a produção em escala industrial

ChatTJB: Equipe trabalhando em escritório ao redor de computadores, com elementos visuais de comunicação e mensagens sobrepostas ao fundo, estilo colagem. Inovação

ChatTJB: o chatbot que troca inteligência artificial por pessoas reais

Projeto criado por ex-gerente do Google questiona a confiança excessiva em respostas automatizadas e chama atenção para os efeitos da IA sobre o raciocínio dos usuários

Celular com a logo da OpenAI na tela apoiado em um teclado com símbolos e teclas desfocados ao fundo. OpenAI restringe recursos de cibersegurança do Astra após classificação crítica. Inovação

OpenAI restringe recursos de cibersegurança do Astra após classificação crítica

Empresa limita recursos avançados de cibersegurança após modelo atingir nível crítico de capacidade e adota medidas adicionais de proteção