ia sem controle Imagem gerada por Inteligência Artificial

Ganhadores do Nobel temem ameaça de IA sem controle

2 minutos de leitura

Para cientistas, a tecnologia pode levar a limites indesejáveis, colocando em questão a capacidade humana de controle



Por Redação em 01/11/2024

A dupla vencedora do Nobel de Física de 2024 tem algo em comum: ambos os cientistas temem os perigos do desenvolvimento sem controle da Inteligência Artificial (IA). O estadunidense John Hopfield é pioneiro no campo da IA e recentemente expressou preocupação sobre a falta de conhecimento sobre a operação de sistemas modernos de IA. 

ia sem controle
Foto: Reprodução/ Nobel Prize via YouTube

Em um vídeo gravado da Grã-Bretanha para uma reunião na Universidade de Nova Jersey, o pesquisador de 91 anos comparou os avanços em IA a outras tecnologias poderosas que ele testemunhou em sua vida, como engenharia biológica e física nuclear. Em ambas, ele observou, foi provado que elas podem ter tanto efeitos benéficos quanto devastadores. 

“Como físico, estou muito preocupado com algo que não é controlado, algo que não entendo o suficiente para saber quais limites podem ser impostos a essa tecnologia”, declarou ao site Pressenza. De acordo com ele, os cientistas ainda não entendem completamente como os mecanismos da IA funcionam internamente. Essa falta de entendimento colocaria em questão a capacidade da humanidade de controlar os limites da IA ​​e garantir que seus usos sejam éticos e seguros.

Cautela

Co-ganhador do Nobel de Física ao lado de Hopfield, o canadense Geoffrey E. Hinton é conhecido como o “Padrinho da IA ”, devido ao seu trabalho revolucionário em redes neurais artificiais, uma tecnologia fundamental que sustenta a inteligência artificial moderna.

Apesar do reconhecimento, Hinton tem se tornado cada vez mais cauteloso sobre o futuro da IA. Em 2023, ele deixou seu papel na unidade DeepMind do Google para falar mais livremente sobre os perigos potenciais representados pelo desenvolvimento descontrolado da IA.

Ele alertou que os rápidos avanços na IA podem levar a consequências não intencionais e prejudiciais, incluindo desinformação, deslocamento de empregos e até mesmo ameaças existenciais — incluindo a extinção humana , ou o chamado “risco x”. Ele expressou preocupação de que a própria tecnologia que ajudou a criar pode, eventualmente, superar a inteligência humana de maneiras imprevisíveis, um cenário que ele considera particularmente preocupante.



Matérias relacionadas

Pessoa segurando representações digitais de ícones ligados à sustentabilidade, como energia renovável, reciclagem e redução de CO₂, com um cérebro digital no centro, simbolizando a integração entre IA e ESG. Inovação

Consultoria mapeia oportunidades e ameaças da IA para meio ambiente, trabalho e compliance

Ao mesmo tempo em que viabiliza práticas mais sustentáveis e éticas, tecnologia traz riscos que ainda devem ser incorporados a frameworks de ESG

Painel na Futurecom 2025 sobre 30 anos de Telecom e IA, com destaque para radiobase no foco do debate entre especialistas. Inovação

Especialistas preveem IA embarcada em estações radiobase

Painel na Futurecom revela avanços capazes de transformar o tráfego de dados e impulsionar a inovação em telecomunicações

Profissional verifica servidores em um data center moderno, ilustrando a crescente demanda por energia elétrica, prevista para alcançar 3,6% em 2029. Inovação

Data centers vão consumir 3,6% da energia elétrica em 2029

Mesmo com aumento expressivo da demanda, o setor registra avanços em eficiência energética e adota modelos de resfriamento mais sustentáveis

Uma mulher usando software de IA no laptop, ilustrando a ideia de facilidade de programação com a chegada do ChatGPT-5 no software comercial Inovação

“Faça você mesmo” com IA afeta software comercial

Facilidade de programação do ChatGPT-5 pode ter influenciado desvalorização de companhias de software na Nasdaq

    Embratel agora é Claro empresas Saiba mais