“Quando a inteligência artificial começa a pensar como um hacker – em velocidade e escala desumanas – os resultados podem ser catastróficos”. O trecho do livro de Bruce Schneier que apresenta o tema: A Hacker’s Mind: How the Powerful Bend Society’s Rules, and How to Bend Them Back (na tradução, A Mente de um Hacker: como os poderosos dobram as regras da sociedade e como dobrá-las de volta).
Muito tem se dito sobre as questões éticas que envolvem o desenvolvimento e a prática de inteligências artificiais. Seus limites, enquanto máquina, também são questionados se pensarmos que ainda precisam de comandos para iniciarem qualquer atividade. Muito em função disso, na maioria das vezes, a IA age dentro de espectro delimitado.
“Pelo menos por enquanto”, é o que afirma o especialista em cibersegurança, que traz à tona a discussão sobre o novo momento da segurança digital. Em tempos de inteligência artificial em pleno desenvolvimento e prática, é preciso compreender as questões éticas e legais envolvidas na atividade.
Mas… isso pode mudar!
- Alguns agravantes que impactam no futuro do hacking
- A ambiguidade no hacking de IA
- O sistema financeiro
Alguns agravantes que impactam no futuro do hacking
Hoje os computadores aceleraram o hacking em quatro dimensões: velocidade, escala, escopo e sofisticação. Com o uso da inteligência artificial isso será ainda mais perceptível.
Velocidade
O que o processo humano do hacking levava meses ou anos, agora se reduz a dias e horas. Logo estaremos falando em segundos. As vulnerabilidades e brechas dos sistemas serão identificadas rapidamente pela inteligência artificial.
Escala
Quando a IA começar a descobrir hacks, eles explorarão em uma escala para a qual não estamos preparados. Então, será possível que as IAs “esmaguem” os sistemas financeiros, por exemplo, porque elas dominarão esse espaço. Os impactos disso na sociedade podem ser muito maiores do que se imagina, uma vez que a IA será utilizada por bancos e investidores, e não pelo cidadão comum.
Escopo
Alguns sistemas sociais lidam com hacks, que por sua vez, foram desenvolvidos por hackers humanos. Quando a inteligência artificial hackear, com rapidez e eficiência, será uma disparada de fatos que provocarão, acima de tudo, desigualdade.
Sofisticação
Os hacks assistidos por IA terão a capacidade de fazer análises sofisticadas da mesma forma que os melhores estrategistas e especialistas reconhecem. Por exemplo, em uma eleição, eles poderão identificar tudo o que precisa ser feito (e até manipulado), para conseguir o resultado esperado.
De acordo com Schneier, isso pode se tornar um problema real para a sociedade.
“Na velocidade, escala, escopo e sofisticação do computador, o hacking se tornará um problema que nós, como sociedade, não poderemos mais administrar”.
A ambiguidade no hacking de IA
Imagine o universo criado e comandado por inteligência artificial. Em um primeiro momento, ele precisa de informações para manter o funcionamento. Os ambientes de IA são simulados e recebem regras especificas para que operem.
E é justamente nesse ponto onde entram os questionamentos de Bruce Schneier. Segundo ele, a IA ainda não tem a capacidade de “pensar e agir” como humanos, dependendo exclusivamente de comandos para que chegue o mais próximo possível disso. Para as máquinas, são apenas códigos e normas a seguir.
A ambiguidade dos sistemas sociais complexos oferece (ainda) uma defesa de segurança de curto prazo contra o hacking de IA. Os sistemas ainda possuem brechas que podem resultar facilmente em ataques cibernéticos. A discussão é: quanto tempo a inteligência artificial precisará para dominar qualquer sistema?
A busca por reconhecimento, dinheiro e até mesmo o desafio, foram fatores que sempre motivaram ataques hackers. Hoje, para entender as ameaças digitais, é preciso um passo a mais.
“Embora a IA possa ser o problema de amanhã, estamos vendo seus precursores hoje. Precisamos começar a pensar em soluções exequíveis, compreensíveis e éticas, porque se podemos esperar alguma coisa com a IA, é que precisaremos dessas soluções mais cedo do que poderíamos esperar”, aponta o especialista.
O sistema financeiro
De acordo com Schneier, o sistema financeiro deve ser o primeiro a ser atacado, uma vez que as regras são projetadas para funcionarem por algoritmos.
Uma IA do universo financeiro pode ser projetada para buscar o “lucro máximo legal”, por exemplo. Para isso, será atualizada com informações financeiras de todo o mundo e em tempo real. E então terá acesso a todas as leis e regulamentações, além de notícias e outros fatos relevantes sobre o setor.
Para Bruce Schneier, isso não está muito longe de acontecer. “O resultado será todo tipo de hacks novos e completamente inesperados. E provavelmente haverá alguns hacks que simplesmente estão além da compreensão humana, o que significa que nunca perceberemos que estão acontecendo”, explicou.
Sua linha de raciocínio contempla ainda a possibilidade do surgimento de hacks colaborativos entre IA e humanos, num cenário onde hacking de IA identifica a vulnerabilidade do sistema para que os profissionais passem a explorá-la visando o lucro.
