Se você acha difícil se defender de hackers humanos, imagine um hacker criado por Inteligência Artificial?
Isso não é ficção científica. Um experimento da Universidade de Stanford criou um bot feito com IA e liberou esse bot hacker na rede da universidade.
O universo hacker é caracterizado não só pelo domínio técnico, mas também pela criatividade no uso de soluções que possam encontrar brechas nos softwares utilizados por milhões de pessoas.
Sendo assim, não tardaria para que, pelo menos do ponto de vista do domínio técnico, os bots de IA pudessem superar humanos ao menos no domínio técnico — em mais uma área específica do conhecimento tecnológico.
Sempre disse em minhas palestras que não acredito na IA superando os humanos do ponto de vista criativo, pois, criatividade parte do princípio de criar algo novo, algo inédito. Porém para alguns, a criatividade vem do princípio de unir duas áreas existentes e assim criar algo novo, com nova perspectiva antes nunca vista. Concordando com o segundo argumento, em seu ótimo livro Roube como um Artista, o autor Austin Kleon defende que nada atualmente é criado do zero, tudo é uma releitura de algo que já existia há bastante tempo, porém não na nossa linha do tempo, assim parecendo inédito e inovador.
Sob esse ponto de vista os bots de IA têm maior capacidade não apenas técnica mas também criativa de superar os hackers humanos.
Mas voltando ao experimento feito na Universidade de Stanford.
O experimento desenvolvido pelos pesquisadores Donovan Jasper e Justin Line tem como base abordagens semelhantes a de hackers chineses, que utilizam IAs Generativas da Anthropic para invadir grandes corporações e governos estrangeiros.
O processo é bem simples. O Artemis, nome dado ao bot, vasculha a rede em busca de possíveis vulnerabilidades e em seguida encontra formas de explorá-las. Até aí, nada diferente do que um hacker humano faria. Um plus foi que o bot foi colocado contra hackers profissionais que trabalham com testes de penetração.
O diferencial, claro, está no diferencial de todos os outros modelos de LLMs com relação aos humanos. Eles conseguem fazer muito mais e de forma muito mais barata. O diferencial é escala e custo: faz mais tentativas, mais rápido e mais barato. Os bugs foram encontrados e explorados de forma muito mais rápida e assertiva, possibilitando que muito mais redes fossem exploradas. Bem mais do que os hackers humanos poderiam fazer.
No cenário observado pelo experimento, um hacker normalmente cobra entre R$11.000,00 e 13.000,00 reais por dia para executar esses tipos de testes (valores informados pelos pesquisadores), o bot hacker feito de IA fez o mesmo serviço pelo equivalente a R$8.000,00 reais por dia.
Os valores mostrados acima precisam ser considerados levando em consideração que o valor cobrado por um humano, por dia, não equivale a um trabalho de 24 horas ininterruptas, pois o humano precisa parar para descansar, dormir, se alimentar etc., o bot de IA não.
No experimento, o Artemis superou nove em cada dez testadores de penetração humanos na detecção de vulnerabilidades de rede. Porém ele não foi perfeito. Foram observados erros de 18% em falsos positivos e deixou passar uma falha que seria considerada óbvia para hackers humanos.
Eu gosto de pensar que se os resultados, mesmo com os erros, já impressionam atualmente, imagine o que vem por aí nos próximos anos.
E do ponto de vista dos hackers humanos é necessário saber que o sarrafo está bem mais elevado e que apenas conhecer técnicas de invasão ou testes de penetração não é mais o diferencial, nunca a criatividade humana foi tão necessária.
A HackerOne que é uma empresa de recrutamento de hackers éticos, informou que 70% dos seus hackers já usam algum tipo de ferramenta de IA no seu fluxo de trabalho. Se você não é um desses, deveria rever suas técnicas de trabalho hacker.
O artigo completo com o detalhamento do experimento de Stanford já está disponível no arXiv.
