O advento de As ferramentas de hacking de IA têm levantou temores de um futuro próximo em que qualquer pessoa pode usar ferramentas automatizadas para descobrir vulnerabilidades exploráveis em qualquer softwarecomo uma espécie de superpotência de intrusão digital. No entanto, aqui no presente, a IA parece estar desempenhando um papel mais mundano, embora ainda preocupante, no kit de ferramentas dos hackers: está ajudando hackers medíocres a subir de nível e a realizar campanhas de malware amplas e eficazes. Isso inclui um grupo de cibercriminosos norte-coreanos relativamente pouco qualificados que foram descobertos usando IA para realizar praticamente todas as partes de uma operação que hackeou milhares de vítimas para roubar suas criptomoedas.
Na quarta-feira, a empresa de segurança cibernética Expel revelado o que descreve como uma operação de crime cibernético patrocinada pelo estado norte-coreano que instalou malware para roubo de credenciais em mais de 2.000 computadores, visando especificamente as máquinas de desenvolvedores que trabalham em pequenos lançamentos de criptomoedas, criação de NFT e projetos Web3. Ao usar as ferramentas de IA de empresas sediadas nos EUA, incluindo as da OpenAI, Cursor e Anima, o grupo de hackers – que Expel chama de HexagonalRodent – “vibração codificada“quase todas as partes de sua campanha de intrusão, desde a criação de seu malware até a construção de sites falsos de empresas usadas em seus esquemas de phishing. Esse hacking habilitado por IA permitiu ao grupo roubar até US$ 12 milhões em criptomoedas das vítimas em três meses.
O que é mais impressionante na campanha de hackers da HexagonalRodent não é a sua sofisticação, diz Marcus Hutchins, o pesquisador de segurança que descobriu o grupo, mas sim como as ferramentas de IA permitiram que um grupo aparentemente pouco sofisticado realizasse uma lucrativa onda de roubos a serviço do Estado norte-coreano.
“Esses operadores não têm as habilidades para escrever código. Eles não têm as habilidades para configurar a infraestrutura. A IA está, na verdade, permitindo que eles façam coisas que de outra forma não seriam capazes de fazer”, diz Hutchins, que se tornou conhecido na comunidade de segurança cibernética depois de desabilitando o worm ransomware WannaCry criado por hackers norte-coreanos.
Código escrito por IA cheio de emojis
A operação de hacking da HexagonalRodent se concentrou em enganar os desenvolvedores de criptografia com ofertas de emprego fraudulentas em empresas de tecnologia, chegando ao ponto de criar sites completos para as empresas falsas que recrutam as vítimas, muitas vezes criados com ferramentas de web design de IA. Eventualmente, a vítima foi informada de que teria que baixar e concluir uma tarefa de codificação como teste – que os hackers infectaram com malware que se infiltrou em sua máquina e roubou credenciais, incluindo aquelas que, em alguns casos, poderiam conceder acesso às chaves que controlavam suas carteiras criptografadas.
Essas partes da operação de hacking parecem ter sido bem afiadas e eficazes, mas os hackers também foram desajeitados o suficiente para deixar partes de sua própria infraestrutura inseguras, vazando os prompts que usaram para escrever seu malware com ferramentas que incluíam ChatGPT e Cursor da OpenAI. Eles também expuseram um banco de dados onde rastrearam as carteiras das vítimas, o que permitiu ao Expel estimar a quantidade total de criptomoedas que os hackers podem ter roubado. (Embora essas carteiras totalizassem US$ 12 milhões em conteúdo total, Hutchins diz que a empresa não pôde confirmar para cada alvo se a quantia total já havia sido drenada das carteiras ou se os hackers ainda precisavam obter as chaves das carteiras das vítimas em alguns casos, visto que algumas podem ter sido protegidas com tokens de segurança de hardware.)
Hutchins também analisou amostras do malware dos hackers e encontrou outras pistas de que ele foi em grande parte – talvez inteiramente – criado com IA. Ele foi completamente anotado com comentários – em inglês – que dificilmente eram os hábitos de codificação típicos dos norte-coreanos, apesar do fato de alguns servidores de comando e controle do malware os vincularem a operações de hackers norte-coreanas conhecidas. O código do malware também estava repleto de emojis, o que Hutchins aponta que pode, em alguns casos, servir como uma pista de que o software foi escrito por um grande modelo de linguagem, visto que os programadores que escrevem no teclado de um PC em vez de um telefone raramente perdem tempo para inserir emojis. “É um sinal bastante bem documentado de código escrito por IA”, diz Hutchins.
