O Google descobriu uma nova geração de malware com inteligência artificial que usa grandes modelos de linguagem (LLMs) durante a execução para gerar dinamicamente scripts maliciosos e evitar a detecção.
Um relatório do Google Threat Intelligence Group (GTIG) destacou ontem duas famílias que, segundo ele, usam “IA just-in-time” dessa maneira – PromptFlux e PromptSteal.
“Essas ferramentas geram dinamicamente scripts maliciosos, ofuscam seu próprio código para evitar a detecção e aproveitam os modelos de IA para criar funções maliciosas sob demanda, em vez de codificá-las no malware”, explicou o relatório.
“Embora ainda seja incipiente, isso representa um passo significativo em direção a um malware mais autônomo e adaptável.”
Leia mais sobre o abuso do LLM:Novo malware “LameHug” implanta comandos gerados por IA
PromptFlux é um conta-gotas escrito em VBScript que “regenera” usando a API Google Gemini. Ele solicita que o LLM reescreva seu próprio código-fonte em tempo real e, em seguida, salve a versão ofuscada na pasta Inicialização para persistência. O malware também tenta se espalhar copiando-se para unidades removíveis e compartilhamentos de rede mapeados, disse o GTIG.
PromptSteal é um minerador de dados escrito em Python que consulta o LLM Qwen2.5-Coder-32B-Instruct para gerar comandos do Windows de uma linha para coletar informações e documentos em pastas específicas e enviar os dados para um servidor de comando e controle (C2).
A GTIG disse que observou o PromptSteal sendo usado pelo ator russo APT28 na Ucrânia, enquanto o PromptFlux ainda está sendo desenvolvido.
Entre as outras famílias de malware habilitadas para IA que o relatório destacou estão:
- Casca de fruta: um shell reverso escrito no PowerShell que estabelece conexões C2 remotas e permite a execução de comandos em um sistema de destino. Ele usa prompts codificados para evitar a detecção pela segurança baseada em LLM
- Bloqueio de Prompt: ransomware escrito em Go que usa um LLM para gerar dinamicamente scripts Lua maliciosos em tempo de execução para reconhecimento, criptografia de dados e exfiltração
- Cofre Silencioso: um ladrão de credenciais JavaScript que usa um prompt de IA e ferramentas AI CLI instaladas no host para pesquisar e exfiltrar segredos
O mercado de malware de IA amadurece
O Google alertou que o mercado de crimes cibernéticos para ferramentas de IA está se desenvolvendo em ritmo acelerado. Ele citou “várias ofertas de ferramentas multifuncionais projetadas para apoiar phishing, desenvolvimento de malware e pesquisa de vulnerabilidades”, o que poderia democratizar ainda mais o crime cibernético.
Também observou esforços contínuos para contornar as proteções em Gêmeos usando “pretextos semelhantes à engenharia social” em prompts. Além disso, o GTIG alertou que os atores do estado-nação estão usando indevidamente o chatbot para ajudar em todos os estágios de seus ataques – desde o reconhecimento e criação de iscas de phishing até o desenvolvimento C2 e exfiltração de dados.
Cory Michal, CSO da AppOmni, disse que o relatório GTIG ecoa o que sua empresa está vendo no cenário de ameaças SaaS.
“O malware habilitado para IA modifica seu código, tornando a detecção tradicional baseada em assinatura ineficaz. Os defensores precisam de EDR comportamental que se concentre no malwarefaz, não o que parece”, acrescentou.
“A detecção deve ser direcionada para a criação de processos incomuns, atividade de script ou tráfego de saída inesperado, especialmente para APIs de IA como Gemini, Hugging Face ou OpenAI. Ao correlacionar sinais comportamentais entre endpoints, SaaSand e telemetria de identidade, as organizações podem detectar quando os invasores estão abusando da IA e detê-los antes que os dados sejam exfiltrados.”
Max Gannon, gerente da equipe de inteligência cibernética da Cofense, argumentou que o uso de IA em todas as etapas da cadeia de eliminação deve ser uma preocupação para os defensores da rede.
“Esta é uma mudança significativa em relação ao ano passado, quando a IA foi usada minimamente com foco em e-mails e kits de phishing”, acrescentou.
“Espero que, em um futuro próximo, os agentes de ameaças empreendedores vendam kits baseados em IA com tudo incluído que geram todas as partes da cadeia de ataque e exigem zero conhecimento – tornando a única barreira à entrada a taxa de assinatura.”