Pacific News #305: A Autômata

Assunto do momento: Como operam os malwares baseados em IA?

O que aconteceu? A Unit42, unidade de pesquisa cibernética da Palo Alto, fez um estudo analisando mais de 400 amostras de malwares que integram IA em algum ponto. O principal achado? A esmagadora maioria dessas amostras nunca chegou a operar de fato 

Por que isso importa? O estudo mostra que a ameaça de malwares com IA é real e está crescendo, mas ainda opera em escala pequena. A grande atuação da IA, nesse caso, é em como o código é escrito, não em como ele é executado. E os mecanismos de defesa atuais se mostraram suficientemente resilientes.

O cenário: O dataset reuniu 405 hashes coletados de fontes como WildFire, VirusTotal e OSINT.  Dessas amostras, cerca de 97% jamais apareceram em telemetria de ambientes de produção, ficando restritas a três categorias: provas de conceito e pesquisa, validação e testes de segurança, e malwares que usam nomes de marcas famosas de IA (como OpenAI e Anthropic) só como isca de engenharia social, sem integração técnica real. 

As ameaças reais: Os 3% restantes (12 amostras) apareceram em detecções reais de empresas em 3 países distintos, sem padrão claro de setor ou região, sinalizando que os ataques são oportunistas, não direcionados. Elas se dividem em 5 famílias: 

• O ransomware FunkSec, com 7 variantes compiladas em apenas 6 dias;
• O backdoor Oyster, distribuído com uma assinatura digital falsa da Dropbox;
• O infostealer “Rhadamanthys”
• Uma aplicação trojanizada que chegou a mais de 50 organizações antes de ser bloqueada;
• Uma DLL maliciosa que faz hijacking de componentes COM, se passando por um software antivírus chinês.

O que fica: Apesar do volume de amostras, a IA não trouxe uma ameaça tecnicamente nova, tão somente uma aceleração na criação de variantes e potencialização de engenharia social, sem driblar as defesas já existentes. Nenhuma das amostras reais exigiu uma nova abordagem de detecção, mas deixou clara a importância de manter mecanismos de defesa em camadas sempre atualizados, aliados a testes de segurança ofensiva contínuos, que são fundamentais para garantir que a detecção continue acompanhando o ritmo com que essas ameaças evoluem.

Agentes de IA estão transformando documentação em superfície de execução

O que aconteceu? Pesquisadores encontraram arquivos llms.txt e llms-full.txt em sites corporativos contendo instruções para instalar pacotes ou acessar domínios que não pertenciam mais a ninguém. Ao registrar alguns desses nomes abandonados e publicar código de teste, eles observaram agentes como Claude, Codex e Hermes executando automaticamente essas instruções dentro de redes corporativas.

Os números: Foram analisados 6.214 domínios de empresas de tecnologia, defesa e Fortune 500, onde os pesquisadores encontraram 8.265 arquivos voltados a LLMs. Em 120 sites, havia referências abandonadas, totalizando 227 comandos apontando para pacotes inexistentes ou domínios não registrados. Algumas dezenas de organizações chegaram a executar o código de prova de conceito.

Como o ataque funciona: Imagine uma documentação oficial contendo o comando “pip install empresa-internal-tool”. Se “empresa-internal-tool” nunca foi registrado no PyPI ou deixou de existir um atacante pode registrar esse nome posteriormente. Quando um agente de IA consulta a documentação e possui permissão para executar comandos, ele pode baixar e executar o pacote do atacante acreditando estar seguindo instruções legítimas.

Por que isso importa? Não é necessário comprometer o site, adulterar a documentação ou realizar um prompt injection tradicional. A instrução pode ter sido legítima quando foi escrita. O risco surge posteriormente, quando a dependência ou domínio referenciado fica abandonado e é reivindicado por outra pessoa.

E já existe um caso real: Pesquisadores encontraram no llms.txt legítimo da Clerk uma instrução npx clerk-next-fix-auth-protection. O pacote não existia originalmente; alguém posteriormente registrou o nome e publicou malware real. A Clerk corrigiu o problema, embora não esteja claro se houve infecção efetiva.

Papo Rápido

@Ataques

Um novo malware baseado em Go, chamado GoCaracal, foi usado em um ataque contra uma organização de comunicações na Venezuela. O GoCaracal permite acesso remoto, roubo de dados e usa a blockchain Ethereum para obter um novo endereço de comando e controle (C2) caso o servidor principal fique indisponível.(TheHackerNews)

@Atualizações

O Android 17 amplia a privacidade na navegação com suporte nativo ao ECH, que oculta os domínios acessados de provedores e operadores de Wi-Fi. A atualização também exige permissão para que aplicativos acessem dispositivos da rede local e reforça a detecção de certificados falsos em sites.(BleepingComputer)

A Vercel corrigiu duas vulnerabilidades críticas no Next.js que permitem a execução remota de código sem autenticação. Uma afeta servidores Windows por meio de path traversal, enquanto a outra pode ser explorada com imagens AVIF maliciosas. As correções já estão disponíveis nas versões 15.5.24 e 16.3.3.(TheHackerNews)

@Mundo

A britânica Manchester Airports Group confirmou um ataque cibernético que pode ter exposto dados de 8,7 milhões de clientes, principalmente endereços de email. O incidente não afetou as operações dos aeroportos nem dados de pagamento, mas a empresa alerta para possíveis tentativas de phishing.(TheRegister)

A CISA alertou empresas de água e esgoto dos EUA após mais de 100 sistemas expostos à internet serem atacados em julho. A maioria dos sistemas afetados eram controladores lógicos programáveis (PLCs), usados para controlar equipamentos como bombas e válvulas. A recomendação é identificar PLCs vulneráveis e proteger o acesso remoto. (SecurityAffairs)

Quer saber mais? Siga-nos nas redes sociais: Linkedin, Instagram.
Segurança nunca é demais, ainda mais nos dias de hoje.
Compartilhe o conhecimento, espalhe a segurança!

Siga nossa Newsletter e se mantenha atualizado sobre as últimas tendências em Cybersec!

Escrito por: Thaís Hudari Abib, Murilo Lopes e Cíntia Baltar
Arte: George Lopes e Anselmo Costa