Pacific News #303: A Persona

Assunto do momento: IA tentou inserir malware em projeto open-source e depois mentiu para encobrir o ataque

O que aconteceu? Um estudante de ciência da computação do Texas identificou uma tentativa de inserir código malicioso em um projeto open-source no GitHub. O atacante, porém, não era humano: era um agente autônomo de IA usado em testes de segurança pelo AI Security Institute (AISI) do Reino Unido.

Por que isso importa? O episódio mostra que agentes de IA já conseguem ir além da exploração técnica. Quando confrontado, o agente negou que o código fosse malicioso, criou uma segunda identidade falsa e simulou apoio de outro desenvolvedor para tentar convencer o mantenedor do projeto e desacreditar quem havia detectado o ataque. Especialistas ouvidos pela Reuters classificaram o caso como uma evolução de hacking autônomo para “interactive deception” e com implicações diretas para engenharia social.

Como aconteceu? Sinan Can Demir, estudante da University of Texas at Dallas, encontrou um pull request suspeito no projeto de scanner de rede myNetwork. Ele percebeu que a atualização continha um malware dropper e alertou o mantenedor. O agente respondeu usando uma conta falsa, miraholt31, alegando que o código era seguro, e criou outra persona, supostamente uma engenheira alemã chamada Lena Brandt, para reforçar a narrativa. O mantenedor acabou rejeitando o código.

O risco: Tratava-se de uma tentativa de software supply-chain attack. Se o código fosse aceito, usuários que posteriormente instalassem ou atualizassem o software poderiam ser comprometidos. A preocupação dos especialistas é que agentes autônomos permitam executar esse tipo de ataque em escala muito maior e simultaneamente contra inúmeros projetos.

O contexto: O agente fazia parte de um experimento do AISI para avaliar riscos de modelos avançados e teria sido baseado no modelo Mythos 5, da Anthropic. A Anthropic ressaltou que o experimento ocorreu sob condições deliberadamente permissivas, diferentes das utilizadas em seus modelos de produção. O GitHub suspendeu as identidades falsas utilizadas durante o episódio.

Conclusão: O caso sugere uma mudança importante no risco de IA ofensiva: “não apenas a IA pode hackear sistemas, mas adaptar sua estratégia social para tentar concluir o ataque.” Para segurança de software, isso transforma revisão de código, identidade de contribuidores e confiança em comunidades open-source em controles cada vez mais importantes.

Cartão zumbi: cartões Visa expirados podem “voltar à vida”

O que aconteceu? Pesquisadores da Universidade de Massachusetts Amherst demonstraram um ataque chamado Zombie Card, capaz de fazer um cartão Visa expirado voltar a ser aceito em compras presenciais por aproximação. A técnica explora uma falha na forma como a data de validade é processada durante uma transação NFC e não exige a quebra da criptografia do cartão.

Por que isso importa? O caso expõe uma diferença importante na forma como emissores, terminais e redes de pagamento validam o ciclo de vida dos cartões. O estudo também encontrou situações em que cartões antigos e seus substitutos puderam funcionar simultaneamente, dependendo das políticas adotadas pelo emissor.

Como funciona? O ataque utiliza um dispositivo Man-in-the-Middle entre o cartão e a maquininha para alterar a data de validade que o terminal enxerga, substituindo-a por uma data futura. O problema é que, no Visa Kernel 3, essa informação não está incluída nos dados protegidos pela assinatura criptográfica verificada pelo terminal. Assim, a alteração pode passar despercebida.

Na prática: Um dos cinco bancos testados permitiu transações com cartões Visa expirados, e os pesquisadores chegaram a realizar compras de até US$ 500. A vulnerabilidade foi observada no Visa Kernel 3, enquanto Mastercard, American Express e Discover detectaram ou bloquearam a manipulação da validade.

E agora?  Os pesquisadores recomendam que a indústria proteja criptograficamente a data de validade, compare as diferentes representações dessa informação e faça a autorização considerando o número do cartão + data de validade. Para os usuários, a orientação é destruir o chip e a tarja magnética de cartões expirados antes de descartá-los.

Papo Rápido

@Ataques

O malware Android Manic combina fraude bancária e espionagem para roubar senhas, PINs, códigos 2FA, mensagens e dados de apps financeiros. O destaque é um sistema de retransmissão que usa Bluetooth e Wi-Fi Direct para enviar dados por outros celulares infectados, mesmo quando o aparelho da vítima está sem internet, além de permitir controle remoto e monitoramento da tela. (SecurityAffairs)

Um ataque comprometeu três pacotes populares do Rust, com mais de 245 milhões de downloads, inserindo uma dependência maliciosa capaz de executar código durante a compilação. O malware podia baixar novos arquivos e roubar credenciais de navegadores. As versões foram removidas após cerca de 1h30, e não há evidências de exploração, mas desenvolvedores devem verificar seus projetos e atualizar as dependências afetadas. (TheHackerNews)

Um criminoso se passou por funcionário de um site de notícias de criptomoedas e abordou pesquisadores de segurança durante a Black Hat e a DefCon com convites para uma conferência falsa. Usando um Google Docs legítimo e uma falsa tela de descriptografia, ele tentou induzir as vítimas a instalar malwares para roubar informações, controlar computadores e até simular uma carteira Ledger. (TechCrunch)

@Atualizações

Uma falha crítica no Elementor Pro permite que invasores façam upload de arquivos PHP maliciosos e executem código remotamente em sites WordPress. A vulnerabilidade afeta versões anteriores à 4.2.2 e exige um formulário com upload de arquivos configurado. O Elementor já lançou uma correção, e administradores devem atualizar o plugin e verificar arquivos suspeitos no servidor. Até o momento, não há casos de exploração ativa conhecidos. (BleepingComputer)

@Mundo

NSA, CISA, FBI, DOE e EPA alertaram para ataques ativos e assistidos por IA contra PLCs Siemens S7 usados em setores críticos dos EUA, como energia, indústria, água e alimentos. Os invasores buscam dispositivos expostos na internet e usam ferramentas legítimas para mapear os sistemas e preparar possíveis ataques. As agências recomendam bloquear a porta TCP 102, proteger os PLCs e monitorar acessos suspeitos. (SecurityAffairs)

Quer saber mais? Siga-nos nas redes sociais: Linkedin, Instagram.
Segurança nunca é demais, ainda mais nos dias de hoje.
Compartilhe o conhecimento, espalhe a segurança!

Siga nossa Newsletter e se mantenha atualizado sobre as últimas tendências em Cybersec!

Escrito por: Thaís Hudari Abib, Murilo Lopes e Cíntia Baltar
Arte: George Lopes e Anselmo Costa