Resumo:
- Pesquisadores compararam mensagens de spam antes da era GPT com aquelas que apareceram depois.
- A maior parte do spam hoje é gerada por inteligência artificial.
- Mensagens BEC exigem maior precisão.
Um estudo recente revelou que a maioria dos e-mails de spam enviados hoje são escritos por Inteligência Artificial Generativa (GenAI).
Um relatório da Barracuda Networks indica que os cibercriminosos não estão usando IA para mudar radicalmente seus métodos de ataque, mas sim para aprimorá-los e torná-los mais difíceis de detectar. Essa melhoria inclui aspectos como a qualidade da linguagem utilizada, o design das mensagens e a personalização que os torna mais confiáveis.
O estudo comparou e-mails enviados antes da introdução do ChatGPT (ou seja, antes de novembro de 2022) com aqueles enviados posteriormente e observou uma mudança significativa, com criminosos usando o GenAI principalmente para spam. Essa mudança representa um desafio significativo para indivíduos e organizações, pois se torna cada vez mais difícil distinguir mensagens legítimas de maliciosas.
Aumentar a credibilidade
Estudos mostram que, até abril de 2025, 51% dos e-mails de spam serão gerados por inteligência artificial, e não por humanos. Essa mudança representa um desafio significativo no campo da segurança cibernética.
Os pesquisadores explicaram que "a maioria dos e-mails atualmente na pasta de lixo eletrônico/spam são escritos por um modelo de linguagem de grande porte (LLM)". Isso significa que a inteligência artificial se tornou uma ferramenta fundamental nas mãos dos spammers.
Por outro lado, os criminosos parecem pouco entusiasmados com o uso de IA em ataques de comprometimento de e-mail corporativo (BEC). Segundo pesquisadores, esses tipos de ataques exigem alta precisão e geralmente têm como alvo um indivíduo de alto escalão dentro da organização. Como resultado, até abril de 2025, apenas 14% dos ataques de BEC foram gerados por IA.
Como esperado, as mensagens geradas por IA são melhor escritas. Elas apresentam um nível mais alto de formalidade, menos erros gramaticais e maior sofisticação linguística. Consequentemente, parecem mais confiáveis e profissionais para as vítimas, aumentando suas chances de serem vítimas.
Isso também significa que cibercriminosos cuja língua nativa não seja o inglês terão menos dificuldade em atingir empresas em países de língua inglesa. Por fim, os golpistas parecem estar usando IA para realizar testes A/B com diferentes variantes de spam, tentando determinar quais variações de palavras apresentam melhor desempenho em cenários reais.
A melhor maneira de se defender contra e-mails de spam gerados por IA é usar soluções de segurança de e-mail com tecnologia de IA. Na era pré-GPT, era possível detectar phishing e spam simplesmente examinando e-mails — essas mensagens geralmente estavam cheias de erros ortográficos e gramaticais, e a linguagem era frequentemente grosseira e desconhecida.
Como a IA removeu esses sinais de alerta, uma solução avançada de segurança de e-mail, equipada com detecção em várias camadas habilitada por inteligência artificial/aprendizado de máquina (IA/ML), é "crucial", concluíram os pesquisadores. Isso requer investimento em tecnologias avançadas para proteger as organizações contra ameaças complexas.
