Résumé:
- Les chercheurs ont comparé les messages de spam antérieurs à l’ère GPT avec ceux apparus après celle-ci.
- Aujourd’hui, la plupart des spams sont générés par l’intelligence artificielle.
- Les messages BEC nécessitent une plus grande précision.
Une étude récente a révélé que la majorité des courriers indésirables envoyés aujourd’hui sont rédigés par l’intelligence artificielle générative (GenAI).
Un rapport de Barracuda Networks indique que les cybercriminels n'utilisent pas l'IA pour modifier radicalement leurs méthodes d'attaque, mais plutôt pour les améliorer et les rendre plus difficiles à détecter. Cette amélioration porte sur des aspects tels que la qualité du langage utilisé, la conception des messages et la personnalisation, ce qui les rend plus crédibles.
L'étude a comparé les e-mails envoyés avant l'introduction de ChatGPT (c'est-à-dire avant novembre 2022) et ceux envoyés après, et a observé une évolution significative, les criminels utilisant principalement GenAI pour le spam. Cette évolution représente un défi majeur pour les particuliers comme pour les organisations, car il devient de plus en plus difficile de distinguer les messages légitimes des messages malveillants.
Améliorer la crédibilité
Des études ont montré que d'ici avril 2025, 51 % des spams seront générés par l'intelligence artificielle, plutôt que par des humains. Cette évolution représente un défi majeur en matière de cybersécurité.
Les chercheurs ont expliqué que « la majorité des e-mails actuellement stockés dans le dossier spam/courrier indésirable sont rédigés par un modèle de langage étendu (LLM). » Cela signifie que l'intelligence artificielle est devenue un outil essentiel aux mains des spammeurs.
En revanche, les criminels semblent peu enclins à utiliser l'IA dans les attaques de compromission de messagerie professionnelle (BEC). Selon les chercheurs, ces types d'attaques requièrent une grande précision et ciblent généralement un individu haut placé au sein de l'organisation. Ainsi, en avril 2025, seulement 14 % des attaques BEC étaient générées par l'IA.
Comme prévu, les messages générés par l'IA sont mieux rédigés. Ils présentent un niveau de formalité plus élevé, moins d'erreurs grammaticales et une plus grande sophistication linguistique. Par conséquent, ils paraissent plus crédibles et professionnels aux yeux des victimes, augmentant ainsi leur risque d'être victimes.
Cela signifie également que les cyberattaquants dont la langue maternelle n'est pas l'anglais auront plus de difficultés à cibler les entreprises des pays anglophones. Enfin, les escrocs semblent utiliser l'IA pour effectuer des tests A/B sur différentes variantes de spam, afin de déterminer celles qui fonctionnent le mieux en situation réelle.
La meilleure façon de se protéger contre les spams générés par l'IA est d'utiliser des solutions de sécurité de messagerie basées sur l'IA. Avant l'ère GPT, il était possible de détecter le phishing et le spam simplement en analysant les e-mails : ces messages étaient généralement truffés de fautes d'orthographe et de grammaire, et le langage était souvent grossier et peu familier.
L'IA ayant éliminé ces signaux d'alarme, une solution de sécurité de messagerie avancée, dotée d'une détection multicouche basée sur l'intelligence artificielle et l'apprentissage automatique (IA/ML), est « essentielle », concluent les chercheurs. Cela nécessite d'investir dans des technologies de pointe pour protéger les organisations contre les menaces avancées.
