Vincenzo Ciancaglini : Les évolutions de la cybersécurité face à l’IA
Vincenzo Ciancaglini, senior threat researcher chez Trend Micro, se penche sur la transformation des risques en matière de cybersécurité. Il interviendra le 25 septembre lors de l’événement hubdate Free, en partenariat avec le JDN.
Une menace cyber en constante évolution
**JDN :** Constatez-vous une évolution de la menace cyber ces derniers mois ?
**Vincenzo Ciancaglini :** Oui, nous assistons à une évolution marquante, surtout en raison de l’utilisation croissante de l’intelligence artificielle dans les cybermenaces. Cette transformation concerne davantage la productivité que la technologie elle-même. Les cybercriminels, tout comme les professionnels de la cybersécurité, tirent parti de l’IA pour gagner en efficacité et élargir leurs méthodes d’attaque. L’ingénierie sociale en est un exemple frappant, particulièrement avec l’essor des deepfakes, désormais accessibles via des applications grand public, ce qui facilite leur utilisation par des acteurs malintentionnés. C’est pourquoi nous mettons en œuvre des innovations pour nous adapter à cette évolution des menaces.
L’exploitation des outils d’IA par les attaquants
Les attaquants profitent de la disponibilité croissante d’outils avancés, notamment grâce aux modèles de langage (LLM). Ces avancées permettent à des individus techniquement moins qualifiés de réaliser des attaques sophistiquées.
Prenons l’exemple du *pig butchering*, une arnaque en pleine expansion. Les escrocs ciblent des personnes isolées sur des plateformes de discussion, nouant des relations fictives avant de les diriger vers des forums de trading de cryptomonnaies. Leur but est de convaincre leurs victimes d’investir dans de fausses opportunités, ce qui entraîne des pertes financières considérables. Nous avions anticipé que l’IA jouerait un rôle facilitateur dans cette arnaque, car chaque étape peut être automatisée, allant de la simulation de conversations par des chatbots à la création de sites web frauduleux imitant les plateformes de trading.
Les applications de l’IA dans les malwares
Concernant la génération de malwares autonomes, nous n’avons pas encore observé leur émergence. Bien que des chercheurs aient présenté des concepts théoriques sur l’utilisation de l’IA à cette fin, la mise en pratique demeure complexe et peu rentable. Actuellement, l’utilisation de l’IA se concentre principalement sur le développement et l’optimisation des processus, sans révolutionner la création des menaces cybernétiques.
Attaques automatisées : une tendance à surveiller
Nous constatons également l’apparition d’attaques automatisées ou semi-automatisées, bien qu’elles soient encore relativement rares et souvent restreintes à des scénarios spécifiques. Avec Europol et les Nations Unies, nous avons mené des recherches sur les utilisations malveillantes de l’IA entre 2019 et 2020. Plusieurs cas concrets ont été identifiés.
Des bots alimentés par l’IA ont été utilisés pour générer du trafic sur certaines plateformes de réseaux sociaux, comme Spotify, en simulant efficacement le comportement humain pour contourner les systèmes de détection et créer des revenus artificiels pour certains artistes. Par ailleurs, nous avons observé des systèmes dédiés à l’analyse de stratégies de poker en ligne, permettant aux utilisateurs de bénéficier d’un avantage déloyal grâce à des recommandations en temps réel.
Un autre cas intéressant est celui d’une attaque par force brute sur des mots de passe, où un réseau neuronal a été entraîné sur des bases de données de mots de passe piratés, rendant le craquage de ceux-ci plus efficace en exploitant les distributions statistiques plutôt qu’en optant pour des méthodologies traditionnelles. Ce type de développement souligne la nécessité de rester vigilant face à l’évolution des cybermenaces.
Conclusion
Face à des défis croissants, la cybersécurité doit s’adapter rapidement aux nouvelles méthodes utilisées par les attaquants. Une meilleure compréhension des enjeux et des évolutions technologies permettra aux entreprises de renforcer leur défense contre les menaces émergentes.