Les arnaques numériques par SMS connaissent un succès sans précédent. En 2024, les Américains ont perdu environ 15,6 milliards d’euros à cause de la cybercriminalité, avec près de 200 000 signalements de fraudes comme le phishing et l’usurpation d’identité auprès du FBI. Plus de 440 millions d’euros ont été subtilisés via des escroqueries initiées par SMS, selon la Federal Trade Commission. Face à cette menace, Google a intensifié ses efforts en développant des outils basés sur l’intelligence artificielle pour alerter les utilisateurs sur les messages potentiellement frauduleux.
Extension de la détection d’arnaques via IA sur Google Messages
À l’approche du lancement d’Android 16, Google a annoncé l’expansion de la fonctionnalité Scam Detection dans l’application Google Messages. Cette nouveauté, récemment mise en place, utilise l’intelligence artificielle pour identifier et signaler des messages suspects liés à différents types d’arnaques, notamment les escroqueries à la cryptomonnaie, l’usurpation financière, les faux cadeaux ou lots, et les arnaques au support technique.
Cette technologie fonctionne directement sur les appareils des utilisateurs, sans transmettre ni partager les données ou contenus des messages avec Google. Grâce à cette approche, Android parvient désormais à détecter environ 2 milliards de messages douteux chaque mois.
Une lutte contre un phénomène mondial et complexe
Dave Kleidermacher, vice-président en charge de la sécurité et de la confidentialité chez Android, qualifie cette fraude d’« épidémie » et de véritable fléau mondial. Les groupes d’escrocs, notamment en Chine, envoient des millions de messages frauduleux, réclamant des paiements fictifs ou des informations personnelles liées à de prétendues livraisons postales. Lorsqu’une victime clique sur les liens et saisit ses données bancaires, les fraudeurs s’emparent de ses informations.
Certaines escroqueries sont brutales et rapides, conçues pour subtiliser rapidement un petit nombre d’informations comme un identifiant ou un numéro de carte bancaire. Ces arnaques plus simples sont relativement faciles à détecter. En revanche, les escroqueries plus sophistiquées, telles que les arnaques à l’investissement ou aux sentiments — souvent appelées « pig butchering » — se développent progressivement sur plusieurs mois. Les fraudeurs gagnent la confiance de leurs victimes avant de les pousser à dépenser toutes leurs économies, voire à s’endetter.
Kleidermacher souligne : « Ce type d’arnaque nécessite du temps, ce n’est pas juste un clic sur un lien. Avec l’IA embarquée, il est possible d’observer ces conversations complexes et de détecter les fraudes. »
Exemple concret de détection d’un message frauduleux
Google a partagé une capture d’écran illustrant la fonctionnalité Scam Detection. Un message typique d’arnaque apparaît dans une conversation chiffrée RSC, mentionnant une amende fictive liée au péage EZ Pass non réglée, avec la menace que le droit de conduire pourrait être suspendu. Le message contient un lien menant vers un site de paiement malveillant.
Une alerte s’affiche en bas de l’écran, signalant une « activité suspecte » et proposant plusieurs options : rapporter, bloquer l’expéditeur ou indiquer que le message n’est pas une arnaque.
L’intelligence artificielle au service de la lutte contre la fraude numérique
Google n’est pas seul à exploiter l’IA pour contrer les fraudeurs. D’autres entreprises innovent également dans ce domaine. Par exemple, l’opérateur britannique O2 a développé une « grand-mère IA » destinée à retenir les escrocs au téléphone pour leur faire perdre du temps. De son côté, le youtubeur Kitboga utilise des bots pour appeler simultanément des centres d’appels frauduleux.
Meta, propriétaire de WhatsApp, Messenger et Instagram, a récemment introduit des alertes pop-up invitant les utilisateurs à la prudence lorsqu’un paiement est demandé via un message. Par ailleurs, la société de cybersécurité F-Secure propose un outil en version bêta permettant d’identifier et de bloquer les messages suspects.
Ces protections apportent une couche supplémentaire qui décourage les utilisateurs de répondre aux messages inconnus ou de fournir des informations sensibles, réduisant ainsi le succès des escroqueries.
Perspectives d’évolution pour la détection des arnaques
Selon Dave Kleidermacher, l’impact des systèmes d’apprentissage automatique déployés par Google est très positif, avec une détection en temps réel des messages frauduleux. L’entreprise envisage d’étendre ces mécanismes de protection au-delà de Google Messages, vers d’autres plateformes de communication tierces.
Google teste également depuis peu des fonctionnalités similaires pour la détection d’arnaques lors d’appels téléphoniques, bien que cette innovation ne soit pas encore généralisée.