Google a annoncé un déploiement accru de nouvelles fonctionnalités de détection des escroqueries basées sur l’IA sur Android pour aider à protéger les utilisateurs contre les escroqueries d’ingénierie sociale de plus en plus sophistiquées par téléphone et texte.
Le géant de la technologie affirme que ces fonctionnalités viennent en réponse à des campagnes d’escroquerie assistées par l’IA qui, selon les statistiques de la Global Anti-Scam Alliance, ont fraudé des personnes de plus de 1 billion de dollars.
« Aujourd’hui, nous lançons deux nouvelles fonctionnalités de détection des escroqueries basées sur l’IA pour les appels et les SMS, conçues pour protéger les utilisateurs contre des escroqueries de plus en plus complexes et dommageables », lit-on dans l’annonce de Google.
« Ces fonctionnalités ciblent spécifiquement les escroqueries conversationnelles, qui peuvent souvent sembler inoffensives au départ avant de se transformer en situations nuisibles. »
Google avertit que les protections anti-spam traditionnelles conçues pour bloquer ces tentatives sont inefficaces pour arrêter les escroqueries sophistiquées qui se manifestent après que la victime a déjà entamé une conversation avec les fraudeurs.
Pour identifier et arrêter ces escroqueries, Google s’est associé à des banques et à d’autres entités clés pour comprendre les escroqueries auxquelles les consommateurs sont confrontés.
« Pour améliorer nos capacités de détection, nous nous sommes associés à des institutions financières du monde entier pour mieux comprendre les escroqueries les plus récentes et les plus courantes auxquelles leurs clients sont confrontés. Par exemple, les utilisateurs subissent de plus en plus d’escroqueries conversationnelles par sms qui commencent innocemment, mais manipulent progressivement les victimes pour qu’elles partagent des données sensibles, remettent des fonds ou passent à d’autres applications de messagerie. Et de plus en plus d’escrocs d’appels téléphoniques utilisent des techniques d’usurpation d’identité pour cacher leurs vrais numéros et prétendre être des entreprises de confiance.
Les protections anti-spam traditionnelles visent à protéger les utilisateurs avant le début de la conversation et sont moins efficaces contre ces dernières tactiques des escrocs qui deviennent dangereuses au milieu de la conversation et utilisent des techniques d’ingénierie sociale. Pour mieux protéger les utilisateurs, nous avons investi dans de nouveaux modèles d’IA intelligents capables de détecter les schémas suspects et de fournir des avertissements en temps réel au cours d’une conversation, tout en privilégiant la confidentialité des utilisateurs. «
❖ Google Plus
Les nouvelles fonctionnalités de protection contre les escroqueries
Le premier ensemble de fonctionnalités de sécurité est constitué d’améliorations basées sur l’IA des mécanismes de protection anti-spam existants dans Google Messages, l’application de messagerie SMS et RCS par défaut d’Android.
Google indique que la « détection d’escroquerie » pour les messages détectera désormais un plus large éventail de tentatives d’escroquerie, y compris les leurres de livraison d’emplois et d’articles, avertissant les utilisateurs et offrant la possibilité de signaler et de bloquer l’expéditeur.
Le système, activé par défaut, ne sera activé que lors de la réception de messages d’expéditeurs inconnus dont les numéros ne figurent pas dans la liste de contacts de l’utilisateur.
Le déploiement initial couvrira les utilisateurs d’Android aux États – Unis, au Royaume-Uni et au Canada.
Un système similaire sera introduit pour les appels, où l’outil d’IA de Google Gemini Nano analysera les conversations en temps réel pour identifier les tentatives de fraude courantes, telles que la détection de signes de personnes demandant des paiements via des codes de carte-cadeau. La fonctionnalité alerterait l’utilisateur via des notifications audio et haptiques lorsqu’une arnaque est détectée.
Cette fonctionnalité a été annoncée pour la première fois en novembre 2024 et a été testée sur un petit ensemble d’appareils Pixel 6+, mais elle est maintenant déployée auprès de tous les utilisateurs anglophones de Pixel 9 aux États-Unis..
Les utilisateurs de Pixel 9 obtiendront la fonctionnalité via Gemini Nano, tandis que les appareils de la série Pixel 6 à 8 inscrits dans Phone by Google beta seront limités aux modèles Google AI moins puissants.
La détection des arnaques pour les messages et les fonctionnalités de sécurité vocale analysent les données de conversation sur l’appareil sans envoyer d’informations sensibles à Google, de sorte que les nouvelles fonctionnalités respectent la confidentialité des utilisateurs.
De plus, un « bip » caractéristique sera émis au début de la conversation, audible par les deux parties, pour informer les participants qu’une analyse basée sur l’IA est en cours.
Pourtant, Google a décidé de garder la détection des escroqueries pour les appels désactivée par défaut pour atténuer les problèmes de confidentialité.
Les utilisateurs peuvent l’activer en ouvrant l’application pour téléphone, en appuyant sur le menu à trois points dans le coin supérieur droit, en sélectionnant Paramètres → Détection des arnaques (si disponible) et en activant la fonction.
Lorsque la détection d’escroquerie est active, les utilisateurs ont toujours la possibilité de la désactiver lors d’un appel individuel.