L'espion téléphonique anti-fraude de Microsoft

La lutte contre la fraude est une des applications les plus populaires de l'intelligence artificielle. Beaucoup de malversations commençant par un appel téléphonique, Microsoft propose aux opérateurs de télécommunications un logiciel espion qui les détecte dans les conversations. Comme on dit en anglais : « what could go wrong? ».
D'emblée, le cas de mise en œuvre est une évidence et a de quoi séduire les industries les plus exposées, dont, bien sûr, le secteur financier : à entendre les récits des personnes qui se laissent berner par un escroc au bout du fil, la réaction fréquente de ceux qui maîtrisent un tant soit peu le sujet est une sorte de désespoir de constater que des signaux d'alerte manifestes échappent à leur vigilance avant que le piège ne se referme sur eux. À tel point que l'utilisation d'une IA capable de repérer ces indices et de sonner l'alarme dans ces circonstances semble presque une hypothèse triviale.
L'incarnation que développe Microsoft de ce principe commence « simplement » par une écoute des échanges téléphoniques depuis le réseau de l'opérateur, auquel est donc reliée la solution, elle-même hébergée dans l'infonuagique Azure de l'éditeur. Quand les modèles d'analyse qui traitent ces données en temps réel suspectent une arnaque en cours, ils émettent un SMS d'avertissement à la victime, qui sera complétée à la fin de l'appel par un résumé pédagogique du risque encouru et des précautions à prendre.

À ce stade, le dispositif est déployé sous la forme d'une pré-version gratuite, aucun élément de tarification n'étant affiché pour l'heure. Il faudra néanmoins réaliser l'intégration technique… qui ne sera probablement pas aussi aisée que ne veut le faire croire la communication officielle. Il s'agit, selon toute vraisemblance, de valider son fonctionnement à grande échelle ainsi que d'évaluer l'accueil que lui réserve le public.
Naturellement, des garde-fous sont mis en place afin de garantir le respect de la vie privée. Outre les promesses de sécurité des infrastructures de Microsoft et l'assurance que les contenus (vocaux) des conversations ne sont jamais conservés, l'activation ne devrait se faire que sur demande explicite de l'utilisateur final (sans quoi, incidemment, on peut supposer que le service ne serait pas légal, même aux États-Unis).
Bien que le concept soit a priori attractif, laissant peu de doute quant à son efficacité potentielle dans la prévention de la fraude, la méthode employée ouvre indubitablement une boîte de Pandore. Quelles que soient les arguments fournis en vue d'apaiser les craintes, l'ouverture d'un accès aux réseaux téléphoniques crée inévitablement une brèche qui finira tôt ou tard par être exploitée à des fins malveillantes, jusqu'à la surveillance massive. Aucun objectif ne justifie, je pense, une telle prise de risque.