La surveillance des traders s'intensifie

Parce qu'elles se voient régulièrement infliger des amendes phénoménales par leurs autorités de tutelle en raison des manquements de leurs traders, les institutions financières renforcent en permanence leur arsenal de contrôle. Pour Deutsche Bank, la prochaine étape pourrait consister à installer une sorte de détecteur de mensonges.
Naturellement, diverses exigences réglementaires imposent déjà plus ou moins explicitement que les conversations de ces collaborateurs aux activités extrêmement sensibles (et soumis à des tentations inavouables) soient systématiquement enregistrées, surveillées et analysées. Dans ce dernier registre, les techniques mises en œuvre jusqu'à maintenant portent cependant uniquement sur le contenu et, en particulier, le vocabulaire employé. Avec un peu de maîtrise, elles deviennent hélas faciles à contourner.
Face à leurs limites, Deutsche Bank explore donc une approche complémentaire, à travers laquelle ce sont cette fois les intonations de la voix qui sont scrutées afin de repérer des indices de malversations. Cette nouvelle tâche est évidemment assignée à l'intelligence artificielle. Entraîné sur les archives d'appels téléphoniques conservés par l'établissement, le modèle est censé appréhender des nuances dans les échanges, par exemple de cynisme, et les corréler avec leur contexte pour lancer ou non l'alerte.
Que les optimistes se rassurent, le projet, pour lequel aucune échéance de déploiement n'est annoncée à ce jour, est maintenu strictement dans les rails de la législation sur la protection de la vie privée. D'autre part, heureusement, la machine n'est pas décisionnaire. Elle joue un simple rôle d'assistance à l'écoute de masse – avec une efficacité et une exhaustivité incomparables – et ses avertissements seront toujours étudiés par un humain, seul juge de leur bien-fondé, dont il faudra néanmoins espérer que les biais psychologiques classiques n'influencent pas son discernement.

L'initiative de Deutsche Bank a de quoi soulever quelques sérieuses questions éthiques et son inadéquation aux enjeux du moment ne fait qu'accentuer leur acuité. En effet, dans l'immense majorité des dossiers récents ayant abouti à de lourdes sanctions, les faits reprochés aux traders concernent leur utilisation d'outils de communication (WhatsApp) échappant à toute supervision. Non seulement la mise en place d'un système supplémentaire d'espionnage des entretiens n'apportera-t-il donc aucune amélioration, il risque encore d'accroître les envies de recourir à ces moyens détournés.
Plus généralement, l'émergence de ce genre d'usages pour l'intelligence artificielle, et pas seulement dans le secteur financier, donne probablement raison à ceux qui s'alarment de la vitesse à laquelle ces technologies progressent, autant par les abus qu'elles peuvent susciter de la part de ceux qui les mettent en œuvre que par les dangers que représentent les erreurs toujours possibles et fréquemment sous-estimées. Le besoin d'un encadrement rigoureux des applications de l'IA devient décidément très urgent.