Big brother is listening to you

License: CC0 Public Domain

Google Home, Amazon Echo et consorts sont les derniers chouchous du marché hi-tech. Ces enceintes intelligentes à commande vocale entrent dans les maisons par la grande porte notamment avec le développement de la domotique. Si dans le tourisme ces nouvelles interfaces vont modifier les comportements des voyageurs dans leur recherche de destinations ou même pendant leur séjour, la reconnaissance vocale induit plus largement le déploiement de micros. Depuis quelques mois, les actualités m'interrogent sur ce monde des objets connectés aussi fascinant qu'il est inquiétant. Je vous propose de partager ces réflexions autour d'un thé glacé !

Le marché des objets connectés est en plein essor. Le déploiement de l'Internet des objets s'accélère avec la perspective d'atteindre 8,3 milliards d'objets connectés en service en 2019 et 21,5 milliards en 2025 (Source : IoT Analytics). Un objet connecté se distingue par l' ajout d'une connexion inter-opérante avec Internet ou un autre objet connecté pour apporter une valeur supplémentaire en termes d'interaction ou d'usage avec son environnement. Les enceintes intelligentes en font partie. Elles ont le don de la communication comme elles sont équipés de micros pour entendre vos requêtes et d'enceintes pour diffuser un feed-back.

Il y a déjà deux ans, le hack publicitaire de Burger King m'avait interpellé comme une forme d'alerte. Un spot télé de 15 secondes se concluant par la phrase : " Ok Google, what is the Whopper burger ? ". Vous imaginez la suite, Google Home obtempère en allant chercher la réponse sur la fiche Wikipedia du Whopper, préalablement modifiée par l'agence de communication en charge de la campagne. On applaudit des deux mains cette campagne de communication aussi géniale que diabolique.

Vous allez adorer Yves. Yves a une hygiène de vie irréprochable.Yves est un artiste.Yves est drôle.Yves est un exemple pour les jeunes.Yves a toujours le bon mot, au bon moment.Yves fascine les filles.Yves a gagné l'Eurovision.Yves a triomphé à Cannes.
Yves est l'homme de l'année.

À ce détail près, Yves est un frigo.

C'est le pitch de la nouvelle comédie de Benoît Forgeard qui raconte l'histoire de Jerem, un rappeur un peu loser qui accepte d'installer chez lui un réfrigérateur intelligent censé lui simplifier la vie. On peut s'attendre à un compromis improbable entre plausible et absurde.

Au début du mois, Lidl a mis en vente dans ses magasins son "Monsieur Cuisine Connect", une version connectée de son robot de cuisine, un concurrent direct aux Thermomix, Companion, Cooking Chef et autres Cook Processor. Un véritable raz-de-marée symptomatique des travers de la société de consommation avec un épuisement des stocks en quelques heures.

L'histoire aurait pu s'arrêter à ce succès commercial. C'était sans compter sur la découverte d'un équipement étonnant pour un robot de cuisine : la présence d'un micro caché derrière le pavé de commandes tactile. Face à cet événement inopiné et nuisible à l'image de la marque, Lidl tente de rassurer ses utilisateurs en reconnaissant la présence du micro tout en précisant que celui-ci n'est pas actif et ne peut être activé par le client uniquement de façon fortuite. Mais alors quelle est l'utilité de ce micro ? Il s'agirait d'anticiper les évolutions futures comme par exemple la commande vocale.

Enfin les auteurs de la découverte mettent le doigt sur la version obsolète du système d'exploitation Android qui rendrait le robot vulnérable à de nombreuses attaques tout en soulignant le manque de sécurisation en général sur les objets connectés. Rassurant.

Et après me direz-vous ? Si les hackers apprennent qu'un flan de courgette est au menu du soir, qu'en feront-ils ? Le cours des actions en semences va augmenter ? La réalité pourrait ne pas être aussi cocasse. L'inter-connectivité des applications et des logiciels peut donner accès in fine à d'autres données plus sensibles comme votre calendrier ou vos emails .

Qui n'a pas vécu cette expérience perturbante et cette sensation inconfortable d'être sur écoute. Une amie vous parle de sa dernière lecture. Et comme par magie, quelques minutes après, une librairie en ligne vous propose d'acheter le même livre. Alors que vous ne vous étiez jamais intéressé à cet ouvrage auparavant. Hasard ou coïncidence ?

Une autre expérience similaire est relatée dans le Facebook de l'ami Thomas Yung.

[ PERTURBANT ]Vous la savez peut-être, en ce moment je suis en mission avec Mathieu en Guyane. On intervient ensemble,...

Publiée par Thomas Yung sur Mercredi 12 juin 2019

Pour lancer l'assistant Google sur son téléphone, on peut l'interpeller par un "Ok Google" qui d'ailleurs s'enclenche parfois intempestivement. Pour ce faire, le micro est en permanence ouvert et il appartient à l'utilisateur d'accepter l'utilisation du micro pour ce service. On peut s'interroger d'une part sur la fiabilité de cette permission - que fait réellement Google de nos autorisations et quelles sont les données écoutées, à quelles fins - et d'autre part sur le pourcentage d'utilisateurs réellement conscient sur les conséquences de cette autorisation. Enfin est-ce que le micro du téléphone portable censé être ouvert à la demande, ne le serait-il pas en permanence pour capter nos échanges et utiliser ces données à des fins publicitaires ?

Comme un clin d'oeil au roman d'anticipation de Gorge Orwell qui n'avait finalement qu'une vingtaine d'années d'avance sur ses prédictions, lesquelles prennent corps au XXIe siècle.

La principale figure du roman, Big Brother, est devenue une figure métaphorique du régime policier et totalitaire, de la société de la surveillance, ainsi que de la réduction des libertés. télécran est un objet fictif inventé pour les besoins du roman qui prend la forme d'une télévision qui diffuse en permanence les messages de propagande du Parti, et de vidéo-surveillance qui permet à la "Police de la Pensée" d'entendre et de voir ce qui se fait dans chaque pièce où se trouve un individu.

À l'heure où la société apparaît de plus en plus tiraillée, dans un climat conflictuel à coups de tweets ou d'embargos technologiques , avec des algorithmes surpuissants à disposition pour analyser le big-data, on peut s'interroger sur ces milliards d'objets connectés comme autant de mouchards dormant dans nos foyers. Sans être alarmiste ni complètement paranoïaque, il me semble nécessaire voire même vital de s'interroger dans cette spirale de développement technologique.

Ai-je un réel bénéfice à faire rentrer ces interfaces dans ma vie quotidienne ?

Les membres de mon foyer peuvent-ils s'opposer individuellement à ne pas divulguer leurs données par exemple auprès d'enceintes connectées qui écoutent leur environnement sans distinction.

Si ces interfaces sont par définition pilotables à distance, comment pourraient-elles être utilisées entre de mauvaises mains ?

Ne devrais-je pas favoriser l'achat des produits européens avec des normes plus restrictives sur l'utilisation des données personnelles ? Et vive tant décriée.

Enfin philosopher. Pouvoir commander les objets par la voix est un asservissement absolu. Mais la relation Homme-Machine est-elle aussi unidirectionnelle et manichéenne ?

L'Homme exploite la Machine pour ses services.La Machine exploite l'Homme pour ses données personnelles.
Qui est réellement esclave de l'autre, l'Homme ou la Machine ?

À la lumière de cette philosophie de comptoir connectée, j'ai une pensée pour le déjà regretté Michel Serres . Son appétence sur la philosophie des sciences et sa jeunesse d'esprit vous beaucoup nous manquer. Puisse-t-elles nous inciter modestement à l a prise de recul permanente sur le développement frénétique des usages technologiques quant à leur impact sur notre paradigme sociétal.

Mathieu est Directeur du Pôle marketing digital à Clermont Auvergne Tourisme depuis janvier 2018. Auparavant, il était en charge de l'Animation numérique et du m-tourisme au CRT Auvergne-Rhône-Alpes. Il blogue à titre personnel. Il est co-auteur d'un ouvrage sur le m-tourisme. Twitter @MathieuBruc | Email : mbruc at etourisme.info (adresse email en toutes lettres pour éviter les robots-spammeurs)