Comment les technologies intelligentes s'apprêtent à dominer notre existence. En effet, les entreprises technocratiques utilisent des appareils intelligents dans le but d'extraire des données du corps humain, des habitations et des interactions avec les services de police et les administrations.
Tout ce que vous faites devient une source de valeur qu'elles rassemblent, analysent et vendent aux compagnies d'assurance, aux détaillants et aux sociétés de surveillance. Tant les autorités que les entreprises se servent des données pour vous contrôler par des méthodes déguisées - ou flagrantes - visant à influencer votre comportement.
Les technologies intelligentes sont omniprésentes dans notre vie.
Les technologies intelligentes font référence à tout appareil capable de collecter des données, de se connecter à un réseau et d'améliorer le contrôle. Elles ne seront bientôt plus facultatives lorsque vous achèterez, par exemple, une brosse à dents électrique, et feront partie des fonctionnalités standard. Vous n'aurez plus la possibilité de refuser que quelqu'un suive vos déplacements, votre comportement et vos préférences.
Pour chaque individu qui bénéficie de la technologie, il y en a d'autres qui en pâtissent. La technologie est, par essence, politique, en ce sens que certaines personnes auront le pouvoir de prendre des décisions sur la manière dont d'autres individus vivent et travaillent. Les technocrates qui détiennent le pouvoir font partie d'une oligarchie. Or, lorsque les citoyens ne participent pas aux décisions qui régissent leur vie, ils deviennent de fait soumis à un État autoritaire.
" L'impératif du contrôle consiste à créer des systèmes qui surveillent, gèrent et manipulent le monde et les individus. "
Dans cette nouvelle ère de 'capitalisme numérique', la techno-politique se présentera sous trois aspects :
- Les intérêts : les technologies intelligentes développent et font progresser les intérêts des entreprises, en leur donnant la priorité sur l'autonomie humaine, les biens sociaux et les droits démocratiques.
- Les impératifs : le capitalisme numérique cherche à la fois à extraire des données et à exercer un contrôle sur tout et sur tous.
- Les impacts : en échange d'une certaine commodité et d'une connexion, les individus doivent faire face à des changements soudains dans leur vie et en matière de respect de la vie privée.
Il n'existe aucun complot visant à porter préjudice à la société ou à ses membres. À la place, le système favorise les intérêts privilégiés. Pour s'orienter parmi les principes 'd'exclusion, d'extraction et d'exploitation' du capitalisme, la société doit évaluer d'un œil critique les dangers et les menaces du capitalisme numérique.
Les données sont une forme de capital : ceux qui en ont le plus ont le plus de pouvoir.
Amazon a transformé le commerce de détail, bousculant d'autres géants tels que Walmart et faisant récemment l'acquisition de Whole Foods. Amazon Web Services est une véritable tour de contrôle dans le Cloud, et s'apprête à étendre sa portée dans notre vie quotidienne.
Les entreprises et les pouvoirs publics utilisent ce service pour les calculs informatiques et pour stocker des données. Whole Foods, par exemple, enregistre la manière dont les clients font leurs courses dans ses magasins, transformant ainsi ses points de vente physiques en 'sites Internet physiques'.
En échange de cette surveillance continue et si vous renoncez à la confidentialité de vos données personnelles, Amazon facilitera vos achats grâce à la facturation automatique. Il s'agit là d'un exemple de 'terraformation' par les technologies intelligentes, à savoir le modelage de la société pour servir les objectifs du capitalisme numérique.
" Comme d'autres projets politiques, la construction de la société intelligente est une bataille des idées. "
Les données sont une forme de capital, similaire à l'argent ou aux marchandises, et offrent une multitude d'applications. Elles peuvent être utilisées de la manière suivante :
- Établir le profil des individus pour les cibler :mieux vous connaître est rentable pour les entreprises, notamment à travers les annonces personnalisées.
- Optimiser les systèmes : les données sont utilisées pour accroître l'efficacité et réduire le gaspillage, dans une optique d'économie.
- Gérer notre environnement : les informations extraites des données, telles que les statistiques sur une application de santé pour surveiller son poids ou les flux de trafic dans les villes, servent à améliorer les systèmes.
- Modéliser les probabilités : les données permettent d'effectuer des prévisions, par exemple, identifier 'les points chauds' d'un quartier.
- Favoriser la création : l'IA et l'apprentissage automatique facilitent la création de plateformes dépendantes des données. Sans données, l'entreprise de taxis Uber n'existerait pas.
- Accroître la valeur des actifs :les données intelligentes permettent de ralentir la dévaluation d'actifs tels que les machines et les voitures.
Les technocrates veulent construire un monde de données, et transformer n'importe qui, n'importe où et n'importe quel processus en profit. Cependant, les données ne sont pas uniquement là pour être découvertes. L'extraction de données est une formulation trompeuse, tout comme l'affirmation selon laquelle les données seraient 'le nouvel or noir'. Les deux impliquent à tort que les données existent dans le but d'être extraites.
Or, ces allégations ne reflètent pas le fait que les entités technocratiques fabriquent des données avec certains objectifs, et en ne dédommageant pas les individus pour ces données, elles exploitent et dépouillent ceux-ci.
Le capitalisme numérique réduit les individus à des flux de données.
Il existe trois types de pouvoir dans la société : le pouvoir souverain, le pouvoir disciplinaire et le pouvoir de contrôle. Pendant des siècles, le pouvoir souverain s'est appuyé sur la force pour obtenir le respect des lois. Plus tard, des institutions telles que l'école ou le lieu de travail ont inculqué le pouvoir disciplinaire par le biais de normes et de croyances.
Le capitalisme numérique, via les technologies intelligentes des applications, des téléphones ou du Wi-Fi, est un régime de contrôle qui définit des paramètres et surveille les comportements en permanence, et en temps réel.
" Les technologies intelligentes améliorent la capacité à choisir une caractéristique, une action ou une catégorie, et à la rendre représentative de l'ensemble de la personne. "
Le capitalisme numérique exerce son pouvoir en transformant un individu en ce que le philosophe français Gilles Deleuze (1925-1995) appelle un 'dividuel'. Au lieu d'interagir avec une personne dans son intégralité, le système interagit avec ses parties distinctes. Lorsque des capteurs relèvent votre température ou comptabilisent vos pas et transmettent ces données pour agrégation, un profil est créé sur base de vos comportements ou de vos actions. Les courtiers en données vendent ensuite cette information aux entreprises et aux gouvernements.
Ces données permettent de mieux cibler les consommateurs et aident les forces de police, les employeurs et les administrations à évaluer, par exemple, qui serait susceptible de commettre un crime ou qui risquerait de ne pas pouvoir rembourser un emprunt.
Ces flux de données ont une incidence significative et croissante en matière d'assurance. Aux États-Unis, l'assurance maladie est liée à l'emploi, et pour promouvoir le 'bien-être' de leurs salariés, les entreprises surveillent de plus en plus la santé de leurs employés à l'aide de technologies portables.
Ces données sont ensuite transmises à des fins d'analyse, et le résultat influence les avantages sociaux accordés aux employés. D'autres technologies de soins de santé à domicile captent secrètement des données pour surveiller et sanctionner les utilisateurs qui les utilisent de manière inappropriée.
" Les assureurs peuvent enfin remplacer le vieil adage 'faire confiance, mais vérifier' par 'se conformer, sinon...' "
Les compagnies d'assurance automobile surveillent vos habitudes de conduite et adaptent vos primes en conséquence. Le secteur des assurances se substitue à celui de la publicité pour financer les technologies intelligentes à mesure que la portée et l'influence de celles-ci s'accroissent.
En fixant les taux de primes en fonction des activités quotidiennes de leurs assurés, les assureurs influencent leur comportement. Ce pouvoir transcende celui qu'exerce le gouvernement sur nos vies. La rentabilité s'impose en reine.
Les systèmes de crédit social et le micromanagement des travailleurs par le biais des technologies intelligentes sont des outils d'influence comportementale.
La Chine est un exemple de pays qui déploie des flux de données pour exercer un contrôle total. Zhima Credit (Sesame Credit) a conclu un partenariat avec Alibaba, le plus grand réseau social du pays, pour transformer ses flux de données massifs en un Système de crédit social intégré.
La note à trois chiffres accolée à un individu reflète sa valeur, sa réputation et son statut. Zhima exploite les données collectées auprès de diverses sources qui touchent à la vie professionnelle et à la vie privée. Avoir une note élevée présente des avantages, alors qu'un faible score relègue les individus au rang de 'sous-classe numérique'.
La Chine prévoit de généraliser son Système de crédit social intégré en 2020 avec la ligne directrice suivante : 'Si la confiance est rompue dans un seul domaine, des restrictions s'imposent dans tous les domaines.'
" C'est l'étrange vérité complotiste de la société de surveillance dans laquelle nous vivons : des entités inconnues recueillent nos données à des fins inconnues. "
Aux États-Unis, la surveillance invasive s'accroît sur la main-d'œuvre sous-qualifiée à bas prix. Amazon, par exemple, contrôle le moindre déplacement des employés de ses centres logistiques. D'autres entreprises se servent de logiciels espion pour enregistrer les frappes au clavier de leurs collaborateurs en télétravail, et équipent de puces les employés chargés de l'ouverture des portes et du fonctionnement de leurs distributeurs automatiques.
Si le capitalisme a depuis longtemps réduit le travail à sa seule valeur monétaire aux dépens du bien-être des salariés, il exploite désormais ces derniers de manière inédite et intrusive. Les gens laissent les technologies intelligentes pénétrer dans leur vie et dans leur foyer pour répondre à une idéologie née dans la Silicon Valley : chaque problème a une solution technologique. Ce 'solutionnisme' technocratique néglige les valeurs humaines au profit des seules valeurs techniques.
La ville intelligente est une 'machine de guerre urbaine' dans laquelle la surveillance de masse criminalise la vie quotidienne.
Certains pensent que 'la ville intelligente' sera une 'utopie technologique' au sein de laquelle les individus pourront mener une vie harmonieuse, encadrée par des équipements de pointe, parce que les organismes de collecte des données suivront leurs déplacements et leurs habitudes en vue d'améliorer leurs services.
Pourtant, les villes intelligentes expérimentales en Corée du Sud et aux Émirats arabes unis ont peiné à attirer les résidents. La réalité des villes intelligentes n'est pas à chercher dans ces lieux : elle se trouve tout autour de nous, dans nos maisons, nos télévisions, nos réfrigérateurs et nos aspirateurs intelligents.
Cette réalité est subtile et invisible. Les technologies intelligentes s'emparent de l'imaginaire collectif et vendent un avenir foisonnant d'innovations et de disruption. Mais la promesse d'un confort de vie accru s'accompagne de l'instauration de paramètres et de restrictions sur le comportement.
" La Silicon Valley a tenté jusqu'à présent de contrôler le monde de différentes manières. Il s'agit maintenant de le libérer. "
Les solutions qu'offre la ville intelligente incluent l'utilisation de la technologie pour anticiper et sanctionner la criminalité, avec pour cobayes, les individus les plus vulnérables de la société.
L'entreprise Palantir, établie dans la Silicon Valley, propose par exemple des outils de surveillance à la police. Sa technologie est propriétaire, et les services qu'elle fournit aux municipalités manquent de transparence ou d'imputabilité pour les citoyens qu'elle surveille.
D'autres technologies intelligentes surveillent l'utilisation des téléphones portables et attribuent un niveau de risque à certains quartiers, prévoyant où et quand les crimes seront commis.
Contrairement aux villes intelligentes des brochures marketing, la version réelle est invisible et omniprésente, une véritable 'machine de guerre urbaine' qui surveille en secret les faits et gestes de la population.
La police rassemble des données sur des individus qui n'ont pas encore commis de crimes et les combinent avec des informations provenant d'institutions privées et publiques afin de créer, avec l'aide d'IBM et de Microsoft, des bases de données interrogeables appelées 'centres de fusion'.
Ces données appartiennent désormais à la police.
Les gens sacrifient des libertés civiles au profit de la sécurité. La police ciblera les quartiers à forte criminalité, ce qui se traduira par davantage d'arrestations et contribuera à marginaliser le quartier à mesure que les prédictions se réaliseront.
Cette démarche porte atteinte à la vie privée des citoyens, constitue une violation des droits civiques et peut conduire à des poursuites judiciaires injustifiées, à des préjugés systémiques et à d'autres atteintes aux droits fondamentaux de la personne. Il en résulte une sérieuse détérioration de la confiance.
Pour servir l'intérêt général, la collecte et le traitement des données doivent être transparents et responsables.
Les technologies intelligentes ont été développées dans le but de recueillir des données individuelles afin de mieux contrôler les individus. Cependant, il existe des alternatives. Il est possible de mener une action collective pour transformer le capitalisme numérique et construire une société meilleure de trois façons :
- 'Démanteler' les systèmes qui exploitent et contrôlent :les travailleurs devraient mener de 'micro-actes de résistance' en mystifiant les systèmes et les technologies qui dictent leur quotidien. Ils pourraient ainsi affirmer leur faculté d'agir et affaiblir les mécanismes de contrôle capitalistes.
- Démocratiser l'innovation : considérer les utilisateurs de technologies intelligentes comme des citoyens, et non comme des consommateurs, et recueillir leurs rétroactions et leurs opinions peut apporter des changements. Nous devrions exiger que ceux qui créent des systèmes intelligents fassent preuve de transparence et d'imputabilité.
- Faire des technologies intelligentes un bien collectif : exigez des autorités publiques qu'elles financent 'une production socialement utile' et privilégiez les acteurs publics aux opérateurs privés.
" Si devez décider entre vous adapter à une société plus intelligente ou vous défaire d'un monde plus stupide, optez pour la seconde solution."
Les données donnent vie au capitalisme numérique, incitant les géants de la Tech à les stocker pour garder la société captive tout en portant préjudice à la démocratie. Une stratégie progressive visant à modifier la gouvernance des données comporte deux étapes : 'exiger une supervision' et 'exiger la propriété'.
La supervision nécessite des réformes en matière de réglementation. Des lois antitrust pourraient remettre en cause les 'techno-oligarques'. Rendre aux individus la propriété de leurs données empêcherait les géants technologiques de les exploiter et contribuerait à la création d'une société meilleure. Collectiviser l'information en tant que ressource partagée permettrait d'identifier les plus faibles et d'améliorer les systèmes d'aide sociale.
Les données ne seraient plus une devise négociée sur le marché entre super-riches mais plutôt un service public, à comme la fourniture d'électricité. Un 'référentiel de données' protégerait la population et récompenserait les entreprises demandant à y avoir accès en vue de favoriser le mieux-être de la société. Les avantages associés aux données doivent être distribués de manière égale pour libérer leur plein potentiel.
Résumé du livre : TOO SMART - How Digital Capitalism Is Extracting Data, Controlling Our Lives, and Taking Over the World by Jathan Sadowski
Télécharger ce résumé en PDF
Jeu de briques
Snake
Pacman
Bubble