GPT-4 : tous les pouvoirs aux technocrates ?

 Par Frédéric Mas.

Accueilli avec enthousiasme par les uns, avec circonspection par les autres, le nouveau modèle d’intelligence artificielle GPT-4 développé par OpenAI est sorti ce mardi 14 mars.

Le système peut faire passer l’examen du barreau, résoudre des énigmes logiques et même créer un site internet à partir de quelques lignes écrites sur un coin de nappe. Mais ses créateurs avertissent qu’il peut également diffuser des fake news, diffuser des idéologies dangereuses et même inciter les gens à effectuer des tâches en son nom. GPT-4 a passé le SAT, le fameux test d’entrée pour l’enseignement supérieur américain, et sans trop de surprise, il fait mieux que 90 % des candidats.

En quelques mois, les performances du produit ont été décuplé, si on le compare à ChatGPT. Cela ne veut pas dire qu’il soit parfait, qu’il soit comparable à une quelconque intelligence artificielle générale, mais que sa capacité de progression est extraordinaire. Imaginez sa version 10, d’ici quelques années (ou quelques mois ?). Plus largement, imaginez son impact sur l’humanité d’ici dix ans, à l’heure où certaines rédactions remplacent déjà leurs journalistes par de l’IA.

La dynamique de destruction créatrice dont l’IA est à l’origine risque d’atteindre sa vitesse de croisière d’ici quelques années, que ce soit en matière d’emplois, de compétences, de santé publique ou même de gouvernementalité.

Dilemmes politiques de l’Intelligence Artificielle

Sur ce dernier point en particulier, l’avenir -technocratique- que l’IA nous promet devrait nous inciter à prendre au sérieux les dilemmes qu’elle pose.

Dans une tribune du New York Times, l’éditorialiste Ezra Klein esquisse une injonction assez radicale, qui ouvre la voie aux pleins pouvoirs donnés aux technocrates de toute obédience :

L’une des deux choses suivantes doit se produire. L’humanité doit accélérer son adaptation à ces technologies ou une décision collective et applicable doit être prise pour ralentir le développement de ces technologies. Les deux ne suffiront peut-être pas.

Quelle que soit l’option choisie, accompagner ou empêcher le développement de l’IA, la classe des régulateurs, des organisateurs, des ingénieurs et des techniciens va se développer, et cette aristocratie du savoir high tech va peser encore plus dans les décisions publiques qu’elle ne pèse aujourd’hui.

Pour pouvoir ralentir les technologies IA, il faudra une classe de techniciens de pointe. Pour accompagner le développement de l’IA, il faudra aussi créer et former une classe de techniciens de pointe. Il n’y a pas d’alternative, l’avenir du monde se fera par la classe technocratique.

Qui sait, ou prétendra savoir, organiser ou réorganiser « scientifiquement » la société pour l’adapter à la révolution de l’Intelligence Artificielle détrônera définitivement les organes démocratiquement élus, renvoyant aux oubliettes de l’histoire politique le « citoyen éclairé », la participation du peuple à sa propre destinée, la légitimité institutionnelle par consentement de tous ses citoyens comme autant d’aimables antiquités « populistes » ou quasi-tribales.

Seule une minorité « éclairée » est capable de comprendre la révolution de l’Intelligence Artificielle dans les grandes lignes. Cela signifie donc qu’une grande majorité de la population ignore totalement ce qu’on lui prépare.

Le triomphe des technocrates

En France, l’effondrement de l’Éducation nationale, en particulier de sa filière scientifique, promet de réserver le bagage éducatif et cognitif nécessaire à une toute petite minorité de privilégiés, qui de facto va vraisemblablement monopoliser les postes de pouvoir réel au détriment d’un gouvernement représentatif devenu au fil des années plus ou moins fantoche. Cela faisait des décennies que nous étions sur cette pente glissante, l’IA va simplement accélérer la prise de pouvoir de « l’élite cognitive » dont parle Charles Murray dès les années 1990.

La signification politique est essentielle : le gouvernement des technocrates enterre celui des démocrates qui suppose l’identité des gouvernés et des gouvernants, tout comme l’idéal libéral d’un gouvernement légitimé par l’égale participation de citoyens considérés comme compétents à se gouverner eux-mêmes. Elle rend pensable une nouvelle forme d’autocratie en rupture avec le monde qui a vu prospérer le libéralisme politique.

Elle rend possible la généralisation des protestations populistes, échaudées par une dépossession politique qui n’en finit pas. Elle risque d’accélérer les moments de crises politiques et en conséquence l’étiolement d’un État de droit qui ne prospère qu’en situation de paix civile.

Dans le monde complexe de l’IA, le retour à l’hétéronomie morale ne sera plus cléricale mais technocratique : la soumission du plus grand nombre à la minorité éclairée demande de transformer la servilité numérique en vertu civique. Là encore, l’IA ne fait qu’accélérer un processus déjà à l’œuvre chez les marchands de gouvernance algorithmique, de cloud money, de pass carbone ou de pass sanitaire.

Même le triomphe de la minorité éclairée des technocrates n’est peut-être que transitive. La révolution, aussi numérique soit-elle, est comme Saturne, elle dévore ses propres enfants. Il se peut que la mainmise promise sur l’économie numérique par l’IA se trouve dépassée et que l’autonomisation de la Technique continue son accélération jusqu’à obsolétiser les compétences rares qui distinguent aujourd’hui le technocrate du commun. Jusqu’à se passer, peut-être, du comité de pilotage qui prétend orienter ou contenir la révolution à venir, celle de l’intelligence artificielle générale.

À ce stade d’autonomisation de l’IA, les problèmes qui surgiront seront plus angoissants encore, il faut lire Max Tegmark ou Nick Bostom pour s’en rendre compte.

Saluer les performances de GPT-4 aujourd’hui ne doit pas nous rendre pessimistes mais nous obliger à penser le pire pour réaliser le meilleur, y compris en préparant la défense de nos libertés publiques à l’ère de l’Intelligence Artificielle.