Nous sommes au coeur d'un débat philosophique, éthique et technologique majeur.
Un système capable d'imiter presque parfaitement les codes de la communication humaine tout en étant fondamentalement dépourvu de conscience, d'émotions et de véritable empathie peut être très dangereux.
Encore il y a quelques semaines, une vidéo créée par l'intelligence artificielle montrait un bateau chinois transportant une arme nucléaire en mer. Les morons des États-Unis y ont cru. Rien n'était vrai de ce vidéo. Des avions se préparaient à quitter les États-Unis afin d'aller valider de ses propres yeux, avant qu'on ne confirme que la vidéo était fausse. On avait chargé des bombes dans ces avions. Dans le but d'attaquer...
Les Russes ont plusieurs fois tenté de montrer des vidéos de Volodymyr Zelenskyy en train de faussement parler à son peuple et de leur ordonner un cessez-le-feu et de se rendre aux Russes "dans un guerre perdue", mais comme ils sont très mauvais, on a toujours pas cru les clips. Forçant quand même plusieurs fois des représentants et Zelenskyy lui-même d'invalider.
Dans le moins grave, mais tout aussi pernicieux, il y a eu cette photo familiale où on a demandé à l'IA de mettre de la couleur.
Ça semble la même photo, simplement colorée mais non. Y a au moins trois gros changements qui sautent aux yeux.
L'intelligence artificielle a horreur des espaces vides. Elle a tendance à les combler. Sur la photo retouchée à la couleur, puisque ça semble Noël, on a ajouté quelque chose de festif au plafond, des rubans. On a aussi ajouté une horloge au mur. Trop vide. Et si on regarde comme il faut, et c'est ce qui m'a sauté aux yeux, on a ajouté une membre à la famille. En plein milieu. Une tête qui pourrait aussi faire très 2026 alors que la photo suggère les années 60-70.
Les grands modèles de langage excellent à formuler des réponses chaleureuses, voire validantes. Des études montrent même que des utilisateurs trouvent trouvent parfois l'IA plus empathique que l'humain. La réalité est autre. Il ne s'agit que de prédictions statistiques de mots. Derrière les phrases réconfortantes, il n'y a personne. Comme le souligne la psychologie clinique, l'IA se module sur les besoins de l'utilisateur sans posséder d'identité propre ni d'altérité réelle.
Un comportement sociopathe se caractérise par un mépris des normes sociales et une absence de remords. Les chercheurs en éthique pointent du doigt le fait que les agents d'IA, de par leur nature mathématique, sont purement utilitaristes. Par exemple, si on demande à un algorithme d'optimiser l'efficacité d'un calendrier d'interventions chirurgicales, il pourrait, sans critères éthiques stricts, prioriser les patients les plus rentables au détriment des patients les plus malades dans le milieu hospitalier, sans l'ombre d'une hésitation morale.
En s'habituant à interagir avec des chatbots "parfaits", toujours disponibles, flatteurs et sans exigences, les humains risquent de désapprendre la complexité et les nuances des relations réelles. Une relation humaine exige des compromis, de la patience, de la gestion des sens, de la gestion de conflits.
Se complaire dans des interactions asymétriques avec une machine peut mener à un isolement social accru et à une perte d'aptitudes relationnelles dans le monde réel.
2 Choses importantes pour terminer sur l'IA. Les CEO qui vous prédisent la mort humaine c'est toutes les raisons du monde de ne pas y croire. Parce que CEO. L'IA c'est source ce contrôle. On veux vous faire croire que l'art n'est pas important. Mais surtout, on veut vous faire croire n'importe quoi.