Réseaux sociaux : naviguer entre réalité et manipulation

Cet article est la retranscription de l'épisode du podcast #QSNTALKS - Episode 67 : Réseaux sociaux - naviguer entre réalité et manipulation

Cet épisode a été diffusé sur le podcast le 20 mars 2024

Dans cet article :

▶️ IA, deepfakes et désinformation sur les réseaux sociaux

▶️ L'émergence des influenceurs virtuels

▶️ Fausses informations et escroqueries sur les réseaux sociaux

▶️ Guerre informationnelle et espionnage

▶️Quelles réponses à la désinformation et la manipulation sur les réseaux sociaux ?

Découvrez les nouvelles menaces de manipulation sur les réseaux sociaux

Bonjour, le sujet de cet article est lié à une vraie crainte personnelle face à certaines tendances qui se développent sur les réseaux sociaux, tendances curieusement protégées par une hypocrisie du législateur dont les réglementations destinées officiellement à protéger l'utilisateur que nous sommes tous, nous font davantage sentir dans un far-west numérique où la distinction entre réalité et désinformation devient chaque jour plus floue.

La beauté des réseaux sociaux qui consiste à connecter les individus à travers le globe n'est pas sans risques. L'un des enjeux majeurs réside dans leur potentiel à influencer et manipuler les utilisateurs, une préoccupation amplifiée par l'avènement de technologies avancées telles que l'intelligence artificielle (IA) et les deepfakes.

Les deepfakes, produits de l'IA, permettent de créer des contenus hyper-réalistes où des personnes semblent dire ou faire des choses qu'elles n'ont jamais dites ou faites. Cette capacité à altérer la réalité pose un défi majeur en termes de crédibilité et de confiance dans les médias numériques. L'usage malveillant de ces technologies pour diffuser de fausses informations peut avoir des conséquences dévastatrices, allant de la diffamation individuelle aux manipulations géopolitiques, en passant par l'influence sur les processus démocratiques.

L'introduction massive de personnages virtuels et d'influenceurs générés par intelligence artificielle, qui peuvent interagir avec de vrais utilisateurs, ajoute une autre couche de complexité. Ces entités numériques, de plus en plus difficiles à distinguer des humains réels, peuvent être utilisées pour promouvoir des agendas cachés ou diffuser des idéologies spécifiques sans la transparence nécessaire pour une prise de décision éclairée de la part des utilisateurs.

La démocratisation de la création de contenu, rendue possible par ces outils technologiques, a ouvert la voie à une ère de désinformation de masse. La facilité avec laquelle les contenus peuvent être diffusés sur les réseaux sociaux a exacerbé les problématiques liées à la véracité et à la manipulation de l'information.

Ces plateformes, initialement conçues pour connecter et informer, sont désormais exploitées pour influencer, voire manipuler, l'opinion publique à des fins diverses, allant de la publicité à des objectifs plus sombres comme la désinformation politique ou la radicalisation.

Aujourd'hui, je vais explorer divers exemples et méthodes de manipulation pour mettre en lumière les défis posés par ces technologies et encourager une réflexion critique sur l'utilisation responsable et éthique des réseaux sociaux et une vigilance accrue des réglementations applicables à tous pour préserver l'intégrité et la crédibilité de l'espace public numérique.

IA, deepfakes et désinformation

Les deepfakes représentent une avancée technologique inquiétante dans le domaine de la manipulation numérique, combinant l'intelligence artificielle et le traitement graphique pour créer ou modifier des vidéos avec un réalisme stupéfiant.

Ces faux contenus permettent de superposer des visages, modifier des expressions faciales, et même synthétiser des discours vocaux, avec peu ou pas de signes évidents de manipulation​​, permettant de faire dire à des personnes des choses qu'elles n'ont jamais dites ou faites, ce qui soulève de graves préoccupations en matière de désinformation et de crédibilité de l'information

Un exemple célèbre est celui d'une vidéo virale de l'ancien président américain Barack Obama en 2018, manipulée pour lui faire dire des propos injurieux envers Donald Trump.

Un autre exemple plus récent dans un contexte géopolitique concerne une fausse vidéo du président ukrainien, Volodymyr Zelensky, appelant ses soldats à déposer les armes face à l'invasion russe.

En rendant plus difficile la distinction entre vérité et mensonge, les conséquences de la diffusion de deepfakes peuvent être profondes, allant de la déstabilisation politique et sociale à des atteintes personnelles graves, comme le cyberharcèlement ou le revenge porn.

La lutte contre les deepfakes pose des défis importants. Ces deepfakes constituent une menace sérieuse pour l'intégrité de l'information sur les réseaux sociaux, nécessitant une vigilance continue, une éducation publique approfondie sur les médias numériques, et des collaborations internationales pour développer des réponses efficaces à cette forme de désinformation avancée. La compréhension de cette menace et la mise en œuvre de stratégies pour la contrer sont essentielles pour préserver la démocratie et la confiance dans nos outils numérique.

Influenceurs virtuels générés par IA

Autre source d'inquiétude pour la confiance de ce que nous découvrons sur les réseaux sociaux, l'émergence d'influenceurs virtuels, créés et animés grâce à l'intelligence artificielle.

Ces personnages numériques, dotés de visages et corps réels, interagissent avec les vrais utilisateurs et accumulent souvent des millions d'abonnés. Leur popularité grandissante soulève des questions importantes sur l'authenticité, la confiance et l'influence dans l'espace numérique.

La technologie derrière ces influenceurs virtuels repose sur des algorithmes d'intelligence artificielle avancés, capables de générer des images, des vidéos et même des réponses textuelles en temps réel.

Un exemple notable est celui de Lil Miquela ( https://www.instagram.com/lilmiquela), une influenceuse virtuelle avec plus de 2,6 millions de followers sur Instagram, qui a collaboré avec de grandes marques pour des campagnes publicitaires​​, qui apparait dans des situations de la vie réelle et même aux côtés de célébrités.

La ligne floue entre réel et virtuel pose de vraies questions. Dans l'exemple de Lil Miquela, aucune information sur les photos ou dans le texte qui les accompagne n'alerte sur le fait qu'il s'agit d'un personnage de fiction. Seule la bio du compte précise " 19-year-old Robot living in LA ". Ce qui n'est clairement pas suffisamment explicite d'autant plus que la plupart des utilisateurs des réseaux sociaux se contentent de consulter le contenu qui apparait dans leur fil d'actualité, sans forcément aller ensuite sur le profil.

Le flou est volontairement entretenu sur ces profils pour pouvoir en exploiter le potentiel. Car comme tout influenceur, ces personnages peuvent servir à promouvoir des produits, participer à des campagnes de sensibilisation et même soutenir des causes. Ils offrent des possibilités créatives et commerciales inédites, permettant aux marques de contrôler totalement le message et l'image véhiculés.

Mais d'un autre côté, l'authenticité et la transparence deviennent des enjeux cruciaux. Les utilisateurs des réseaux sociaux peuvent ne pas toujours être capables de distinguer ces entités virtuelles extrêmement réalistes des influenceurs réels pour les raisons que je viens d'expliquer.

L'utilisation croissante d'influenceurs virtuels soulève aussi des questions sur l'impact de ces interactions sur la perception de soi et la socialisation. La perfection irréelle et inatteignable que ces personnages virtuels incarnent peut contribuer à des normes sociales et esthétiques déformées, influençant négativement l'estime de soi et les attentes des utilisateurs.

Face à ces défis, des initiatives visant à augmenter la transparence et l'éducation des utilisateurs sur les réseaux sociaux doivent exister. Les réseaux sociaux devraient identifier clairement des comptes gérés par IA et ne pas leur permettre par exemple d'arborer un badge de certification comme c'est le cas pour Lil Miquela sur Instagram. Il est impératif de permettre aux utilisateurs de faire des choix éclairés sur les contenus auxquels ils s'exposent et les interactions qu'ils entretiennent.

Les influenceurs virtuels générés par IA redéfinissent les contours de l'influence et de la célébrité sur les réseaux sociaux. Si ces entités numériques ouvrent de nouvelles voies pour la créativité et le marketing, elles exigent également une réflexion approfondie sur les valeurs de transparence, d'authenticité et d'éthique dans l'espace numérique. Il faut veiller à ce que la réglementation de transparence sur le caractère publicitaire imposé aux influenceurs réels soit appliquer de la même façon aux influenceurs virtuels. Ces influenceurs virtuels ne doivent pas être une opportunité pour les annonceurs de s'exhonérer des obligations réglementaires qui touchent les personnes réelles. Ce serait trop facile.

En dehors de l'aspect mercantile de ces influenceurs virtuels, d'autres usages apparaissent notamment dans le domaine politique dans le but d'influencer notamment les intentions de vote.

Le cas du compte TikTok " Amandine LePen ", suivi par plus de 22 000 personnes, illustre cette autre facette préoccupante de l'utilisation de l'intelligence artificielle dans la création de profils sur les réseaux sociaux.

Ce profil prétend être celui de la nièce de Marine Le Pen. Il s'agit en fait d'un faux compte utilisant l'intelligence artificielle pour générer un visage jeune présentant une ressemblance troublante avec Marine Le Pen, plongeant le personnage dans des scénarios de vie quotidienne, utilisant des poses suggestives, souvent en maillot de bain. Ce faux profil est élaboré avec une précision telle que le visage généré par IA semble parfaitement crédible et peut facilement tromper les utilisateurs non avertis.

L'objectif derrière cette manipulation est clairement d'influencer l'opinion publique en utilisant des images et des messages soigneusement conçus pour susciter des réactions émotionnelles, le tout étant systématiquement accompagné de hashtags explicites comme #famille, #france, #lepen2027, indiquant clairement les intentions politiques derrière la création de ce profil.

L'existence de tels profils soulève des questions éthiques et juridiques importantes. D'une part, ils mettent en évidence la facilité avec laquelle l'IA peut être utilisée pour créer de faux contenus hyper-réalistes, posant un défi majeur en termes de vérification de l'information et de lutte contre la désinformation.

D'autre part, ils exposent les individus et les figures publiques à des risques de diffamation, d'usurpation d'identité et de manipulation de l'opinion sans leur consentement.

Fausses informations et escroqueries

La propagation de fausses informations et la réalisation d'escroqueries prennent donc une nouvelle dimension grâce aux réseaux sociaux et aux nouveaux outils d'IA.

Les escrocs de toutes sortent exploitent différemment la confiance et la curiosité des utilisateurs pour diffuser des publicités mensongères, notamment en utilisant l'image de célébrités sans leur consentement pour endosser des produits ou des investissements frauduleux, comme dans le cas des cryptomonnaies.

Un exemple récent de ce phénomène est la diffusion de faux contenus faisant la promotion pour des investissements en cryptomonnaies. Ces contenus prétendent souvent que des célébrités ou des figures publiques ont investi dans une cryptomonnaie ou un système de trading, promettant des retours sur investissement irréalistes pour attirer les victimes potentielles.

Ce fut le cas pour Elise Lucet et une fausse interview qu'elle aurait faite au journal Le Monde, mais aussi d'autres personnalités comme Yann Barthès, Jamel Debbouze et Francis Cabrel.

Autre exemple similaire, une publicité faisant la promotion d'une fausse interview du journaliste François Lenglet par Yves Calvi , actuellement diffusée via plusieurs faux compte X (ex-Twitter), redirigeant vers un faux site du journal Le Monde.

Cela soulève des questions sur la capacité (et la volonté ?) des réseaux sociaux à détecter et à empêcher la propagation de fausses nouvelles, visant à tromper et escroquer le public.

Les conséquences de telles escroqueries vont au-delà des pertes financières individuelles. Elles peuvent miner la confiance dans les systèmes financiers légitimes, décourager l'investissement dans des technologies novatrices comme la blockchain et la cryptomonnaie, et éroder la confiance dans les informations partagées sur les réseaux sociaux. De plus, l'utilisation de l'image de personnalités publiques sans leur consentement soulève d'importantes questions juridiques et éthiques.

Guerres informationnelles et espionnage

D'autres acteurs exploitent également les réseaux sociaux au détriment de leurs utilisateurs mais pour des enjeux encore plus importants.

Dans mon introduction, je parlais d'hypocrisie du législateur avec la mise en place de réglementations destinées officiellement à protéger l'utilisateur que nous sommes. Je voulais parler de cette hypocrisie extraordinaire où les États eux-mêmes et diverses organisations exploitent le potentiel des réseaux sociaux pour influencer, espionner, et mener des opérations psychologiques et de désinformation.

Bien évidemment, les réseaux sociaux sont des outils puissants pour recueillir des renseignements sur les opinions publiques, les tendances sociétales, et même les mouvements politiques, grâce à l'énorme quantité de données générées par les utilisateurs. Mais alors même que les états imposent des réglementations à l'utilisation des réseaux sociaux, dans le même temps, ils s'exhonèrent de ces contraintes pour diffuser largement des informations ciblées ou des désinformations, influençant ainsi les perceptions et les comportements.

Dernier exemple en date de cette hypocrisie, les États-Unis qui dressent le spectre de la désinformation et de l'espionnage pour frapper TikTok et tenter d'interdire la plateforme sur son territoire, mais qui, dans le même temps, ne se privent pas d'employer les mêmes méthodes puisque l'on apprend que la CIA aurait mis en place depuis 2019 une cellule chargée de jouer les influenceurs au travers de faux comptes sur les réseaux sociaux. L'objectif de cette cellule de la CIA vise à dénigrer le gouvernement chinois sur son territoire mais aussi dans les pays où les intérêts américains et chinois sont en concurrence.

Un exemple frappant de l'utilisation des réseaux sociaux pour mener des guerres informationnelles tout en appliquant les méthodes que l'on reproche à d'autres.

Nous ne sommes plus ici dans des tactiques d'influence pour vendre des produits mais nous sommes nettement un cran plus haut en visant à toucher la cohésion sociale et à polariser davantage les sociétés.

Education et littératie informationnelle

La littératie informationnelle fait référence à la capacité d'une personne à utiliser les technologies de communication et d'information.

Comme nous venos de le voir, l'éducation à la littératie informationnelle est essentielle dans notre société actuelle où les médias numériques et les informations sont omniprésents. Le flou omniprésent entre réalité et désinformation sur les réseaux sociaux, impose de sensibiliser et former chacun à décrypter, évaluer et utiliser l'information de manière critique, afin de naviguer de manière éclairée dans ce paysage médiatique et être en mesure de résister à la manipulation et à la désinformation.

A cet effet, l'UNESCO veut jouer un rôle actif dans cette sensibilisation. Comme indiqué sur son site, " L'UNESCO soutient le développement de l'Éducation aux médias et à l'information pour tous afin de permettre aux individus de penser de manière critique et de cliquer à bon escient. " ​​​​

Développement d'outils de détection

Toutefois, il devient de plus en plus difficile de cerner la réalité d'une information, c'est pourquoi la technologie doit permettre d'aider à détecter les contenus deepfakes ou créés par intelligence artificielle.

Heureusement, des avancées dans le domaine de la détection de ces manipulations numériques existent.

Outils et technologies de détection des manipulations numériques

• Video authenticator de Microsoft : Développé dans le cadre du programme Defending Democracy, cet outil est destiné aux médias et aux équipes de campagnes électorales pour lutter contre la désinformation. Cependant, Microsoft n'a pas rendu cet outil public pour éviter que les cybercriminels ne l'utilisent pour perfectionner leurs outils de génération de deepfakes​​.
• Deepware Scanner : C'est un scanner en ligne open source utilisant l'apprentissage automatique pour analyser les vidéos provenant de plateformes comme YouTube, Facebook, ou Twitter. Il se concentre sur la détection faciale​​.
• Truepic : Cette startup propose une approche différente en garantissant l'authenticité des contenus plutôt que de chercher à détecter les contenus contrefaits. Truepic utilise des métadonnées d'horodatage et la composition des pixels capturés pour signer les photos et vidéos, assurant leur intégrité​​.
• FakeCatcher d'Intel : Ce système analyse les veines du visage qui changent de couleur en fonction de l'afflux sanguin. Avec un taux de précision de 96 %, FakeCatcher est l'un des outils les plus récents et prometteurs pour la détection de fausses vidéos en temps réel​​.
• L'outil de Meta :
  Meta a annoncé vouloir identifier les contenus générés par IA sur Facebook, Instagram, et Threads pour améliorer la transparence. Cette initiative vise à informer les utilisateurs lorsque le contenu photoréaliste qu'ils voient a été créé à l'aide de l'IA. Meta travaille avec des partenaires du secteur pour développer des normes techniques communes qui permettront d'identifier ces contenus. Nous verrons bien sur le compte Instagram de l'influenceuse virtuelle Lil Miquela comment cela se manifestera.
• YouTube vient d'adapter sa plateforme, incitant à signaler si le contenu d'une vidéo est généré par IA ou concerne un deepfake. La volonté est louable, mais il ne s'agit que de déclaratif par l'auteur de la publication d'une vidéo.

Ces avancées technologiques offrent toutefois une lueur d'espoir dans la lutte contre les manipulations numériques. Cependant, la bataille entre la création et la détection des manipulations continue d'évoluer, soulignant la nécessité d'une vigilance constante et d'innovations continues dans ce domaine.

Cadres réglementaires et législatifs

Les mesures réglementaires et législatives pour lutter contre la désinformation et les manipulations en ligne existent.

Elles comprennent l'introduction de lois pour responsabiliser les plateformes de réseaux sociaux, exiger la transparence des sources d'information, inciter à une plus grande modération et encourager la vérification des faits.

Cependant, ces mesures soulèvent des défis, notamment en termes de mise en œuvre, d'atteinte à la liberté d'expression, et de détermination des limites entre fausse information et opinion.

La collaboration internationale et l'adaptation constante des lois aux nouvelles technologies sont également cruciales pour renforcer l'efficacité de ces cadres réglementaires, tout comme le fait de s'assurer que les Etats eux-mêmes respectent les lois qu'ils mettent en place, ce qui, malheureusement comme nous l'avons vu, est loin d'être garanti.

En conclusion La lutte contre la désinformation nécessite une collaboration multidimensionnelle entre les plateformes numériques, les législateurs, et les utilisateurs eux-mêmes. S'il est crucial de développer des technologies de détection plus sophistiquées capables d'identifier les contenus générés par IA avec une précision élevée, il est nécessaire d'adapter le cadre législatif pour mieux encadrer l'utilisation de l'IA dans la création de contenu, en imposant des normes d'authenticité et de transparence, ainsi que des sanctions pour ceux qui cherchent à tromper délibérément l'opinion publique. Enfin, une sensibilisation accrue et une éducation aux médias sont essentielles pour que les utilisateurs des réseaux sociaux puisse reconnaître et remettre en question la véracité des contenus qu'ils consomment en ligne.

------------------------------

------------------------------

Ce sujet vous a intéressé?

🔵Abonnez-vous au podcast #QSNTALKS sur votre plateforme de streaming préférée

🔵 Suivez #qsntalks

------------------------------

Je suis Frédéric Foschiani, Fondateur et Président de QSN-DigiTal, agence spécialiste des réseaux sociaux et de l'eReputation

Expert des réseaux sociaux et de l'eReputation, je propose des formations, du conseil, de l' accompagnement opérationnel et des conférences

🔵J'interviens sur tous les sujets liés à l'utilisation des réseaux sociaux : visibilité, image, veille, ventes, recrutement, marque-employeur, employee advocacy, relation client,...

🔵Définition ou audit de votre stratégie, community management, création de contenus (visuel, rédactionnel, vidéo, podcasting), gestion de campagnes sponsorisées, événementiel augmenté sur les réseaux sociaux,...

📌 Contactez-moi pour parler de vos besoins => Liens utile