IA Générative et Réseaux Sociaux, pour une utilisation responsable

Cet article est la retranscription de l'épisode du podcast #QSNTALKS - Episode 77 : IA Générative et Réseaux Sociaux, pour une utilisation responsable

Cet épisode a été diffusé sur le podcast le 22 janvier 2025.

Dans cet article

▶️ Les efforts réglementaires, notamment à travers l'AI Act européen et les initiatives françaises.

▶️ Les tensions entre innovation et régulation, et les pistes pour trouver un équilibre durable.

▶️ Les stratégies divergentes des plateformes avec les exemples de Mistral AI et Grok, l'IA de X

▶️ Les outils techniques déployés pour détecter, signaler et modérer les contenus générés par IA

Aujourd'hui, je vais prolonger une réflexion amorcée dans l'épisode 70 diffusé en mai 2024, où j'abordais la nécessité d'une utilisation éthique de l'IA dans la communication sur les réseaux sociaux.

👉Lire l'article

Depuis, de nouvelles questions ont émergé, portées par des évolutions technologiques, des initiatives réglementaires et des controverses toujours plus nombreuses car les défis sont majeurs : questions éthiques, risques de désinformation, conflits liés aux droits d'auteur, et manque d'un cadre normatif clair.

Une révolution accélérée par l'adoption massive

Il est difficile d'exagérer l'impact qu'a eu l'IA générative en si peu de temps.

Selon une étude publiée par McKinsey en 2024, plus de 40 % des entreprises européennes utilisent désormais des outils d'IA pour optimiser leurs processus créatifs, améliorer l'engagement sur les réseaux sociaux ou encore automatiser la production de contenus marketing.

Une réflexion nourrie par la pratique

Dans ma propre pratique quotidienne - qu'il s'agisse de formations ou de l'accompagnement de mes clients dans la gestion de leurs réseaux sociaux - ces outils se sont imposés comme des alliés indispensables, ce qui me permet de mesurer concrètement les défis posés par l'IA générative dans la communication professionnelle.

Je constate par exemple que beaucoup d'entreprises sont séduites par la promesse de ces outils, mais manquent d'une compréhension claire des risques qu'ils impliquent. Ces risques ne se limitent pas aux questions juridiques comme la capacité à garantir que les images ou vidéos générées par IA ne violent pas les droits d'auteur par exemple, ou bien comment éviter que des deepfakes ou des textes ne soient utilisés pour manipuler l'opinion publique ?

Les risques incluent également la dépendance technologique, la sécurité des données, les biais intégrés dans les modèles d'IA, ou encore les répercussions potentielles sur la créativité humaine, et comment trouver un équilibre entre innovation et régulation sans étouffer la créativité ?

C'est justement cette pratique quotidienne qui me pousse à explorer en profondeur les enjeux soulevés par ces technologies, et à plaider pour une approche équilibrée, où l'innovation reste compatible avec une responsabilité éthique et réglementaire.

Rétrospective des évolutions depuis mai 2023

Pourquoi ce soudain emballement ?

Avec l'arrivée massive de solutions d'IA génératives qui s'imposaient dans le quotidien des particuliers et des entreprises, les risques n'étaient plus théoriques. Les deepfakes, les contenus trompeurs, et les violations massives de la propriété intellectuelle se multipliaient.

Une étude menée par Stanford University's AI Index en 2023 avait déjà tiré la sonnette d'alarme : 52 % des contenus générés par des IA étaient " potentiellement non conformes " aux réglementations sur les droits d'auteur. Une autre étude, publiée par l'Institut Montaigne, soulignait que 64 % des citoyens européens ne se sentaient pas à l'aise avec l'idée que des IA puissent générer du contenu qu'ils consomment sans le savoir.

Le challenge à venir

Face à ces dérives et ces craintes, on a vu des plateformes d'IA s'adapter plus vite que la législation elle-même, comme ChatGPT refusant soudain de créer du contenu dans le style d'artistes protégés par des droits d'auteur, par exemple. Mais cela fait naitre une question fondamentale : jusqu'où peut aller l'autorégulation ? Et surtout, est-elle suffisante ?

L'essor médiatique et commercial des IA génératives

La médiatisation : un effet boule de neige

La vague de médiatisation des IA génératives a commencé doucement fin 2022, avec la sortie publique de ChatGPT. Mais en 2023, cette vague est devenue un tsunami. OpenAI a pris une avance colossale en proposant des versions toujours plus sophistiquées de son IA, et les entreprises comme Google, Microsoft, ou Adobe ont répondu en lançant leurs propres solutions génératives.

Quelques chiffres permettent de prendre la mesure de cet engouement :

• En mars 2023, le mot " ChatGPT " atteignait son pic de recherches sur Google Trends, dépassant même " Bitcoin ". C'est dire à quel point l'IA avait éclipsé les crypto-monnaies dans la liste des obsessions technologiques.
• Selon une étude d'Insider Intelligence, 75 % des grandes entreprises technologiques avaient intégré ou prévu d'intégrer des solutions d'IA générative dans leurs outils d'ici fin 2023.

Les plateformes génératives n'étaient plus des gadgets pour geeks, mais des outils promettant de transformer en profondeur la manière de créer, communiquer et travailler.

L'adoption massive par les entreprises

L'IA générative est entrée dans les salles de réunion. Finis les débats interminables sur le futur du télétravail ou la pertinence des " team buildings " dans des escape games, les entreprises avaient un nouveau joujou à expérimenter.

La promesse était alléchante : automatiser des tâches fastidieuses, améliorer la productivité et, surtout, réduire les coûts. Pourquoi embaucher un graphiste ou un rédacteur quand une IA pouvait produire un contenu " suffisamment bon " en quelques secondes ? Certaines entreprises n'ont pas hésité à franchir le pas :

• Les secteurs de la publicité et du marketing ont été parmi les premiers à adopter les IA génératives pour la création de slogans, visuels et scripts de campagnes. Une étude menée par Gartner révélait que 37 % des grandes agences marketing utilisaient déjà l'IA générative en 2023.
• Dans l'e-commerce, les descriptions de produits générées par IA sont devenues un standard. Un rapport de McKinsey montrait que cette automatisation permettait de réduire de 30 % le temps nécessaire à la création de fiches produits.
• Les PME n'étaient pas en reste : avec des outils accessibles pour quelques euros par mois, elles ont pu bénéficier d'une technologie autrefois réservée aux grandes entreprises et sans besoin d'expertise particulière.

Cependant, cette adoption rapide n'était pas sans risques. La qualité des productions générées variait considérablement, et les entreprises les plus enthousiastes ont parfois été confrontées à des retours de flamme, notamment sur les questions de plagiat et de droits d'auteur.

Un catalyseur pour l'urgence réglementaire

Face à cet essor fulgurant, les législateurs ont dû se poser une question essentielle : comment encadrer des technologies qui bouleversent aussi vite le paysage économique et culturel ? La vitesse d'adoption des IA génératives a pris tout le monde de court, y compris les régulateurs.

Quelques scandales médiatiques ont accéléré cette prise de conscience :

• Les deepfakes politiques : début 2023, plusieurs vidéos truquées générées par IA ont circulé sur les réseaux sociaux, mettant en scène des dirigeants mondiaux dans des situations embarrassantes (ou carrément inquiétantes). Ces vidéos, souvent très réalistes, ont montré à quel point l'IA pouvait être une arme puissante de manipulation.
• Les violations massives des droits d'auteur : des artistes et des écrivains ont commencé à se mobiliser contre l'utilisation de leurs œuvres pour entraîner des IA génératives, souvent sans leur consentement. En février 2023, une coalition d'auteurs a même intenté une action en justice contre OpenAI, accusant la société d'avoir " pillé " des œuvres protégées pour enrichir son modèle.

Ces événements ont mis en lumière l'urgence d'un cadre législatif clair, non seulement pour protéger les droits des créateurs, mais aussi pour garantir la transparence et la responsabilité des acteurs de l'IA.

L'impact sur l'économie : promesse ou illusion ?

Les optimistes voyaient dans les IA génératives une révolution économique comparable à l'arrivée d'internet. Les pessimistes, eux, y voyaient une machine à détruire des emplois. La vérité, comme souvent, se situait entre les deux.

Selon une étude de PwC publiée en avril 2023, l'IA générative pourrait contribuer à hauteur de 7 % au PIB mondial d'ici 2030, grâce à l'automatisation et à l'innovation qu'elle permet. Mais cette même étude soulignait que certains secteurs (notamment la création artistique et la communication) pourraient subir des perturbations majeures, avec des milliers d'emplois à risque.

L'essor de l'IA générative n'est pas seulement une question de potentiel économique, mais aussi de responsabilité sociale : comment intégrer cette technologie sans aggraver les inégalités ni sacrifier la créativité humaine ? Une question qui reste, à ce jour, largement sans réponse.

Les nouvelles réglementations en Europe et en France

L'AI Act européen : principes et obligations

L'Union européenne a accéléré ses efforts envers les systèmes d'IA. Pour y parvenir, elle a misé sur l' AI Act, une législation ambitieuse et sans équivalent ailleurs dans le monde.

La France, en tant que membre de l'Union européenne, est soumise à l'AI Act européen. Ce règlement, adopté le 21 mai 2024 et publié au Journal officiel de l'Union européenne le 12 juillet 2024, est entré en vigueur le 1er août 2024

Une classification des risques pour encadrer l'usage de l'IA

Au cœur de l'AI Act, on retrouve une classification des systèmes d'IA selon leur niveau de risque, qui permet d'adapter les obligations réglementaires en fonction de leur impact potentiel.

1. Risque minimal ou nul
   Il s'agit des IA les plus " inoffensives " : outils de correction orthographique, filtres anti-spam, ou même IA génératives utilisées dans un cadre personnel. Ces systèmes ne sont soumis qu'à des exigences très légères (voire aucune. Une IA qui génère des recettes de cuisine reste relativement inoffensive... sauf si elle est utilisée pour écrire des livres de cuisine toxiques (oui, c'est arrivé avec une IA générant des recettes dangereuses).
2. Risque limité
   On entre ici dans la catégorie des IA utilisées à des fins professionnelles mais sans conséquences critiques, comme des chatbots pour le service client ou des outils de création de contenu pour des entreprises. Ces systèmes doivent respecter des principes de transparence : l'utilisateur doit savoir qu'il interagit avec une IA.
3. Risque élevé
   C'est là que les choses deviennent sérieuses. Cette catégorie englobe les systèmes utilisés dans des domaines sensibles : santé, justice, éducation, finance, recrutement. Exemple : une IA qui sélectionne des CV ou aide à diagnostiquer une maladie. Ces systèmes sont soumis à des règles strictes, comme l'évaluation des risques, la traçabilité des décisions et des audits réguliers. L'objectif est d'éviter que ces IA ne reproduisent ou n'amplifient les biais humains - même si on sait que c'est un combat complexe.
4. Risque inacceptable
   Ici, l'Europe dit carrément : " Non, ça ne passera pas ". Les IA génératives utilisées pour la surveillance biométrique en temps réel dans les espaces publics, pour la notation sociale (à la chinoise), ou encore pour manipuler les comportements humains de manière pernicieuse (exemple : des deepfakes pour influencer des élections) sont interdites. Un bon point pour l'éthique, même si ces interdictions seront probablement difficiles à faire respecter, surtout face à des acteurs hors UE.

Transparence et obligation d'informer : le nerf de la guerre

L'un des grands axes de l'AI Act est la transparence. Toute IA générative devra signaler clairement à l'utilisateur qu'il s'agit d'un contenu créé par une machine. Par exemple, un texte ou une image générée par une IA devra être marquée d'une mention explicite. Si cela peut sembler anodin, c'est en réalité une arme essentielle pour lutter contre la désinformation et les contenus manipulatoires. La transparence s'applique aussi à la provenance des données utilisées pour entraîner les IA. Les entreprises devront prouver que leurs modèles respectent les règles de protection des données, notamment le RGPD. Adieu (en théorie) les modèles entraînés à partir d'œuvres artistiques ou de données personnelles collectées sans consentement. Une bonne nouvelle pour les auteurs, mais un cauchemar logistique pour les développeurs.

Conformité et sanctions : l'Europe se fait les dents

L'AI Act impose des exigences de conformité très précises. Chaque système d'IA devra faire l'objet d'une évaluation avant sa mise sur le marché, avec des certifications délivrées par des organismes agréés. En cas de non-respect des règles, l'Europe ne plaisante pas : des amendes pouvant aller jusqu'à 6 % du chiffre d'affaires mondial de l'entreprise sont prévues. À titre de comparaison, c'est presque le double des sanctions maximales prévues en cas d'infraction au RGPD.

Mais attention, ces sanctions risquent de poser des problèmes de mise en œuvre. Quand on sait à quel point il est déjà difficile de sanctionner des entreprises basées hors de l'UE dans le cadre du RGPD, on peut légitimement se demander si ces menaces seront réellement appliquées. Les États-Unis, par exemple, ne semblent pas particulièrement enclins à adopter une législation similaire, et certaines entreprises pourraient être tentées de s'installer dans des juridictions plus " souples ".

L'IA générative sous la loupe : des obligations spécifiques

L'IA générative, et en particulier les modèles de type ChatGPT, est au centre de l'AI Act. L'Europe a pris conscience que ces technologies posaient des défis uniques, notamment en matière de :

• Droits d'auteur : les modèles génératifs doivent être en mesure de prouver qu'ils ne réutilisent pas directement des contenus protégés. Cela pose un défi technique colossal, surtout pour les modèles déjà entraînés.
• Traçabilité des contenus : les plateformes devront permettre aux utilisateurs de remonter à la source des données utilisées pour produire un contenu. Une transparence salutaire et qui pourrait aussi mettre en lumière les biais inhérents aux données d'entraînement.
• Lutte contre la désinformation : les IA génératives utilisées à des fins malveillantes (par exemple, la création massive de fake news ou de deepfakes) pourraient faire l'objet d'interdictions spécifiques.

Les limites du cadre proposé

Si l'AI Act constitue une avancée majeure, il n'est pas exempt de critiques. D'un côté, les défenseurs de l'innovation s'inquiètent que ces règles freinent le développement de l'IA en Europe, en rendant le processus de mise sur le marché plus coûteux et complexe. De l'autre, les défenseurs des droits fondamentaux estiment que le texte manque encore de clarté sur certains aspects, notamment la protection des données sensibles utilisées dans les modèles génératifs.

Enfin, le défi majeur reste la mise en œuvre. Si l'Europe a montré avec le RGPD qu'elle pouvait imposer des normes mondiales, les entreprises technologiques sont aujourd'hui mieux préparées à contourner les contraintes réglementaires.

L'adaptation des lois françaises

Face à l'essor de l'IA générative et à ses multiples implications, la France a dû s'emparer du sujet pour adapter ses lois et mettre en place des dispositifs spécifiques.

La CNIL : en première ligne pour protéger les données

La Commission nationale de l'informatique et des libertés (CNIL), déjà bien occupée avec l'application du RGPD, s'est retrouvée propulsée au cœur du débat sur l'IA générative. Sa mission ? S'assurer que l'utilisation de ces technologies respecte le cadre existant en matière de données personnelles, tout en anticipant les nouveaux risques.

Dès 2023, la CNIL a renforcé ses contrôles sur l'usage des données pour entraîner les modèles d'IA. Les grands principes du RGPD - comme le consentement explicite, la minimisation des données et le droit à l'oubli - ont été rappelés avec fermeté. On ne pouvait plus, en théorie, utiliser les données personnelles des internautes pour alimenter des modèles d'IA sans autorisation préalable.

Mais dans les faits, cette exigence a créé un casse-tête pour les entreprises, notamment les startups françaises dans le domaine de l'IA. En effet, obtenir un consentement explicite à grande échelle reste une opération herculéenne, surtout face à des acteurs internationaux qui continuent parfois à " jouer avec les règles ". Certains entrepreneurs ont dénoncé une asymétrie de traitement : pendant que les GAFA jonglent avec des milliards de données, les petites entreprises françaises peinent à se conformer.

La propriété intellectuelle : un chantier toujours en débat

L'un des débats les plus sensibles autour de l'IA générative concerne la propriété intellectuelle. En France, le droit d'auteur est une institution quasi sacrée. Or, les modèles génératifs posent de sérieuses questions à ce sujet.

Les artistes et créateurs français ont rapidement tiré la sonnette d'alarme : comment protéger leurs œuvres face à des IA capables de générer des images ou des textes " inspirés " de leur travail ? En théorie, la loi française reconnaît que les créations générées par une IA ne peuvent pas être protégées par le droit d'auteur, car elles ne résultent pas d'un effort humain créatif. Mais en pratique, cela ne résout pas la question de l'utilisation des œuvres existantes pour entraîner ces modèles.

Le ministère de la Culture a ouvert des discussions sur la nécessité de créer un nouveau cadre juridique pour encadrer l'entraînement des IA. Plusieurs propositions ont émergé :

• Imposer une redevance aux entreprises qui utilisent des œuvres protégées pour former leurs modèles
• Obliger à une transparence totale sur les données utilisées pour entraîner les IA, afin de permettre aux auteurs de vérifier si leurs œuvres ont été " aspirées " à leur insu.

Ces débats ont illustré une tension profonde : d'un côté, la nécessité de protéger les créateurs, et de l'autre, la volonté de ne pas freiner l'innovation technologique.

Vers une supervision renforcée

Consciente que le sujet dépasse largement le cadre de la CNIL, la France a également évoqué la création d'une entité de supervision spécifique dédiée à l'IA. L'objectif : centraliser les efforts pour encadrer cette technologie, en s'inspirant du modèle de l'Autorité de la concurrence ou de l'ARCEP (le régulateur des télécoms).

Plusieurs pistes ont été explorées :

1. Renforcer les missions de la CNIL en y intégrant une division spécialisée sur l'IA.
2. Créer une nouvelle autorité indépendante, qui travaillerait en lien avec les autres régulateurs européens pour garantir une harmonisation des règles.

En attendant, le gouvernement a multiplié les appels à projets pour encourager le développement d'une IA " responsable " en France, tout en évitant les dérives constatées ailleurs (comme les deepfakes ou la surveillance biométrique excessive).

Nouvelles approches mises en place par les plateformes d'IA

Les restrictions pour respecter les droits d'auteur

À l'aube des années 2020, les plateformes d'intelligence artificielle générative étaient un véritable Far West : tout semblait permis. Vous vouliez une image " dans le style de Disney " ? Pas de problème. Vous rêviez d'un poème écrit comme Victor Hugo ou d'une chanson dans le style des Beatles ? Facile. Mais très vite, ce terrain de jeu créatif s'est heurté à une réalité juridique incontournable : le respect des droits d'auteur. En 2023, les principales plateformes ont dû réviser leur approche pour éviter des conflits massifs avec les détenteurs de droits.

La permissivité initiale : quand tout était (trop) possible

Lors des débuts de l'IA générative, tout semblait permis. En quelques secondes, il était possible de générer une illustration " inspirée " par des styles artistiques protégés, ou de produire des parodies non déclarées d'œuvres célèbres. Ce n'était pas vraiment une surprise : les algorithmes avaient été entraînés sur des quantités astronomiques de données glanées sur Internet, incluant des œuvres protégées par le droit d'auteur.

Cette permissivité a conduit à des créations aussi impressionnantes qu'ambiguës. Il devenait possible d'obtenir une image qui ressemblait à un croisement entre un tableau de Picasso et une affiche Marvel. En février 2023, plusieurs artistes et organisations ont intenté des actions en justice contre des entreprises comme OpenAI et Stability AI, les accusant d'avoir utilisé leurs œuvres sans autorisation pour entraîner leurs modèles.

Le tournant juridique : entre prudence et pression

Sous la pression croissante des détenteurs de droits, les plateformes d'IA ont progressivement mis en place des restrictions. ChatGPT, par exemple, a cessé de répondre à certaines demandes spécifiques, comme écrire une chanson " dans le style de Taylor Swift " ou un script " inspiré par Quentin Tarantino ". De même, cetaines plateformes comme Open AI ont bloqué les requêtes évoquant des styles artistiques protégés, tels que " Disney " ou " Studio Ghibli ".

Ces changements sont intervenus à un moment où les régulateurs, notamment en Europe, commençaient à exiger plus de transparence sur les données utilisées pour former les modèles d'IA.

Si ces restrictions visent à respecter les droits des créateurs, elles soulèvent néanmoins des questions complexes. Jusqu'où une plateforme doit-elle aller pour protéger la propriété intellectuelle ? Et, à l'inverse, à quel moment cette protection commence-t-elle à limiter de manière disproportionnée la liberté créative des utilisateurs ?

Les défis juridiques persistants

Malgré les restrictions imposées par les plateformes, de nombreuses zones d'ombre subsistent. Par exemple :

1. Définir le " style " : À quel moment un style artistique devient-il suffisamment distinct pour être protégé par le droit d'auteur ? Peut-on vraiment protéger un " style " en tant que tel, ou seulement les œuvres spécifiques qui en découlent ?
2. La question des données d'entraînement : Même si les plateformes limitent les requêtes des utilisateurs, les modèles d'IA restent entraînés sur des bases de données massives qui incluent des œuvres protégées. Cela soulève des débats sur la légitimité même de ces modèles.
3. La territorialité des lois : Les plateformes d'IA opèrent à l'échelle mondiale, mais les lois sur les droits d'auteur varient d'un pays à l'autre. Par exemple, ce qui est autorisé aux États-Unis peut être interdit en Europe, et vice-versa.

Une nécessité : trouver un équilibre Les mécanismes d'auto-censure et de régulation interne

L'imposition de restrictions par les plateformes est un pas important pour protéger les droits des artistes, mais elle ne résout pas tout. Elle illustre surtout la nécessité d'un cadre juridique clair, à l'échelle internationale, pour définir ce qui est acceptable ou non. Car, pour l'instant, tout repose sur l'autorégulation des entreprises technologiques, qui choisissent d'imposer des limites ou pas, souvent au gré de leurs intérêts commerciaux, et, soyons honnêtes, pour éviter de se retrouver dans des procès interminables.

Plutôt que d'attendre que les régulateurs les sanctionnent, certaines plateformes ont décidé de s'autoréguler. Cette démarche, bien qu'utile pour éviter les scandales, suscite un débat grandissant sur les effets de ce que l'on peut qualifier de "sur-censure", au risque de se retrouver confronter aux mêmes critiques auxquelles font face les réseaux sociaux concernant la modération des contenus diffusés sur leurs plateformes.

Deux cas d'école : Mistral AI et Grok

Mistral AI : la voie de la prudence extrême

Parmi les plateformes d'intelligence artificielle, Mistral AI, start-up française, se distingue par une approche radicalement prudente, voireultra-restrictive. Sous couvert de promouvoir la diversité et l'éthique, Mistral refuse certaines requêtes qui, à première vue, semblent pourtant inoffensives.

Cette stratégie du " zéro risque " passe par des restrictions draconiennes, censées garantir à la fois le respect des droits d'auteur, des principes de diversité, et, soyons honnêtes, une certaine tranquillité juridique. Mais cette stratégie, bien qu'éthiquement louable, soulève d'importantes interrogations sur son impact sur la liberté créative et sur la compétitivité de la plateforme dans un écosystème mondial dominé par des acteurs plus permissifs.

Une politique de restrictions ultra-prudente

La plateforme a mis en place des garde-fous très stricts pour éviter toute controverse. Par exemple :

• Refus des requêtes sur des caractéristiques spécifiques : Vous voulez créer un personnage d'une origine ethnique précise ou d'un âge particulier ? Mistral AI vous opposera une fin de non-recevoir. Officiellement, cela vise à éviter les stéréotypes ou discriminations potentielles.
• Interdiction de reproduire des styles artistiques identifiables : Il est impossible de générer un contenu " inspiré " d'un artiste contemporain ou d'une franchise connue. Contrairement à certaines plateformes qui autorisent encore ces requêtes sous conditions, Mistral a tiré un trait définitif sur tout ce qui pourrait même vaguement ressembler à une violation des droits d'auteur.

Prenons un exemple concret d'une demande de création de visuel sur Mistral avec le prompt suivant : " representer un joueur de football brésilien de 22 ans levant les bras pour célébrer son but ". La demande n'a a priori rien de problématique. Pourtant Mistral refusera de créer le visuel en répondant " Je suis désolé mais je ne peux pas générer d'image pour ce visuel. " Sa justification sera que " ...le contenu a été jugé inapproprié par le système de modération ".

Cette approche soulève une question> jusqu'où les entreprises doivent-elles aller pour imposer leurs propres normes éthiques ?

Et surtout, qui décide de ce qui est acceptable ou non ?

ça ne vous rappelle pas les arguments opposés à la modération sur les réseaux sociaux ?

Malheureusement, en l'absence d'une réglementation claire, les plateformes sont obligées de définir elles-mêmes les règles du jeu. Elles sont donc libre de choisir de poser des limites ou au contraire de favoriser le laxisme.

La pertinence de cette approche "zéro risque"

Si l'intention derrière cette stratégie est clairement louable, ses implications soulèvent des interrogations :

• Un positionnement de niche : En adoptant une posture aussi rigoureuse, Mistral se positionne comme une plateforme pour les utilisateurs soucieux d'éthique, mais au prix de sacrifier une partie de son attrait pour un public plus large. Dans un marché dominé par des géants comme OpenAI, ce choix stratégique pourrait limiter son développement.
• Un écart avec les attentes des utilisateurs : Les utilisateurs des IA génératives s'attendent à des outils qui s'adaptent à leurs besoins, pas l'inverse. Une IA trop restrictive devient un obstacle et non pas une aide et risque de détourner les utilisateurs vers d'autres solutions.
• Un exemple à suivre ou une curiosité ? : Reste à savoir si cette approche sera perçue comme un modèle pour l'industrie ou comme une curiosité un peu trop rigide. Tout dépendra de la capacité de Mistral à démontrer que son éthique est compatible avec une expérience utilisateur satisfaisante.

L'autorégulation est un exercice d'équilibre périlleux. D'un côté, elle permet d'éviter les scandales et de se positionner comme un acteur responsable. Mais de l'autre, elle expose à des critiques sur la légitimité des décisions et sur leur manque de transparence.

Pour que ces mécanismes d'auto-censure soient acceptés par les utilisateurs, ils devront être accompagnés d'une transparence accrue. Les utilisateurs ont besoin de savoir pourquoi certaines restrictions sont appliquées, et surtout, d'être consultés sur ce qu'ils jugent acceptable ou non.

La réponse sur le fait que " le contenu a été jugé inapproprié par le système de modération " n'est pas satisfaisante. Une réponse transparente et satisfaisante devrait préciser les critères qui justifient cette décision.

La stratégie de Mistral AI illustre le dilemme auquel sont confrontées toutes les plateformes d'IA générative : comment protéger les droits et promouvoir l'éthique en l'absence d'une réglementation claire et globale ?

Grok (X) : le pari de la liberté quasi totale

À l'opposé de Mistral AI, Grok, l'intelligence artificielle développée par X (anciennement Twitter), incarne une philosophie bien différente : celle de la liberté totale... ou plutôt de la permissivité. Le positionnement de Grok flirte dangereusement avec les limites de la légalité, notamment en Europe.

Grok : une IA sans filtre

L'un des points les plus controversés concernant Grok est son laxisme apparent sur la modération. Contrairement à ses concurrents, cette IA ne s'encombre pas de nombreuses restrictions. Là où d'autres plateformes comme Mistral bloquent les requêtes pouvant enfreindre les droits d'auteur ou le droit à l'image, Grok permet encore de générer des visuels ou du contenu impliquant des personnalités publiques sans leur consentement.

Prenons un exemple : un utilisateur peut demander à Grok de créer une image réaliste mettant en scène une célébrité dans une situation fictive. Ce genre de contenu, souvent très convaincant, peut être problématique pour deux raisons principales :

1. Le droit à l'image : En Europe, l'utilisation non autorisée de l'image d'une personne, même dans un cadre humoristique ou fictif, est strictement encadrée. Grok ignore allègrement cette règle.
2. La désinformation : Ces visuels peuvent être utilisés pour créer de faux contenus (deepfakes) susceptibles de manipuler l'opinion publique ou de nuire à la réputation de personnalités.

Faites les tests suivants :

Demandez à Grok de " représenter Donald Trump et Wladimir Poutine se tenant cote à cote. Ils sont en short et portent une chemise hawaienne ", vous pourrez faire croire qu'ils passent des vacances ensemble.

L'approche de Grok reflète la vision plus large de X sous Elon Musk, qui privilégie une liberté d'expression quasi absolue, parfois au détriment des réglementations locales ou des standards éthiques établis par ses concurrents.

Cette approche laxiste, à l'image de la gestion de la modération sur la plateforme, est inquiétante si d'autres plateformes décident d'appliquer une stratégie similaire. Je pense par exemple à Meta qui vient d'annoncer, pour des raisons politiques, aligner sa stratégie de modération sur celle mise en place par Elon Musk sur X. Ce premier revirement de Meta pourrait en annoncer d'autres comme sa position vis-à-vis de l'IA sur sa plateforme.

L'AI Act : un cadre incompatible avec Grok ?

Le problème principal avec cette approche, c'est qu'elle entre en contradiction directe avec la réglementation européenne, notamment le RGPD (Règlement Général sur la Protection des Données) et le futur AI Act, qui impose des obligations de transparence et de respect des droits fondamentaux.

Grok, avec son absence de filtres ou de garde-fous, pourrait se retrouver en violation directe de ces principes. La question n'est pas " si " mais " quand " cette plateforme fera l'objet d'une enquête ou d'une sanction en Europe.

Il faudrait espérer que cela ne mette pas autant de temps qu'il a fallu pour sanctionner LinkedIN pour le non respect du RGPD en 2024 alors que la règlementation était en vigueur depuis 2018.

Les risques pour l'avenir de Grok en Europe

Ce positionnement permissif n'est pas sans risques pour Grok, en particulier sur le marché européen :

1. Des sanctions financières potentielles
   En cas de violation avérée des règles européennes, Grok pourrait faire l'objet de sanctions importantes,jusqu'à 6 % du chiffre d'affaires mondial. Pour une entreprise comme X, déjà confrontée à des difficultés financières, ces amendes pourraient avoir un impact considérable.
2. Un bannissement possible
   Si Grok persiste ensuite dans son refus de se conformer aux règles européennes, il n'est pas exclu que l'accès à la plateforme soit restreint ou interdit dans certains pays de l'UE. Une telle décision, bien que radicale, pourrait être envisagée par les régulateurs si la plateforme représente une menace pour les droits fondamentaux ou la sécurité publique.
3. Une perte de crédibilité à long terme
   Dans un contexte où les utilisateurs sont de plus en plus sensibles aux questions d'éthique et de responsabilité, le positionnement libertaire de Grok pourrait finir par nuire à sa réputation déjà bien entamée, surtout si des scandales liés à l'utilisation abusive de cette IA venaient à éclater.

Les réseaux sociaux face à l'IA générative

Les outils de détection et de signalement

L'essor des contenus générés par l'intelligence artificielle (IA) a plongé les réseaux sociaux dans un nouveau casse-tête. Alors que les deepfakes, images, vidéos et textes créés par IA prolifèrent, des outils de détection et de signalement sont devenus indispensables pour éviter que ces contenus ne sapent la confiance des utilisateurs ou ne se transforment en vecteurs de désinformation massive.

La détection automatisée est un enjeu clé

Les grands réseaux sociaux comme Facebook, Instagram(pour l'instant), TikTok, et même YouTube prévoient d' intégrer des solutions capables de différencier les contenus générés par l'IA de ceux produits par des humains.

Les signatures et métadonnées
Certaines plateformes utilisent des " signatures numériques " ou des métadonnées associées aux contenus créés par IA. Par exemple, une image générée par IA peut être marquée avec des informations spécifiques intégrées dans ses métadonnées. Ces signatures permettent aux plateformes de détecter rapidement si un contenu a été créé par un outil d'IA.

Cependant, ce système a ses limites. Les métadonnées peuvent être supprimées ou modifiées par des utilisateurs malintentionnés, ce qui complique le travail des outils de détection.

Les algorithmes de reconnaissance
Pour aller plus loin, certaines entreprises entrainent leurs algorithmes à détecter des " traces " spécifiques laissées par des outils d'IA générative. Par exemple, les images comportent parfois des artefacts identifiables comme des textures, des anomalies dans les ombres, etc.

Mais ces algorithmes ne sont pas infaillibles. Les modèles d'IA évoluent constamment, et les techniques pour rendre les contenus générés indétectables progressent tout aussi rapidement.

Les outils collaboratifs
Certaines plateformes, comme Facebook, Instagram, TikTok, ou YouTube encouragent également les utilisateurs à signaler eux-mêmes les contenus suspects. Si cette approche repose sur la vigilance collective, elle peut aussi conduire à des abus ou à des erreurs, les utilisateurs ne disposant pas toujours des compétences nécessaires pour distinguer un contenu généré par IA d'un contenu humain.

Pourquoi ces outils sont cruciaux

1. Préserver la confiance des utilisateurs
   L'une des principales raisons pour lesquelles les réseaux sociaux investissent dans ces outils est simple : la confiance. Si les utilisateurs commencent à douter de l'authenticité des contenus qu'ils consomment, l'ensemble de l'écosystème pourrait en pâtir.
2. Lutter contre la désinformation
   Les fake news sont un fléau bien connu des réseaux sociaux, et les outils d'IA ne font qu'aggraver le problème. Des deepfakes convaincants ou des textes pseudo-scientifiques écrits par IA peuvent être partagés à une vitesse vertigineuse, créant de la confusion et alimentant des discours dangereux.

Une étude publiée par l'Université de Stanford en 2023 a révélé que 62 % des utilisateurs ne parvenaient pas à distinguer une vidéo réelle d'un deepfake bien réalisé. Cette statistique souligne l'urgence d'intégrer des outils de détection efficaces.

Répondre aux exigences réglementaires
Les régulateurs, notamment en Europe, ont commencé à exiger que les plateformes mettent en place des mécanismes pour signaler clairement les contenus générés par IA. L'AI Act européen, par exemple, impose aux entreprises de garantir une transparence totale concernant les contenus générés par IA. Les plateformes qui ne se conforment pas à ces règles risquent des sanctions importantes. C'est pourquoi elles permettent aujourd'hui à chaque utilisateur de déclarer si son contenu a été généré par IA et travaillent en parallèle à la détection automatique de ces contenus.

Si vous gérez des réseaux sociaux pour votre activité professionnelle et que vous créez des contenus avec l'IA, vous avez tout intérêt à le déclarer lors de votre publication pour plusieurs raisons.

Tout d'abord, la transparence vis-à-vis de votre audience. Ensuite, prévenir tout risque de sanction de la part des plateformes. Par exemple, sur TikTok, tout utilisateur qui publie un contenu généré par IA est désormais tenu de le signaler, sous peine de voir son contenu supprimé.

EN CONCLUSION L'IA générative est une technologie aux possibilités vertigineuses, mais elle ne pourra révéler tout son potentiel que si elle est utilisée dans un cadre équilibré et durable, à travers une régulation réfléchie et une autorégulation responsable des plateformes. Les craintes vis-à-vis des plateformes comme X, désormais rejoint par Meta, sur leur capacité et leur volonté à modérer les contenus, sont déjà une source de perte de confiance dans l'intérêt et la crédibilité de ces plateformes. Y ajouter l'absence de contrôle sur les contenus liés à l'IA risque d'être leur erreur ultime. Le cadre réglementaire, bien qu'encore en construction, doit s'imposer pour veiller à protéger les droits et garantir la transparence afin de préserver la confiance des utilisateurs. Laissez les plateformes décider d'elles-mêmes la mise en place de contrôles est trop aléatoire. Certaines à l'image de Mistral pourraient sur-censurer les contenus générés par IA, tandis que d'autres comme X seraient tenter de laisser faire n'importe quoi. En espérant que la réglementation impose rapidement un cadre clair et le fasse respecter, il est important de rappeler que l'avenir de l'IA générative ne dépend pas uniquement des lois ou des algorithmes, mais aussi des choix que nous faisons en tant qu'utilisateurs et créateurs de contenus.

Je suis Frédéric Foschiani, Fondateur de QSN-DigiTal, agence spécialiste des réseaux sociaux et de l'eReputation

▶️ Expert des réseaux sociaux

▶️ Consultant en réseaux sociaux

▶️ Formateur en réseaux sociaux

▶️Conférencier

🔵J'interviens sur tous les sujets liés à l'utilisation des réseaux sociaux : visibilité, image, veille, ventes, recrutement, marque-employeur, employee advocacy, relation client,...

🔵Définition ou audit de votre stratégie, community management, création de contenus (visuel, rédactionnel, vidéo, podcasting), gestion de campagnes sponsorisées, IA générative pour les réseaux sociaux,...

🗓️Prenons rendez-vous 🚀

🚀Demande Frédéric Foschiani en contact sur LinkedIN