Bienvenue dans l'univers chatoyant et mystique de ChatGPT, où chaque phrase est une danse de probabilités, et où la vérité est aussi insaisissable qu'un rayon de lune un soir d'été. Vous avez sans doute entendu parler de ces nouvelles stars de la technologie qui font trembler les claviers : les modèles de langage tels que ChatGPT. Promis à révolutionner la communication, certains les considèrent comme des génies en herbe tandis que d'autres les voient comme des simples machines à produire du bullshit. Mais avant de vous précipiter pour brûler vos dictionnaires, laissez-nous vous expliquer pourquoi il est crucial de ne pas se laisser berner par ces machines à paroles.
ChatGPT : Un Magicien des Mots ?
À première vue, ChatGPT semble être un prodige. Posez-lui une question, et voilà qu'il vous sert un texte si bien ficelé qu'on croirait lire un humain. Mais si vous creusez un peu, vous découvrirez que ce joli discours n'est qu'un savant mélange de mots piochés dans une mer de données, sans la moindre intention de vous éclairer sur la vérité.
Le Mythe de l'Hallucination
L'un des termes qui fait fureur est "hallucination". Ce mot glamour donne l'impression que ChatGPT perçoit le monde d'une manière étrange et fantastique, un peu comme un poète perdu dans ses rêveries. Mais attention, c'est là que réside le piège. En réalité, comparer les erreurs de ChatGPT à des hallucinations revient à lui prêter des intentions qu'il n'a pas. Il ne perçoit rien, ne voit rien, et surtout, ne comprend rien.
Le Véritable Visage : Le Bullshitteur
Entrons dans le vif du sujet. Ce que ChatGPT produit n'est ni mensonge ni hallucination : c'est du bullshit pur et simple. Inspiré par le philosophe Harry Frankfurt, le bullshit est une communication où l'exactitude de l'information n'a pas d'importance. Le bullshitteur n'est pas là pour vous tromper délibérément, mais simplement pour produire du texte qui semble correct, peu importe la vérité.
Imaginez un étudiant paresseux qui, n'ayant pas lu le livre, brode une réponse en espérant que cela suffise pour tromper le professeur. C'est exactement ce que fait ChatGPT. Il combine des mots de manière cohérente, sans se soucier de la véracité de ses propos. Il en résulte un texte qui peut être convaincant, mais qui peut tout aussi bien être complètement faux.
Quand ChatGPT Devient un Problème
Si tout cela reste inoffensif quand il s'agit de générer des histoires pour enfants ou des poèmes, les choses se compliquent lorsqu'on utilise ChatGPT pour des tâches plus sérieuses. Prenez par exemple un avocat utilisant ChatGPT pour rédiger un document juridique, et découvrant trop tard que toutes les affaires citées sont inventées. Ou encore des chercheurs en biologie se retrouvant avec des références bibliographiques fictives. Dans ces cas-là, le bullshit de ChatGPT n'est pas seulement trompeur, il est potentiellement dangereux.
La Solution ? La Bonne Communication
Alors, comment devrions-nous parler de ces erreurs ? Si "hallucination" est un terme trompeur, et "bullshit" semble trop vulgaire pour certains, il est temps de réévaluer notre terminologie. Comprendre et accepter que ChatGPT n'a aucune intention, bonne ou mauvaise, et qu'il est simplement un outil qui produit des textes convaincants sans souci de leur véracité, est un pas important. En d'autres termes, nous devons cesser de voir ChatGPT comme un oracle mystique et commencer à le traiter comme un simple générateur de texte sophistiqué.
Le Futur des Modèles de Langage
Alors, que réserve l'avenir pour ces modèles de langage ? Les entreprises cherchent des solutions, comme connecter ChatGPT à des bases de données pour vérifier ses réponses, mais cela n'a pas toujours donné les résultats escomptés. Les modèles peuvent toujours poser des questions erronées aux bases de données ou mal interpréter les réponses reçues. L'entraînement à des raisonnements plus complexes pourrait améliorer la situation, mais cela reste un défi de taille.
Réaliser et Réagir
En fin de compte, la clé réside dans notre compréhension et notre communication. En tant qu'investisseurs, décideurs ou simples utilisateurs, il est crucial de reconnaître les limites de ces technologies et de ne pas les surestimer. Adopter un langage clair et précis, comme reconnaître que ces modèles sont de superbes générateurs de texte sans conscience ni compréhension, nous aide à naviguer dans ce paysage technologique complexe. Rappelons-nous que ces machines ne sont ni des voyants ni des menteurs, mais de simples producteurs de mots, souvent captivants, parfois trompeurs, mais toujours dépourvus d'intention.
En résumé, ne laissez pas le bullshit vous aveugler. Approchez ChatGPT avec la curiosité d'un geek et la prudence d'un sceptique, et vous serez mieux armé pour en tirer le meilleur parti, sans en subir les pièges.
Source : https://link.springer.com/article/10.1007/s10676-024-09775-5
Jeu de briques
Snake
Pacman
Bubble