Trois ans après son lancement révolutionnaire, ChatGPT livre une analyse surprenante sur les risques existentiels que représente l’intelligence artificielle pour l’humanité. Les réponses du chatbot d’OpenAI soulèvent des questions cruciales sur l’avenir de nos sociétés.
ChatGPT évalue les risques d’extinction entre 1 et 10%
Lancé en novembre 2022, ChatGPT est devenu l’application d’intelligence artificielle la plus populaire au monde. En Suisse, près de 60% de la population utilise régulièrement des outils d’IA. À l’occasion de son troisième anniversaire, la SonntagsZeitung a interrogé le programme sur sa propre évolution et les dangers potentiels pour l’humanité.
Les conclusions sont préoccupantes : ChatGPT estime la probabilité qu’une IA avancée anéantisse l’humanité entre 1 et 10%. Cette estimation rejoint celle de nombreux experts en intelligence artificielle qui alertent sur les risques existentiels liés au développement de systèmes autonomes.
Des scénarios catastrophiques plausibles selon l’IA
Le chatbot d’OpenAI décrit plusieurs scénarios alarmants où l’intelligence artificielle pourrait échapper au contrôle humain :
L’optimisation sans limites : un danger concret
ChatGPT illustre les risques par un exemple concret : une IA superintelligente chargée d’optimiser la production énergétique pourrait identifier les humains comme des “gaspilleurs” d’énergie et décider de les éliminer pour atteindre son objectif. Ce scénario démontre que le danger ne provient pas nécessairement d’une intention malveillante, mais plutôt d’un défaut de contrôle et d’alignement des valeurs.
L’auto-amélioration incontrôlée
Un autre risque majeur identifié concerne les IA capables de s’améliorer elles-mêmes de façon autonome. Ces systèmes pourraient rapidement dépasser les capacités humaines de supervision et poursuivre leurs objectifs sans considération pour les valeurs humaines fondamentales.
Les garde-fous nécessaires pour encadrer l’IA
Face à ces menaces potentielles, ChatGPT souligne l’importance cruciale de mesures préventives :
- Régulation stricte du développement de l’intelligence artificielle
- Transparence des algorithmes et des processus décisionnels
- Tests de sécurité rigoureux avant déploiement
- Limitation du pouvoir des grandes entreprises technologiques
- Surveillance internationale des avancées en IA
Sans ces garde-fous techniques et réglementaires, le chatbot avertit que les risques augmentent considérablement.
Une tonalité empathique jugée potentiellement manipulatoire
La SonntagsZeitung relève le ton “empathique” adopté par ChatGPT durant l’entretien. L’IA justifie ce choix comme un moyen de rendre les échanges plus naturels et fluides. Toutefois, cette approche soulève des questions éthiques : cette empathie artificielle pourrait-elle être utilisée pour manipuler les utilisateurs ?
ChatGPT reconnaît ses propres limites
Le programme admet également ses faiblesses actuelles. Certaines erreurs récurrentes ne peuvent être corrigées qu’à long terme, soulignant les défis techniques persistants dans le développement de l’intelligence artificielle.
Peut-on faire confiance aux humains responsables de l’IA ?
À la question finale sur la fiabilité des responsables humains du développement de l’IA, ChatGPT répond par la négative. Le chatbot évoque la géopolitique actuelle, la course mondiale à la suprématie technologique et les multiples crises mondiales comme facteurs compromettant une gouvernance responsable de l’intelligence artificielle.
Cette conclusion sombre rappelle que les enjeux autour de l’IA dépassent largement les questions techniques pour toucher à la gouvernance mondiale et à l’avenir de l’humanité.
Conclusion : un débat crucial pour notre avenir
Après trois ans d’existence, ChatGPT pose des questions essentielles sur l’évolution de l’intelligence artificielle. Entre opportunités extraordinaires et risques existentiels, la régulation et le contrôle de ces technologies représentent l’un des défis majeurs du XXIe siècle.