Georg Cantor, une certaine idée de l’infini

" L'essence des mathématiques, c'est précisément leur liberté. ".

Il y a un siècle, le 6 janvier 1918, est mort d'une crise cardiaque à l'âge de 72 ans le grand mathématicien allemand Georg Cantor. Même s'il fut reconnu de son vivant comme le fondateur de la théorie des ensembles, ses dernières décennies de vie ne furent pas vraiment la gloire : il est mort dans la pauvreté, dans un hôpital psychiatrique, à Halle où il vivait, en Allemagne, soigné pour une dépression voire pour des troubles bipolaires qu'il a développés à partir de 1884.
C'est vrai qu'il fallait être un peu fou pour proposer ce qu'il a proposé : jouer avec les ensembles, jouer avec l'infini et même, avec les infinis, parler d'infinité d'infinis. Au moins, il fallait avoir une forte intuition et une idée de l'harmonie qu'il développa en jouant très bien du violon (son grand-père maternel fut un violoniste réputé et soliste dans un orchestre impérial russe). En 1896, il disait notamment : " Pour la première fois, grâce à moi, la philosophie chrétienne disposera de la vraie théorie de l'infini. La plus haute perfection de Dieu est la possibilité de créer un ensemble infini et son immense bonté conduit à le créer. ".
Cité en 1990 par Yehuda Rav (du Département de mathématique de l'Université de Paris-Orsay) dans la "Revue d'histoire des sciences" (tome 43, n°2-3) à propos d'une biographie réalisée par Walter Purkert et Hans-Joaquim Ilgauds, le mathématicien allemand Ernst Zermelo (1871-1953), qui compléta la théorie des ensembles, a écrit en 1932 : " Il est rare, dans l'histoire des sciences, qu'une discipline scientifique tout entière, d'une importance fondamentale, soit le produit du travail d'une seule personne. C'est le cas de la création de la théorie des ensembles par Georg Cantor. ".

Né le 4 mars 1845 à Saint-Pétersbourg dans une famille aisée et cultivée (un père danois luthérien, probablement d'origine hispano-portugaise, qui a fait fortune et une mère autrichienne, Maria Böhm, catholique qui s'est convertie), Georg Cantor s'installa en Allemagne en 1856 (à cause de son père malade qui avait besoin d'un climat plus clément), à Wiesbaden puis Francfort. Bon élève et excellent en mathématiques, Cantor fit ses études d'abord à l'École polytechnique de Zurich, puis à Berlin et aussi un été à Göttingen. À Berlin, ses professeurs avaient notamment pour nom Karl Weierstrass (1815-1897), Ernst Kummer (1810-1893) et Leopold Kronecker (1823-1891), ce dernier fut l'un de ses contradicteurs les plus acharnés, au point de tout faire pour lui bloquer sa carrière universitaire.
Cantor a soutenu en 1867 sa thèse de doctorat à l'Université de Berlin sur la théorie des nombres et les solutions des équations du second degré ("De aequationibus secundi gradus indeterminatis"). Après avoir "galéré" pendant quelques années (comme de nombreux jeunes docteurs de nos jours), Cantor a obtenu un poste à l'Université de Halle en 1869 et ce fut là qu'il s'est définitivement établi (il y enseigna jusqu'en 1914). Malgré sa nomination comme professeur d'université à l'âge de 34 ans (en 1879), il n'a cependant pas eu la carrière qu'il souhaitait car il voulait enseigner dans de plus prestigieuses universités comme Berlin et Göttingen. Parmi ses amis, on peut citer les mathématiciens Hermann Amandus Schwarz (1843-1921) qu'il a connu à Berlin et qui diffusa les idées de Weierstrass en Europe, Richard Dedeking (1831-1916), proche de Kummer, avec qui Cantor a eu une longue et fructueuse correspondance entre 1872 et 1889, également Gösta Mittalg-Leffler (1846-1927).
Les premiers travaux de Cantor ont porté sur l'unicité du développement des fonctions périodiques en séries de Fourier, qu'il a résolue en 1869. C'était un problème sur lequel avaient buté notamment Johann Dirichlet (1795-1859), Bernhard Riemann (1826-1866), et Edouard Heine (1821-1881) qui conseilla à Cantor de se tourner vers l'analyse après sa thèse.
Ce problème l'amena vers la notion d'ensemble infini et d'infini. Il publia ses travaux principalement sous forme d'une dizaine de publications entre 1874 et 1877 dans la prestigieuse revue scientifique de mathématiques, le Journal de Crelle (exactement : "Journal für die reine und angewandte Mathematik" fondé en 1826 à Berlin par le mathématicien August Leopold Crelle) et de six publications entre 1879 et 1884 dans "Mathematische Annalen". Trois autres importants articles furent publiés entre 1891 et 1897.

Parmi ses conclusions, l'ensemble des nombres entiers naturels et l'ensemble des nombres rationnels sont dénombrables mais l'ensemble des nombres réels n'est pas dénombrable. Il démontra ainsi plusieurs niveaux d'infini, que l'ensemble des nombres réels contenait plus d'éléments que l'ensemble des nombres entiers naturels.
En définissant une bijection entre tous les éléments de deux ensembles, il pouvait prouver que ces deux ensembles avaient le même cardinal (c'est-à-dire, le même nombre d'éléments, bien qu'il soit infini). Pire, en définissant une bijection entre une droite réelle et une surface, il démontra qu'il y avait autant de points sur un segment de droite que dans un carré ! (Galilée avait déjà remarqué qu'il y avait autant de carrés de nombres entiers naturels que de nombres entiers naturels eux-mêmes). Pareil pour un cube, un hypercube, etc. Cantor a écrit ainsi à Dedeking : " Je le vois, mais je ne le crois pas. ".
Cantor proposa le "théorème de Cantor" qui s'énonce ainsi : "le cardinal d'un ensemble E est toujours strictement inférieur au cardinal de l'ensemble de ses parties P(E), c'est-à-dire qu'il n'existe pas de bijection entre E et P(E)". Cantor l'a démontré en 1891 avec une astuce, l'argument diagonal. Ce théorème peut aussi s'imager avec le paradoxe suivant : " Soit un cahier comportant autant de pages que l'on veut. On numérote chaque page, et, sur chacune d'entre elles, on écrit un ensemble d'entiers (tous différents), de telle sorte à ne jamais écrire deux fois le même ensemble. On dit qu'un nombre N est ordinaire si l'ensemble écrit à la page N ne contient pas N ; dans le cas contraire, on dit que N est extraordinaire. Supposons que l'on ait écrit sur ce cahier tous les ensembles possibles. La question est : à quelle catégorie appartient l'entier sur la page duquel on a écrit l'ensemble des nombres ordinaires ? ".
Le site Wikipédia décrit ainsi une conséquence de ce théorème combiné avec d'autres axiomes : " Ce théorème implique qu'il existe une hiérarchie infinie d'ensembles infinis en termes de cardinalité. ". De quoi devenir un peu fou !
Le site Futura Science, quant à lui, fait le lien entre la conception paradoxale de l'infini de Cantor et le fameux paradoxe du menteur. Quand une personne dit : "Je mens", soit elle dit la vérité et alors, elle ment, donc elle ne dit pas la vérité ; soit elle ment et alors, elle ne dit pas la vérité, donc elle ne ment pas. Les deux cas sont absurdes. L'introduction de l'infini peut éviter l'autoréférencement : on prend une infinité de personnes dans un ordre donné, et chacune d'elles dit : "Au moins une personne derrière moi ment". Ce qui aboutit à la situation également paradoxale suivante. Derrière toute personne qui dit la vérité, il y a au moins un menteur, et derrière un menteur, il n'y a que des personnes qui disent la vérité. Ce qui est impossible et absurde car tout menteur doit n'être suivi que de personnes qui disent la vérité (selon l'affirmation initiale).
Voici une vidéo assez courte (avec sous-titres en français) du Dr. James Grime qui explique les différents niveaux d'infinis selon Cantor (vidéo qui a reçu plus de 5,4 millions de visiteurs en cinq ans).
Ceux qui ont plus de temps peuvent écouter l'exposé du mathématicien anglais Raymond Flood, professeur de géométrie au Gresham College de Londres, en mars 2015.
Ce fut cette capacité à concevoir, distinguer, nuancer les infinis qui suscita une très forte opposition d'un de ses enseignants et ancien mentor, Kronecker qui fit tout son possible, lui le réputé universitaire en charge des mathématiques à Berlin, pour que Cantor ne fût jamais nommé parmi ses collègues à l'Université de Berlin. Cantor n'était cependant pas rancunier car il se réconcilia avec Kronecker et lorsqu'il fut élu en 1890 à Halle à la présidence de l'Association des mathématiciens allemands (DMV, Deutsche Mathematiker-Vereinigung) qu'il a fondée (il fut son premier président de 1890 à 1893, ce qui montra son importance et son prestige ; cet organisme remet depuis 1990 la Médaille Georg-Cantor), il a proposé à Kronecker de participer à la première rencontre en septembre 1891 mais ce dernier y a renoncé pour rester auprès de son épouse mourante à la suite d'une suite d'une chute en escalade.

Cantor se démena pour structurer les communications entre mathématiciens, tant au sein de l'empire allemand qu'au niveau international. En 1897, il participa au premier congrès international des mathématiciens à Zurich. Certains orateurs y ont fait l'éloge de sa théorie des ensembles et sa reconnaissance internationale a grandi quelques années plus tard. Malgré son état dépressif, Cantor fit une communication sur les paradoxes de la théorie des ensembles lors d'une rencontre de la DMV en septembre 1903 et fut présent au congrès international des mathématiciens à Heidelberg en août 1904.
À partir de sa première dépression au printemps 1884 dont il se remit assez vite (son état dépressif a empiré lors de la mort d'un de ses six enfants, le plus jeune de ses fils, le 16 décembre 1899), Cantor préféra enseigner la philosophie aux mathématiques (à part un cours en 1885, il semblerait qu'il n'ait jamais enseigné lui-même la théorie des ensembles), voyant dans ses travaux sur l'infini, sur les nombres transfinis, et sur la théorie des ensembles beaucoup matières à "philosopher".
De plus, il perdit confiance en ses capacités à produire encore des travaux mathématiques pertinents. Cantor a eu aussi une correspondance entre 1886 et 1901 avec son ami Edmund Husserl (1859-1938), père de la phénoménologie, qu'il a connu comme collègue à Halle au début de la carrière de Husserl (qui préparait alors un doctorat de mathématiques dirigé par un élève de Weierstrass). Invité au 500 ^e anniversaire de la création de l'Université de St Andrews, en Écosse, en septembre 1911, Cantor fit le trajet jusqu'à Londres puis repartit en Allemagne à cause de sa mauvaise santé et de celle d'un de ses enfants. Il n'a donc pas pu rencontrer le mathématicien et philosophe britannique Bertrand Russell (1872-1970) avec qui il aurait voulu parler à propos de son récent "Principia Mathematica" (publié en 1910). Russell avait été beaucoup influencé par les travaux de Cantor.
Dépassant très largement le cadre des mathématiques et même de la philosophie, Cantor participa à la vie intellectuelle du moment, correspondant avec le pape Léon XIII et enquêtant pendant une quinzaine années sur la polémique qui attribuait des œuvres de Shakespeare à Francis Bacon (1561-1626). Il portait aussi un grand intérêt aux débats sur la physique théorique et à la théologie. Baptisé protestant, de mère catholique et de grands-parents paternes juifs, Cantor s'était marié à une femme juive de naissance, ce qui expliqua que leurs enfants furent persécutés par le régime nazi.
Lors du 2 ^e congrès international des mathématiciens réuni à Paris en août 1900, le mathématicien allemand David Hilbert (1862-1943), qui a participé à la diffusion des travaux de Cantor, proposa une liste de vingt-trois problèmes mathématiques qui domineraient les mathématiques du XX ^e siècle, et il plaça "l'hypothèse du continu" (formulée en 1878 par Cantor) à démontrer en première place : " Tout sous-ensemble infini des réels peut être mis en bijection avec l'ensemble des entiers naturels ou avec l'ensemble des réels lui-même. ". Autrement dit, il n'existerait aucun ensemble dont le cardinal (le nombre d'éléments) soit strictement compris entre le cardinal de l'ensemble des nombres entiers naturels et le cardinal de l'ensemble des nombres réels. Le logicien américain Paul Cohen (1934-2007), qui a obtenu la Médaille Field en 1966, démontra en 1963 que l'hypothèse du continu est indécidable : la théorie des ensembles n'engendre aucune contradiction, que cette hypothèse soit vraie ou qu'elle soit fausse. Mais la recherche se poursuit encore sur ce thème.
Avec cette communication de David Hilbert, essentielle dans l'histoire des mathématiques, les travaux de Cantor furent mis au premier rang des préoccupations des mathématiciens du XX ^e siècle. Et cela, de son vivant.
Aussi sur le blog.
Sylvain Rakotoarison (06 janvier 2018)
http://www.rakotoarison.eu
Pour aller plus loin :
Georg Cantor.
Jean d'Alembert.
David Bohm.
Marie Curie.

http://rakotoarison.over-blog.com/article-sr-20180106-georg-cantor.html