Sophus Lie, Friedrich Engel et le problème de Riemann-Helmholtz

349 Pages·2010·1.54 MB·French

Joël M E R K E R
ÉcoleNormaleSupérieure
DépartementdeMathématiquesetApplications
45rued’Ulm,F-75230ParisCedex05
www.dma.ens.fr/∼merker/index.html
[email protected]
Sophus Lie, Friedrich Engel
et le problème
de Riemann-Helmholtz
Monographie 7juin2010
(ANR Physique et Géométrie xxiii+325pages
à la charnière 19ème/20ème)
parue aux Éditions Hermann
Paris, rue de la Sorbonne

Préface
par Jean-Jacques Szczeciniarz1
S’il arrivait même en dormant ... qu’un géomètre inventât quel-
que nouvelle démonstration, son sommeil ne l’empêcherait pas d’être
vraie. DESCARTES,DiscoursdelaméthodeIVème partieA.T.VI39
(citationtiréede[26]quejedédieàlamémoiredeLaurentSchwarz).
Le travail qui vous est livré est le résultat d’une réflexion qui s’ef-
fectue sur trois registres, philosophique, mathématique et historique.
Par ces trois voies, il doit permettre au lecteur d’entrer dans l’œuvre
profonde et difficile du mathématicien Sophus Lie. Si Lie est connu
pour ses travaux et ses résultats, lot commun de, domaines importants
des mathématiques (théorie des groupes et algèbres de Lie), on connaît
peu son œuvre gigantesque dans son ensemble, ses lignes directrices et
ses objectifs, et surtout son unité. C’est à ces travaux trop vastes pour
être maîtrisés, écrits en norvégien et en allemand, que la présentation
de Joël Merker nous introduit d’abord. Mais le lecteur qui le suivra dé-
passera le stade déjà remarquable d’une introduction : il comprendra à
quelle stratégie d’ensemble obéit ce singulier mathématicien qui, dans
son genre, domine la fin du 19ème siècle; le lecteur saisira aussi quelle
singulièreobstinationetquelleformedepuissanceproductrice— celle
d’unmathématicien — aprésidéautravaildeLie.
Nousvoudrionsprésenterquelquesréflexionsquesuggèrelegenre
detravailauquelnousavonsaffaire.Lestroiscatégoriesdepersonnages
théoriques qui occupent l’espace des recherches qui sont présentées ici
travaillentetdoiventtravaillernécessairementdanslaplusétroitecolla-
boration, et pourtant, le statut de leurs productions les rend absolument
autonomes.Letextephilosophiquepossèdesesénoncésetsacohérence
propre, comme le travail mathématique qui est exposé et prolongé, de
lamêmefaçonquelesquestionsd’histoireetd’historiographiequisont
1 Professeuràl’UniversitéParisDiderot.
iv Jean-JacquesSzczeciniarz
déployées devant nous. Nous nous adresserons successivement à ces
troispersonnages.
Auxphilosophes.Ilestimpossibledenierlelienquiexisteentrephilo-
sophie et mathématiques, lien d’une nature extrêmement complexe. Ce
que ne fait pas la philosophie — au stade de son histoire — et ce qui
n’est pas en son pouvoir ni de son ressort : elle ne résout pas de ques-
tions mathématiques. Elle ne peut que décrire et amplifier les modes
d’ouverturethéoriqueàcettesingulièreetpourtantuniverselleformede
penséequesontlesmathématiques.Ellenepeutquereproduiresurson
propreterraindedéploiementlaréflexivitéquicaractériseletravailma-
thématique en profondeur. Elle produit donc un autre type de réflexion
et de réflexivité. En aucun cas comme philosophie elle ne peut recourir
aux arguments d’autorité des résultats produits par les mathématiques.
En revanche, le type de réflexion et de réflexivité que les mathéma-
tiquesproduisentestenmesuredepermettre,etparressemblanceetpar
différence, la problématisation philosophique. La divergence se mani-
festelàoùlaréflexivitéphilosophiqueserepliesurelle-mêmeetsurson
questionnement,eninterrogeantparexemple,lanaturedestypesd’êtres
qu’elle se voit constituer, pour rejoindre de façon particulière le corpus
philosophiquedequestionnementsclassiquesqu’ellerenouvelle.
De ce point de vue, Riemann (et c’est aussi le cas de Lie), se situe
bien en deçà, et au-delà en même temps, des philosophies mathéma-
tiques qui se sont développées et opposées au début du 20ème siècle :
le logicisme, l’intuitionnisme et le formalisme. Par delà les fossilisa-
tions aseptisantes auxquelles elles ont donné lieu, elles présentaient
elles aussi dans la virtualité de leurs déploiements et dans les dévelop-
pements de leurs premiers tenants un authentique questionnement phi-
losophique. Entendons-nous bien : une théorie des modèles ou même
une forme de logique peut avec intérêt pour le mathématicien et pour
le philosophe reproduire des résultats mathématiques sur les groupes
de transformations en ouvrant des développements dans le cadre de la
théorie des langages formels par exemple, cela ne ferait qu’un élément
deplusàprendreencomptepourlephilosophedanssaréflexion.
Ilestimpossibledenierégalementlesentimentdemalaisedansle-
quellaphilosophieditedesmathématiquesmetlemathématicien.Dans
la majorité des cas, il ne reconnaît rien, ni de sa pratique ni de sa théo-
rie : les philosophes parlent de loin, dans le suave mari magno d’une
extériorité rassurante, de mathématiques qui ne sont que rarement dif-
ficiles, et même quand c’est le cas, le problème de déployer l’ouver-
ture qui fait la profondeur de la difficulté n’est pas même abordé. Or la
PréfaceaulivredeJoëlMerker v
question de la difficulté, dans la mesure où, le plus souvent, les noda-
lités névralgiques des stratégies qui mettent en jeu des pans entiers du
corpus mathématiques s’y affrontent, est précisément le lieu d’excel-
lence où la philosophie affleure dans la mathématisation qui s’élabore.
Le mathématicien ne comprend pas, comme mathématicien, que l’on
puisseparlerd’unemathématiqueachevée.Ilfaut,sionveutl’interpel-
ler en philosophe, marcher en sa compagnie sur les cimes escarpées de
sommetsquisurplombentlesabîmes.
C’est là sans doute la difficulté que peut tenter d’affronter le phi-
losophequicesseraitd’arriverenretard,àlatombéedelanuit.Cen’est
pas la difficulté qui fait nécessairement valeur, quoi qu’en ait dit, en un
autre sens, Platon (tout ce qui est difficile est beau), mais elle restaure
une vérité des mathématiques se faisant. Pour des raisons simples qui
tiennent à la nature de la réelle progression de la science qui est massi-
vementsynthétique.
À l’autre bout du spectre de cette description, le mathématicien
ne reconnaît pas non plus ses mathématiques quand il constate le re-
cours, dans une terminologie métaphysique, à une élaboration caté-
gorielle qu’il perçoit comme abstraite. Il y voit, dans le meilleur des
cas, un descriptif théorique divergent qui s’oppose à la nécessité qu’il
éprouvecruellementd’avancerdansl’immensitédynamiquedesonap-
préhension. En même temps, je voudrais attirer l’attention sur le très
grand nombre de textes métaphysiques dont sont remplis les travaux
mathématiques, comme si la créativité ne pouvait s’exercer sur ce ter-
ritoire sans s’installer métaphysiquement. Peut-être est-ce particulière-
ment frappant dans les termes de la métaphysique allemande au cours
du19ème siècle.
Lesdeuxmodesdediscursivitésontdistincts,l’essentieldeladis-
cursivité mathématique se réalisant dans une argumentation démons-
trative qui est symboliquement ou formellement transcriptible. Mais la
pensée va presque toujours au-delà du démonstratif et du démontré.
Même en mathématiques, le problème insiste ou subsiste au-delà de
sasolution.
Une partie de l’introduction de ce livre est consacrée à l’ins-
tallation riemannienne. L’auteur y reprend de manière synthétique et
conceptuelle le travail de Riemann dont il montre à quel point il est ex-
plicitement et philosophique et mathématique. Il le caractérise d’une
manière qui ne peut qu’entraîner l’adhésion des lecteurs mathémati-
ciens ou philosophes : l’ouverture réflexive. Et l’ensemble de l’intro-
ductionàLiedéveloppelemêmegenrethématique.
vi Jean-JacquesSzczeciniarz
Je reprends deux exemples. D’abord celui des groupes de trans-
formations dans leur appréhension infinitésimale. Il s’agit du théorème
fondamental qui dit de manière surprenante que l’intégration d’un flot
local,danslecasanalytique,revientàlasommationd’unnombreinfini
determesdifférentiés(p.110).
Les termes qui en font la description permettent de prendre pied
surleterrainphilosophiquedecequel’auteurappelleune«équivalence
ontologiquefondamentale» entre groupe local à un paramètre et trans-
formation infinitésimale. Il ajoute que cette équivalence «s’insèreplus
généralementdansl’équivalencefonctionnelleentreledifférentielin-
finitésimaletlelocalfini,toutendéveloppantlespremierséléments
d’unethéoriegéométriquedumouvement».
Mais cette équivalence n’est pas un principe d’égalité absolue
entre deux êtres initialement distincts, et c’est sans doute là que gît
le point-clé de cette philosophie des mathématiques en constitution :
«l’ontologieestinterrogationendevenirsurlastructureetsurlaconsti-
tutiond’unêtremathématiqueproblématique» De ce point de vue, le
lecteur voit se déployer une ontologie opératoire, comme sera celle à
venir de la théorie des catégories qui a construit avec la théorie des
foncteurs, ce que l’auteur désigne ici. Mais il s’y ajoute aussi l’énoncé
de modes d’être que le commentateur mathématicien fait apparaître au
philosophe. La formule employée par l’auteur, formule qui se rapporte
au type d’équivalence posée par des théorèmes comme celui-ci, est la
suivante : «l’équivalence,enmathématiques,transcendetoutconcept
logiqueouméta-mathématiquedetermesformelssyntaxiquementsub-
stituables». Une équivalence de ce genre est posée par exemple par la
transformée de Fourier quand elle passe du différentiel au polynomial,
ou par le mouvement de transfert de problèmes qui est réalisé par les
transformationsintégrales,lesquellespermettentdereconstituerlespro-
blèmes en en fournissant des équivalents dans l’un des autres secteurs
desmathématiques.
La logique, syntaxiquement entendue, fait perdre la normativité
intrinsèque de la théorie se construisant. Mais il faut ajouter que son
objectif n’est pas initialement de capter cette normativité; plus préci-
sément, elle établit une autre forme de prescription, surtout si elle se
constituedel’extérieur.Danssesdéveloppementsplusrécents,elles’est
pourtant dirigée vers une nouvelle intégration de la dynamique du tra-
vail mathématique comme le fait e.g. la logiquelinéaire développée
par J.-Y. Girard. La terminologie conceptuelle qui analyse la mathéma-
tiqueentraindesefairesedoitalorsdefairesurgir,depuisl’apparence
PréfaceaulivredeJoëlMerker vii
métaphoriquequ’ellerevêt,laforced’entraînementréflexifparlaquelle
elleétablitlanouvellesynthèse.Commeleditl’auteur:«dansl’équiva-
lence,ildoitsemanifesterundifférentiel-synthétiquedupotentielinter-
rogatif,commeparl’effetd’unerévélationprogressivequiautoriserait
àoublier presquedéfinitivementlemembreinitialdel’‘équivalence’
pourneretenirquelemembrefinal[ces opérations sont thématisées en
théoriedescatégoriesparlefoncteurd’oubliparexemple]plusrappro-
ché,bienquepeut-êtreencorefortéloigné,del’essencedelachoseà
comprendre».
Un autre concept que l’auteur utilise, et que nous commen-
çons à mettre au centre de mécanismes de compréhension physico-
mathématique, est celui de brisure de symétrie. Il est lui aussi l’effet
d’une absorption par le langage conceptuel mathématique de phéno-
mènes de la physique théorique que nous pouvons de la sorte mettre au
poste d’observateur-clé du déploiement mathématique, par exemple de
la théorie essentielle de Galois. Galois, en concentrant notre attention
sur la symétrie des racines d’un polynôme qu’il met sous observation,
metenplaceuneprocéduredebrisuredeleursymétrie.
Dans l’équivalence dont l’auteur nous propose le concept, nous
effectuons également une brisure de symétrie : le concept de transfor-
mation infinitésimale «élimine» en quelque sorte le concept de groupe
localàunparamètre,pours’ysubstituercommeobjetd’étudeprincipal.
De cette façon, nous concevons la stratégie de Lie : mettre entre paren-
thèses l’intervention de l’analyse comme procédé d’intégration pour se
concentrer seulement sur la classification des transformations infinité-
simales. On peut alors saisir ce qui de l’infinitésimal permet de com-
prendre qu’il devienne le concept moteur : il est linéaire. Il serait alors
possibledecomprendrelamanièredontcethèmeetcesystèmedecom-
préhension qu’est le linéaire jouent un rôle central. Et de comprendre
aussi que le différentiel installe le linéaire, et de suivre une réflexion
surlelinéairedansledéploiementmathématique.C’estbienlamanière
dont il nous faut comprendre la notion même de développement en sé-
rie.
En nous plaçant explicitement sur le terrain de l’immanence phi-
losophique, nous parvenons à établir des liens conceptuels avec le spé-
culatifmathématiquequeconstruisentLieetEngel.
L’auteur remarque (p. 117) que toute question spéculative qui ap-
paraît «naturellement» est traitée par Engel et Lie au moment appro-
prié, dans le continu du déploiement de la théorie. J’en tire qu’il existe
viii Jean-JacquesSzczeciniarz
un moment nécessaire, dans cette production mathématique, où une ré-
flexionspéculativesurgit.S’agit-ild’unexcèsnécessaire,d’unecouche
de pensée qui dépasse l’enchaînement des théorèmes? Et l’auteur d’en
conclure : «s’ilexisteunesystématiqueduquestionnement,c’estdans
lesmathématiquesd’inspirationriemanniennequisesontdéveloppées
pendantladeuxièmemoitiédu19ème sièclequ’ilfautentrouverles
racines,bienavantquel’axiomatiqueformelledu20èmesièclenel’en-
fouissesousdesstratesdereconstitutionaposteriorietnonouvertement
problématisante».C’estpourquoiilnousfautcomprendresousunautre
jour la nature de la théorie hilbertienne qui vient en un sens mettre un
termeàcestyledemathématiques.
Aux mathématiciens. Un des principes mathématiques testé ici est ce-
lui de l’introduction de la géométrie dans l’infinitésimal (il s’agit d’un
mouvement historique datant du 18ème siècle mais qui s’est érigé en
principe). Joël Merker analyse en détail les mathématiques impliquées
par ce principe, et de ce fait, en quoi a consisté l’erreur de Helmholtz.
Cette remarquable erreur apparaît clairement présentée par l’auteur et
nous plonge au cœur de la théorie : «EngeletLiemontrentcombien
ilestpérilleuxd’extrapolerlesaxiomessupposésvalidesdansdesré-
gionslocalesd’extensionfinieausujetducomportementdepointsqui
sontinfinimentprocheslesunsdesautres»(p.66).Cetteréflexionsera
approfondie dans une théorie puissante des faisceaux qui reprend cette
questionàtraversleconceptdecohérence.
Une deuxième idée dont Lie reste métaphysiquement persuadé et
dont les philosophes ne peuvent rendre compte : l’analogie de sa théo-
rie des groupes continus finis de transformations avec la théorie des
groupes finis de substitutions. C’est une croyance rationnelle qui peut
être appellée métaphysique, car elle construit une double polarité entre
uneexigenceàdévelopperdefaçontrèsprécise,etellesetrouvedeplus
enracinéedanslesocledesactionsdegroupe.
L’intérêtdel’étuded’untextehistoriquequiaprisplacedansl’his-
toire est également purement mathématique. Prenons le cas des virtua-
lités. Un des objectifs de l’étude d’un texte mathématique qui a produit
seseffetsdansl’histoireréelledudéveloppementdesmathématiquesest
d’en reconstruire les modes d’effectuation et de compréhension. Mais
il suppose toujours que ces textes (leur contenu d’information, comme
le dit Alain Connes) ne sont jamais épuisés. L’histoire réelle a fait des
choix transformant une contingence donnée en nécessité a posteriori,
de l’après coup. Mais si cet irréversible est scellé, rien n’indique qu’il
soit unique. Et comme le montre l’auteur, il est possible et sans doute
PréfaceaulivredeJoëlMerker ix
nécessaire de développer d’autres mathématiques à côté de celles qui
l’ont été. Dans nombre d’endroits de son analyse, l’auteur entrant dans
lapenséedeLieenfournitprécisémentd’autresprolongements,quief-
fectuent des trajectoires nouvelles, laissant voir ce que cette création
nouvelleappelle.
Il n’y a donc pas, redisons-le, de théorie morte, parce qu’il n’y
a pas au cours de l’histoire de théorie qui s’isolerait de l’ensemble des
théoriesmathématiques.D’oùcesretoursmaintesfoisnotésdanslapra-
tique mathématique de méthodes réactualisées. Un résultat sédimenté
estreprisdansl’horizondusystèmeouvertdemédiationspossiblesdans
lequelestoffertetouteidéalité([26],p.112).
De plus, un travail comme celui-ci met en évidence deux caracté-
ristiques conceptuelles essentielles du corpus mathématique : sa puis-
sance architectonique. C’est sans doute un des faits saillants de l’his-
toire des mathématiques du 20ème siècle d’avoir traité cette architecto-
niquecommetelle(Grothendieck,H.Cartan,Serreparexemple),cequi
sevérifiedanslesnouvellesstructures,lescheminstransversaux,lestra-
jectoires inter-disciplinaires, les nouvelles unités disciplinaires que les
œuvres ont fait apparaître, et en même temps son aspect labyrinthique,
c’est-à-dire le fait que des résultats un temps silencieux puissent res-
surgir par des voies imprévues, des théorèmes se trouver redémontrés
dansunautrecadreetacquérirdenouvellessignifications.Denouvelles
contemporanéitéssontmisesenplace.
Leplussouvent,laphilosophiedesmathématiquesofficiellelaisse
malheureusementéchappercesfaitsquisontdeceuxquiparlentleplus
aux mathématiciens. Je choisis par exemple la manière dont Grothen-
dieck, reprenant l’analogie constatée entre la théorie de Galois algé-
brique et la topologie algébrique de Poincaré (théorie des revêtements
et groupe de Poincaré), construit le concept de cette analogie à travers
lathéoriedescatégoriesetinventelathéoriedufoncteurfibre.
Aux historiens des mathématiques. Il est d’une évidence cruelle que
toute élaboration philosophique ou mathématique portant sur un texte
historiquement daté doit se soumettre au critère de son historicité, si
un tel critère existe; s’il n’existe pas, il faut le faire surgir. L’histoire
suppose de ce point de vue que l’on puisse produire une mise à dis-
tance suffisante du texte à l’étude, pour en discerner la spécificité. Le
dépaysement construit de la sorte se propose toujours comme objectif
de ressaisir les formes mathématiques qui ont donné sens au résultat
dontonconstruitl’histoire.
x Jean-JacquesSzczeciniarz
Maisc’estdelaspécificitédecettemathématiquequ’ils’agit.Etil
n’estpasd’histoiredesmathématiquessanshypothèsesphilosophiques
explicites, ou implicites, sans choix d’interprétation, sans valorisation
épistémologique. De ce point de vue, de telles hypothèses doivent pou-
voir passer par le crible de l’argumentation philosophique. Mais il est
d’une nécessité absolue que l’historien comprenne et conçoive les ma-
thématiquesqu’ilsituedansunehistoire.Etc’estducœurdesmathéma-
tiques que cette compréhension doit surgir. Et il est à la limite possible
qu’une explication historique ou revendiquée comme telle induise une
compréhension mathématique précisément parce qu’elle se sera insé-
réedans unenouvelletrajectoireinterneauxmathématiques.Comment
l’historien sait-il qu’il comprend? Comme tout mathématicien qui sait
qu’ilcomprend,passeulementparl’expérienceduvrai,maisparceque
ce savoir est à des niveaux différents savoir de lui-même : verum index
sui.C’estensuitequelesmodalitésduvraietdel’accèsauvraipeuvent
êtreextrêmementdifférentes.
Il est nombre de travaux mathématiques historiques qui butent sur
les questions classiques et aporétiques des bons choix de récurrence.
Les réponses ne peuvent se chercher et se trouver que dans la com-
préhension mathématique explicite de leur objet d’étude. Mais ce point
mériteluiaussiquelquesprécisions.
Ledevenirmathématiqueapparaîtd’abordcommeautonomeeten-
dogène.Cettecaractérisationimplique,commejel’aiditci-dessus,tous
les travaux historiques qui semblent aller dans le sens des détermina-
tions extérieures. Elle ne s’y oppose nullement, mais un objet, un théo-
rème, une théorie ne sont tels que dès lors qu’ils ont été installés dans
ledevenirimmanentdesmathématiques.Duressortd’unecausalitéoc-
casionnelle indispensable, les demandes extérieures, les formes institu-
tionnelles nécessaires et contingentes, les exigences de la vie courante
ne peuvent expliquer un devenir mathématique que si elles ont été re-
prisesetinstallées dansle corpuspour neplus sevoiret secomprendre
que comme déduites de, ou construites à partir de ce dernier. Et de ce
fait, ces déterminations sont complètement transformées. Au cours de
ce développement, les mathématiques, les méthodes acquièrent puis-
sanceàl’égarddeleursobjets.Ellesreprennentleursacquis.Ledevenir
déploie une circularité de renvois des objets aux actes et des actes aux
objets.
Ni découverte, ni invention. Ni succession d’inventions ni succes-
sion de découvertes. Une innovation introduit un nouveau système de