Logique et mathématique

66 Pages·1990·13.926 MB·French

by  Gérard Potdevin

Gérard Potdevin
LOGIQUE
ET
MATHÉMATIQUE
Quintette
Editions Quintette
5, rue d'Uzès
75002 Paris
Tél. : [phone]
Tous droits réservés
Éditions Quintette
Paris 1990
Dépôt légal : mars 1990
ISBN : 2-86850-028-5
ISSN : 1147-2839
INTRODUCTION
Celui qui pense ignorer tout, ou à peu près, des mathémati-
que ne met pourtant généralement pas en doute leur vérité ; et
le lycéen de même, qui fait son problème ou étudie sa fonction :
il peut s'inquiéter de la difficulté de ce qu'on lui demande, mais
ne s'interroge guère sur ce qu'il convient d'entendre par « vérité »,
lorsque à ce substantif on accole l'adjectif « mathématique ». Ainsi,
il paraît évident à tous que les mathématiques sont vraies ; parce
qu'on nous l'a toujours dit, mais aussi et surtout parce que,
lorsqu'on en a fait (ou si l'on continue d'en faire) on a pu ressen-
tir ce sentiment d'évidence qui accompagne les démonstrations
en forme et contraint l'acceptation de l'esprit. Mais de quelle
« vérité » parle-t-on alors ? Une vérité n'est telle qu'à propos d'une
réalité, d'un objet à laquelle elle est adéquate ; et lorsque j'affirme :
« ce que je dis est vrai », ma phrase reste dénuée de sens si « ce »
ne renvoie pas à autre chose que la phrase elle-même ; c'est pour-
quoi on me demandera : « qu'avez-vous dit, qui soit susceptible
d'être vrai ? », et « à propos de quoi l'avez-vous dit ? ». Ainsi, toute
vérité requiert son objet et doit en être clairement distincte, faute
de quoi on tomberait dans le non-sens. Parler de « vérité mathé-
matique » suppose donc, semble-t-il, que l'on soit à même de dési-
gner un objet dont cette science serait l'étude et que l'on dispose
d'une procédure permettant de vérifier l'adéquation de ce qui est
dit à cet objet.
Une connaissance élémentaire des mathématiques suffit alors
pour saisir le caractère problématique de l'idée de vérité mathé-
matique. On nous a appris que le triangle dessiné au tableau est
sans doute réel (d'une réalité sensible), mais que ce n'est pas le
« vrai » triangle, lequel seul est l'objet des mathématiques. Soit.
Mais alors qu'est-il au juste, où est-il ou d'où vient-il, quelle rela-
tion l'unit à son image tout en l'en distinguant ? Et surtout com-
ment puis-je être assuré que je dis quelque chose de vrai à son propos
si je n'ai pas résolu mes premières questions ? Bertrand Russell,
qui était à la fois mathématicien, philosophe et doué d'humour,
en concluait que « les mathématiques sont la seule science où on
ne sait pas de quoi on parle ni si ce qu'on dit est vrai ».
Mais, du point de vue des mathématiques, ou plutôt de ceux
à qui suffisent les évidences sommaires, une façon commode de
résoudre la difficulté consisterait peut-être à renvoyer toutes ces
questions à ceux-là mêmes qui les posent : les philosophes, puis-
que après tout, l'expérience semble montrer que l'on peut « faire
des mathématiques », et donc démontrer des « vérités mathéma-
tiques », sans avoir pour autant résolu ces problèmes. Par « véri-
tés » on désignera alors ces énoncés dont nous disions plus haut
que leur démonstration contraint l'assentiment ; et, ce faisant, c'est
dans la structure logique d'un « discours » que l'on situera cette
vérité, tout en supposant pourtant que ce discours porte sur un
objet autre que lui-même, puisqu'il semble échapper à ce cercle
inadmissible d'un pur « ce que je dis est vrai ».
Deux aspects d'une même question s'imposent ainsi à notre
réflexion. D'une part : qu'est-ce qui fonde la certitude qu'engen-
drent les mathématiques, quelle est sa nature ? Et, d'autre part :
est-il possible que cette certitude soit fondée sans que soit éclai-
rée la question du mode d'existence des objets sur lesquels elle
porte ?
I. QU'EST-CE QUI FONDE
LA CERTITUDE MATHÉMATIQUE ?
Les raisons invoquées communément pour justifier l'ensei-
gnement des mathématiques sont très diverses, mais peuvent être
organisées par référence à la distinction entre mathématiques
appliquées et mathématiques pures. En effet : d'une part, cet ensei-
gnement permet à chacun de refaire l'addition chez l'épicier ou
à l'ingénieur d'effectuer les calculs requis par sa pratique ; d'autre
part, l'exercice même de cette discipline, conçu alors pour lui-
même et non en vue de son application, semble à beaucoup profi-
table en ce qu'il constitue, dit-on, « une école de rigueur », l'enchaî-
nement des propositions y réalisant une expression parfaite du
raisonnement déductif.
La rigueur déductive
La notion de déduction, dans son usage habituel, est asso-
ciée à deux idées : la certitude, d'une part, l'indépendance par
rapport au sensible, d'autre part. En effet, pour reprendre la défi-
nition qu'en propose le Vocabulaire d'A. Lalande, la déduction
est d'abord l'« opération par laquelle on conclut rigoureusement,
d'une ou de plusieurs propositions prises pour prémisses, à une
proposition qui en est la conséquence nécessaire, en vertu des règles
logiques »; cette opération étant effectuée sans faire appel à l'expé-
rience sensible, dont le soutien non seulement n'est pas requis,
mais de surcroît est explicitement rejeté.
L'expérience sensible en effet ne nous permet jamais, par elle-
même, de parvenir à la nécessité et à l'universalité du raisonne-
ment déductif ; elle nous apprend qu'une chose est ou a été, mais
non pas qu'elle doit être. Certes, nous pouvons bien induire (et
nous ne cessons d'induire) à partir de cette base sensible des règles
générales, règles qui peuvent même se révéler capables de diri-
ger efficacement une pratique, mais cela sans pour autant dépas-
ser les limites théoriques de toute induction. Ce n'est pas parce
que j'ai constaté un certain nombre de fois une liaison entre des
phénomènes que je suis en droit d'affirmer qu'il en est et sera
toujours ainsi. Si je n'ai jamais vu que ces cygnes blancs, suis-je
en droit d'induire qu'il n'en existe pas des noirs ? L'induction,
à partir de quelques cas, conclut pour tout les cas, effectuant ainsi,
toujours et nécessairement, ce que Kant appelle « une extension
arbitraire de la valeur ». Aussi toute connaissance générale issue
de l'expérience sensible et s'y limitant ne peut-elle dépasser les
limites de plus ou moins probable. Mais précisément, peut-on dépas-
ser les limites du sensible et du probable ?
C'est à l'instauration d'un tel dépassement qu'est liée l'appa-
rition des mathématiques, apparition que l'on situe généralement
en Grèce, au VI siècle avant Jésus-Christ. Cette origine, comme
toute origine historique de ce type, est l'expression d'un choix
autant que d'un fait ; son assignation suppose que l'on néglige
une certaine continuité pour mettre en évidence une rupture jugée
essentielle. En effet : les procédures d'arpentage mises au point
par les Egyptiens pour résoudre les problèmes de cadastre posés
par les crues du Nil (comment retrouver les limites des champs
après la décrue ?...) ou bien encore l'algèbre babylonienne ren-
voient à des procédés et supposent une abstraction qu'il faut bien
qualifier de « mathématiques ». Si, malgré cela, on assigne une
origine grecque à cette science, c'est parce que l'essentiel ici réside
dans la démarche consciemment effectuée et non dans des prati-
ques (fussent-elles efficaces !) ou des procédés d'abstraction plus
ponctuels. « L'originalité essentielle des Grecs consiste précisé-
ment en un effort conscient pour ranger les démonstrations mathé-
matiques en une succession telle que le passage d'un chaînon au
suivant ne laisse aucune place au doute et contraigne l'assenti-
ment universel » (N. Bourbaki, Eléments d'histoire des mathéma-
tiques, Hermann, 1974, p. 10). C'est par cette contrainte ration-
nelle, qui à la fois s'impose à l'esprit et pourtant en est issue,
que la connaissance dépasse le caractère factuel et incertain de
l'opinion singulière, le raisonnement déductif instaurant la pos-
sibilité d'une conviction certes toujours individuelle en fait, mais
fondée sur une compréhension en droit universelle et nécessaire.
Je ne peux qu'accepter la démonstration correcte lorsque je l'ai
comprise (nécessité) et je sais qu'il en irait de même pour tout
esprit doué de raison (universalité).
Dans cette perspective, c'est donc bien en termes de rupture
qu'il faut penser l'origine des mathématiques. La différence entre
la déduction rationnelle et l'induction empirique est de nature,
non de degré, et c'est pourquoi dans son principe la vérité mathé-
matique ne paraît pas susceptible de plus ou de moins ; elle est
nécessaire et universelle ou n'est pas. Aussi, « dès les premiers textes
détaillés qui nous soient connus (et qui datent du milieu du
V siècle), le " canon " idéal d'un texte mathématique est bien
fixé. Il trouvera sa réalisation la plus achevée chez les grands
classiques, Euclide, Archimède et Apollonius ; la notion de démons-
tration, chez ces auteurs, ne diffère en rien de la nôtre » (ibid.,
p. 10).
On pense que cette méthode démonstrative fut élaborée par
l'école pythagoricienne aux IV/VI siècles av. J.-C. et on en trouve
la première expression achevée dans l'un des traités de mathé-
matiques les plus célèbres : les Eléments, d'Euclide, ouvrage dont
la fortune fut telle qu'il servait encore à l'enseignement de cette
science au XVII siècle. Dans ce traité, Euclide ne fait pas œuvre
originale en ce sens qu'à proprement parler aucune connaissance
mathématique nouvelle ne s'y trouve probablement exposée.
L'œuvre est pourtant fondamentale, car Euclide s'y livre à une
organisation de l'essentiel du savoir mathématique (ou du moins
géométrique) de son temps, conférant à des résultats jusqu'alors
plus ou moins éclatés l'unité et la clarté d'une théorie déductive.
Chaque terme propre à la théorie est défini (ainsi : « Le point est
ce qui n'a pas de partie », « Une ligne est une longueur sans lar-
geur », etc.). Chaque proposition est démontrée, à l'exception de
quelques-unes qui sont données à titre de principes et dont Euclide
demande l'acceptation. Ces dernières constituant, d'une part, les
« Demandes » (dont la sixième, par exemple, dénonce ainsi :
« Deux droites ne renferment point un espace »), d'autre part, les
« Notions communes » (comme : « Les grandeurs égales à une
même grandeur sont égales entre elles »). L'ensemble forme donc
un système déductif : chaque théorème est une conséquence de
propositions antérieures et permet de démontrer les propositions
qui en dépendent, les divers éléments constituant un tout
indissociable.
Il peut sembler, et ce fut en tout cas le sentiment des Grecs,
que l'on accède par la démonstration mathématique à un savoir
d'un autre ordre que le savoir commun et dont la vérité est non
seulement indiscutable, mais absolue, quasi divine. Presque per-
sonne d'ailleurs, alors ou par la suite, ne chercha à remettre réel-
lement en cause la vérité du savoir mathématique (même si par
ailleurs ce qu'il faut entendre par « vérité mathématique » peut
poser un problème).
On trouve pourtant chez Platon une réserve essentielle à pro-
pos du statut de ces vérités mathématiques. Il fait remarquer, à
la fin du livre VI de La République, que les géomètres se bornent
à poser par hypothèse l'existence du pair et de l'impair, des figu-
res, etc., puis, ajoute-t-il « les prenant pour point de départ, par-
courant dès lors le reste du chemin, ils finissent par atteindre,
en restant d'accord avec eux-mêmes, la propositfon à l'examen
de laquelle ils ont bien pu s'attaquer en partant » (510, d). La cohé-
rence interne de la démarche et du discours, cet « accord avec
eux-mêmes », résulte bien sûr de la nature du raisonnement déduc-
tif qui est ici à l'œuvre ; mais Platon veut signifier que cette cohé-
rence ne saurait suffire à garantir la vérité de l'ensemble de l'édi-
fice, puisque les fondements de la démonstration ne possèdent
qu'un statut hypothétique, n'ayant pas été eux-mêmes l'objet d'une
démonstration. Il y a dans ce constat qu'effectue Platon tout autre
chose que le « regret » communément exprimé à propos des mathé-
matiques ; discipline dont on admire la certitude pour ajouter aus-
sitôt qu'elle est bien vaine tant qu'elle demeure éloignée du sen-
sible... C'est même une exigence diamétralement opposée qui est
ici avancée : celle d'un savoir purement intelligible dont les mathé-
matiques fournissent seulement l'image, le reflet certes suggestif
(elles peuvent donc constituer en un sens un modèle) mais impar-
fait. L'intention de Platon, lorsqu'il met l'accent sur ce que l'on
peut appeler la « faiblesse » essentielle des vérités mathématiques,
n'est donc pas davantage de développer une critique sceptique
de ces vérités, mais plutôt de mettre en évidence l'insuffisance
d'un savoir qui demeurerait purement hypothético-déductif
(pour employer une expression moderne). Dans cette perspective,
ce qui constitue une insuffisance des fondements rend nécessaire
la recherche d'un principe authentique, situé sur un autre plan
d'existence, qui ne soit pas simple hypothèse ; cette quête étant
pour Platon du ressort de la philosophie entendue comme voie
d'accès à ce principe ultime, « anhypothétique », identifié par le
platonisme au « Bien en soi ».
Cette critique ou du moins cette réserve platonicienne à pro-
pos de l'insuffisance des fondements, ainsi que l'aspiration con-
jointe à un savoir à la fois purement intelligible et réellement fondé
demeurèrent historiquement une attitude isolée, ne constituant
en tout cas pas pour les mathématiciens eux-mêmes un problème
véritable, et cela pour deux raisons.
La première est de l'ordre du constat. S'il est vrai qu'en
mathématiques on ne peut pas tout démontrer et qu'il faut donc
s'y appuyer sur des propositions en ce sens hypothétiques, c'est
parce que, peut-on penser, c'est là comme ailleurs inévitable. Sans
doute, comme l'écrit si bien Pascal dans l'Esprit de la géométrie,
la véritable méthode, celle qui produirait des démonstrations abso-
lument parfaites « consisterait en deux choses principales : l'une,
de n'employer aucun terme dont on n'eût auparavant expliqué
nettement le sens ; l'autre, de n'avancer jamais aucune proposi-
tion qu'on ne démontrât par des vérités déjà connues ; c'est-à-
dire, en un mot, à définir tous les termes et à prouver toutes les
propositions ». Mais, ajoute-t-il, cette belle méthode est absolu-
ment impossible, car les premiers termes et les propositions pre-
mières toujours « en supposeraient d'autres qui les précédassent ».
Il apparaît ainsi que l'exigence déductive, réduite en quelque sorte
à ses seules armes, se trouve engagée dans un processus de régres-
sion à l'infini, qui se révèle contradictoire et donc autodestruc-
teur ; comme l'avait déjà relevé Aristote : exiger la démonstration
des principes sur lesquels se fonde la démonstration, c'est rendre
impossible toute démonstration (Cf., par exemple, Métaphysique,
Livre IV, chapitre 4). Par conséquent, on peut discuter la ques-
tion de savoir si tel ou tel principe est réellement (en droit)