Une épistémologie mathématique sera conduite à mettre à jour autrement que ne l'a fait Bachelard pour son propre compte le point de contact du discours philosophique et de l'histoire effective des sciences, sans que pour autant la différence des modes d'expression et d'exposition, de l'agencement des thèses, du poids des conclusions soit incompatible avec une convergence qui est la marque d'un accord dans la réussite à situer l'épistémologie, — discours sur la science ou théorie de la science — dans son juste rapport à la science. Tel est le sens de l'oeuvre de Jean Cavaillès, intégralement consacrée aux problèmes posés par la formation de la théorie des ensembles et par le fondement des mathématiques, et qui pour avoir été interrompue en pleine maturité, alors qu'elle assurait ses prises sur l'avenir, continue d'assigner des tâches, et de proposer des interrogations que nous n'avons peut-être pas fini de reconnaître toutes.
Les ouvrages de Cavaillès sont difficiles : ils ne permettent pas à leur lecteur de faire l'économie d'un travail d'apprentissage, à la fois philosophique et mathématique, Cavaillès ayant expressément renoncé à tout détour explicatif, à tout préalable pédagogique, à toute simplification analogique. En cela, le style même de Cavaillès est adéquat à la thèse qu'il professe : comme il est de l'essence des mathématiques d'exclure tout élément extrinsèque, de n'obéir qu'à la nécessité interne d'enchaînements accomplis dans la singularité d'un acte effectif, il faudra de la même façon écarter de l'exposé épistémologique tout superflu, tout argument de circonstance, toute facilité de langage —qui seraient autant de manières d'atténuer la rigueur de la thèse exposée. On renoncera donc à chercher dans les lignes qui suivent autre chose que le repérage de quelques points nodaux d'une oeuvre qui ne se laisse pas résumer.
Le choix comme sujet d'une étude épistémologique de La Formation de la théorie abstraite des ensembles se justifie
aisément : en produisant les antinomies qui semblaient i' contester la solidité de l'édifice entier des mathématiques, la théorie des ensembles conduisait nécessairement à une situation qu'on a qualifiée de crise. D'où l'on était conduit à examiner les liens unissant théories mathématiques reconnues comme incontestables et théorie des ensembles, dans la mesure où « née du tronc commun avec la même nécessité naturelle que les autres théories « elle apportait des résultats « chaque jour plus précieux en Analyse et dans les domaines voisins « (Méthode axiomatique et Formalisme, p. 1). A ce problème répondaient, d'une part, Ies recherches d'axiomatisation, garantissant la sécurité des démarches permises à la théorie, en condensant celle-ci « autour de quelques procédés intuitivement saisissables et pour lesquels la question d'une approbation, sinon d'une justification, est plus facile à résoudre « (La Formation de la théorie abstraite des ensembles, p. 161), — d'autre part les choix philosophiques correspondant aux solutions doctrinales du logicisme, du formalisme, et de l'intuitionisme. « Dans tous les cas le problème de la théorie des ensembles devient problème du fondement des mathématiques « (ibid., p. 159). Mais fonder les mathématiques, tel est le résultat de l'étude historique sur la formation de la théorie des ensembles, n'est en aucun cas une opération absolue et définitive : « Les considérations pragmatistes du mathématicien militant ont le dernier mot « (ibid., p. 164). Ce sont elles qui imposent l'impossibilité d'une « limitation quelconque du champ mathématique tirée de considérations purement mathématiques « (Méthode axiomatique..., p. 21). Il faut en revenir à la caractérisation de l'essence même du travail mathématique pour pouvoir à la fois élucider une histoire comme celle de la théorie des ensembles, et déterminer l'enjeu du choix entre les positions logiciste, formaliste et intuitio-niste. La double culture de Cavaillès lui permet de démarquer les unes des autres les difficultés « qui proviennent du mélange entre spéculation philosophique et raisonnements mathématiques et celles, normales, que provoquent les insuffisances techniques « (Méthode axiomatique..., p. 182)
— distinctions qu'il est arrivé aux mathématiciens d'oblitérer. En ce sens, le travail de Cavaillès, de part en part historique dans la mesure où il suit pas à pas les textes et mémoires originaux restitués dans la singularité de leur expression, est aussi critique, et prépare l'oeuvre future que la mort empêchera Cavaillès d'élaborer : définir le travail mathématique comme tel obligera « à une régression qui conduit à creuser au-delà du mathématique proprement dit, dans le sol commun de toutes les activités rationnelles. La théorie de la raison dépend d'ailleurs d'un tel travail : l'histoire montre la liaison entre semblables conflits techniques et les systèmes édifiés par les philosophes « (Méthode axiomatique... p. 21).
Ce que l'on peut pourtant déterminer, c'est ce qui eût été interdit à la théorie de la raison : envelopper dans une définition préalable le statut de l'objet mathématique et le dénombrement des procédures démonstratives et des méthodes reconnues valides. Cette interdiction est dictée par la nature singulière de l'historicité constitutive des mathématiques. Et d'abord il faut souligner que dans l'acception usuelle du terme « il n'y a rien de si peu historique, — au sens de devenir opaque, saisissable seulement dans une intuition artistique — que l'histoire mathématique. Mais rien d'aussi peu réductible dans sa singularité radicale « (Méthode axiomatique, p. 176). Comment comprendre cette histoire « non historique « et irréductible? En premier lieu, « l'histoire mathématique semble, de toutes les histoires, la moins liée à ce dont elle est véhicule; s'il y a lieu, c'est a parte post...: l'après explique l'avant «. Qu'est-ce en effet que faire des mathématiques, sinon refuser de se plier à l'autorité du passé pour révéler la nécessité présente d'un acte imposé par l'urgence d'un problème? Mais le problème lui-même, et l'arsenal des méthodes existant pour le résoudre sont les données d'une situation historique : « L'ceuvre négatrice d'histoire s'accomplit dans l'histoire... Il y a une objectivité, fondée mathématiquement, du devenir mathématique : c'est l'essence d'un problème qui oblige à dépouiller une méthode d'accidents qu'aucune réflexion