La définition en mathématiques
Il vous est certainement familier qu'un cours de mathématiques commence généralement par énoncer un certain nombre de définitions. Ces définitions servent alors à démontrer des premières propriétés (par exemple des relations de calculs) qui servent ensuite à démontrer des théorèmes.
Les théorèmes et propositions sont alors dans un mouvement mathématique, ils sont introduits par les objets précédemment définis. Mais d'où viennent les définitions ? Et pourquoi définit-on ?
Qu'est-ce qu'une définition ? Comment apparaissent-elles ?
Avant de rentrer dans un propos d'épistémologie, il est peut-être utile de rappeler le statut mathématique d'une définition. Nous allons utiliser la caractérisation suivante : une définition est une phrase mathématique dont la proposition peut être vraie ou fausse selon l'objet auquel on l'applique.
Par exemple, la définition du réel positif : « C'est une limite positive d'une suite de Cauchy à valeurs rationnelles. ». Cela donne la phrase « être un réel positif » et c'est une proposition qui peut être vraie : « $2$ est un réel positif » ou fausse : « $-1$ est un réel positif ».
On demande également à ce qu'une définition vérifie les propriétés suivantes :
- elle doit introduire des concepts nouveaux par rapport à ceux connus (c'est-à-dire que l'on définit un objet par des objets plus simples) ;
- elle doit être cohérente.
Le premier point exprime le fait qu'on se refuse à définir un objet par lui-même, en d'autres termes vous ne pouvez pas définir $A$ par $B$ puis $B$ par $A$. Le second exprime le fait que l'on peut supposer qu'un objet existe et vérifie la définition donnée, par exemple « être un réel nul et non nul » n'est pas une définition puisque aucun réel ne vérifie cette proposition.1
Où et pourquoi définit-on ?
Faire des mathématiques, c'est avant tout faire des preuves. C'est en quelque sorte l'activité principale d'un mathématicien.
C'est ainsi le rôle premier d'une définition : elle doit être utile pour démontrer. On voit aisément apparaître alors deux types de définition :
- les définitions qui permettent de caractériser les objets d'une hypothèse ou d'une conclusion ;
- les définitions qui apparaissent comme objets intermédiaires dans une preuve.
Si on prend pour exemple le très fameux théorème de Pythagore : « Un triangle rectangle vérifie l'égalité suivante : la somme des carrés des côtés adjacent à l'angle droit est égale au carré de l'hypoténuse. », dans cet énoncé, il y a une hypothèse (un triangle rectangle) et une conclusion (l'égalité donnée). Mais cela présuppose par exemple que l'objet « triangle » soit bien défini ainsi que l'opération « mettre au carré ».
Il existe ainsi des théorèmes strictement équivalent à celui du théorème de Pythagore, en changeant par exemple uniquement le mot « triangle » par l'une de ses définitions.
Mais toutes les définitions ne nous apparaissent pas comme également utile ou simples. C'est alors que le mathématicien doit arriver à caractériser suffisamment simplement un objet pour pouvoir l'utiliser facilement. Il y a là une première action didactique : écrire simplement et véritablement la description d'un objet.
Ce n'est pas une tâche facile, et on va voir que ça n'est pas la seule à réaliser pour comprendre la nature d'un objet. En effet, en plus de la définition, il faut donner une confrontation à des objets existants.
Appliquer des définitions
Même si formellement cela n'apporte rien (vérifier si un objet vérifie une proposition se fait machinalement), l'être humain qu'est le mathématicien a besoin d'une compréhension de l'objet. Dans l'acte de création il faut une appropriation, sinon on réduit l'activité mathématique à de la manipulation symbolique ce qui n'est évidemment pas le cas.
De telle sorte qu'une définition se suit généralement d'exemples et de contre-exemples. Pour rappel, un contre-exemple ne dit pas qu'une propriété est fausse mais que si on modifie les hypothèses, la propriété devient alors fausse. Dans le cas d'une définition, cela revient à donner un objet qui ne correspond pas à la caractérisation donnée.
Une autre manière d'apporter de la compréhension à une définition est d'accompagner cette dernière par des théorèmes d'équivalence, dits de « caractérisation ». Ce sont ces théorèmes qui vous disent par exemple qu'un graphe est un arbre si, et seulement si, il est connexe sans cycle. Ces théorèmes sont des équivalences entre la proposition « vérifier la définition donnée » et une autre propriété (que l'on espère différente de celle donnée par la définition, dans le cas contraire le théorème n'a pas d'intérêt).
-
Des développements assez simples (mais non triviaux) de logique mathématique montrent qu'une théorie est cohérente si, et seulement si, elle admet un modèle. C'est pourquoi nous dirons qu'une définition est cohérente si, et seulement si, on peut exhiber un exemple qui vérifie les hypothèses de cette définition. Par exemple, la théorie des groupes a un modèle : $(\mathbf{Z},+)$. Un modèle d'une théorie, $T$, c'est la donnée d'un ensemble, de l'interprétation du langage de $T$ et tels façon qu'ils vérifient les axiomes de $T$. En théorie des groupe, le seul symbole à interpréter est la loi de composition et les axiomes sont ceux de la théorie des groupes (existence du neutre par exemple). ↩
Quel enseignement des définitions ?
Comment définit-on dans un cours ?
L'introduction donne en partie la réponse. L'enseignement traditionnel (venu de la tradition bourbakiste) est de procéder à un exposé axiomatique qui est formel, unificateur et général (dit FUG). Par exemple la notion d'espace vectoriel est défini dans les classes préparatoires et universitaire de sa manière la plus générale possible (en caractérisant les lois de compositions).
Ainsi, les définitions sont données avec (en général) peu ou pas d'introduction épistémologique ou mathématique au problème que l'on va traiter. Un élève normalement constitué se demandera toujours « pourquoi est-ce que je définis un espace vectoriel de cette façon et pas d'une autre ? ».
C'est une question naturelle évitée en grande partie par l'enseignement actuel mais pourtant tout à fait centrale :
- pour la compréhension ;
- dans la création mathématique.
En effet, un mathématicien n'a pas un dictionnaire de définitions inconnues et utilisables pour son problème : il construit par lui-même les objets qui lui seront utiles dans la démonstration. Rappelons une fois de plus, qu'une définition sert principalement à démontrer alors que les discours actuels tendent à faire comprendre qu'un objet vérifie des propriétés qui apparaissent miraculeusement (alors que bien plus souvent, un objet est défini pour vérifier certaines propriétés).
Comment faire progresser cet enseignement ?
Du fait d'une incompréhension quasi générale des élèves, il paraît nécessaire de changer (au moins en partie) cette approche. Actuellement plusieurs pistes sont explorées :
- commencer par des études de problèmes (par une réflexion de recherche) et ensuite dégager les objets abstraits et unificateurs qui apparaissent ;
- retracer le parcours historique d'une notion (par exemple la notion de continuité a une très riche histoire) ;
- reprendre un cheminement intellectuel cohérent avec l'activité de recherche : commencer par énoncer des théorèmes que l'on veut démontrer et dégager les objets qui permettent de tels résultats.
Il y a une différence entre le premier point et le dernier. Dans le premier point, on procède à une abstraction : de cas particuliers on cherche un cas général. Mais on le fait sans chercher à vérifier des propriétés comme on le ferait dans la troisième proposition. Dans cette dernière, on cherche explicitement à vérifier un résultat lors de la construction de la définition.
Ces approches paraissent satisfaisante moralement. Mais sont-elles applicables ? En effet, l'exposé axiomatique (FUG) présente l'avantage d'être extrêmement efficace du point de vue suivant : une notion sera abordée rapidement et appliquée rapidement.
Ce court article se termine. De façon intentionnelle, le débat devrait s'amorcer. Comment en tant qu'élève ou enseignant réagit-on face aux définitions, comment aimerions-nous qu'elles soient abordées ?
Références
- Lakatos, Preuves et réfutations ;
- travaux de C. Ouvrier-Buffet ;
- Définition et exemples : prérequis pour l'apprentissage de l'algèbre moderne, V. Durand-Guerrier.
Remerciements
Un grand merci à Gabbro d'avoir fait la validation de ce contenu, en un délai très court et avec d'excellentes remarques. Merci aussi à Arius d'avoir géré cette validation effectuée par un membre non-staff de ZdS.
