J’aimerais faire un tout petit panorama de ce que peut signifier l’écriture $dx$ dans une telle intégrale :
- une variable mutée permettant de faire une intégrale de Riemann ;
- une mesure en théorie de l’intégration (celle de Lebesgue par exemple) ;
- une section du fibré cotangent ($f(x)dx$ étant alors une 1-forme différentielle) pour une intégration au sens géométrique ;
- un élément infinitésimal dont le carré est nul en analyse non standard (et autant vous dire tout de suite, que c’est de très, très haut niveau mathématiquement, je n’y comprends pas grand chose et ça m’étonnerait que ça soit ce dont les physiciens parlent).
Vu que je fais surtout de la topologie et géométrie différentielle, pour moi le sens géométrique est celui qui me vient tout de suite à l’esprit. L’opérateur $d$ permet « d’envoyer » une fonction sur le fibré cotangent. Et $dx$ n’échappe pas à la règle, puisque $x$ n’est jamais que la fonction coordonnée de $x$ ($x(x,y,z) = x$).
Pourquoi les physiciens disent à tout bout de champ que $dx$ est un élément infinitésimal ?
- Tout d’abord, ça peut être une façon de formuler la géométrie différentielle : les sections des fibrés peuvent être appelés comme des machins infinitésimaux.
- Ensuite l’intégration de Riemann peut permettre plus ou moins de comprendre que $b-a/n$ tendant vers 0, ça ressemble à $dx$ comme l’a montré entwanne. En revanche cela reste une image puisque la limite de $b-a/n$ c’est $0$ et donc une telle identification n’a pas de sens. Mais numériquement (ou si on regarde les choses avec un $n$ très grand plutôt que la limite), amha c’est une excellente interprétation de l’intégration.
- La manipulation de la différentiation (notamment de la chain-rule) et des développements limités permet une telle interprétation. Amha c’est la plus dangereuse, puisque certains font des calculs sans savoir ce qu’ils font en se basant sur cette interprétation qui n’a aucune valeur mathématique. En revanche une fois acquise, c’est certainement ce qu’il faut garder à l’esprit pendant un calcul.
Il y a surement d’autres raisons mais je ne suis pas physicien …
TL&DR : il y a des raisons pour que $dx$ soit appelé élément infinitésimal, mais ça n’est jamais tout à fait simple et cela doit rester dans quasiment tous les cas une image, et pas une définition ou un concept mathématique. En revanche, malgré la (haute !) dangerosité, ça n’est pas du tout débile de penser en termes infinitésimaux, c’est même un point de vue très éclairant dans bien des cas.
Bonus : je vais changer votre vie (pour ceux pour qui ça n’est pas encore arrivé).
Remarquez que $d$ et $\partial$ sont deux écritures différentes d’une même chose (le son « dé »). Maintenant ce qui relie $d$ et $\partial$ c’est le théorème de Stokes :
$$ \int_{\partial \Omega} \mu = \int_\Omega d\mu .$$
Vous venez de comprendre que l’opérateur de bord sur les cochaînes ou les chaînes sont duaux.
La dualité de Poincaré vous dit aussi qu’à chaque forme différentielle, vous pouvez associer une réalisation géométrique que l’on peut penser comme une sous-variété.
Et donc, quand on pense le bord d’une variété, on peut toujours le penser comme très étroitement lié avec les bords de ses sous-variétés, par le théorème de Stokes.
Mieux, en topologie et de façon totalement générale, le cobordisme (c’est-à-dire l’étude des bords des variétés compactes) s’étudie par des outils (co)homologique simpliciaux (ou équivalent), c’est-à-dire par l’étude du bordisme des « sous-variétés » (en un sens plus large que celui que vous connaissez).
Par exemple, si vous savez que toutes les sous-variétés sont le bord d’une autre sous-variété, alors votre variété est cobordante : c’est le bord d’une variété compacte. Une réciproque plus délicate est vraie.
Mieux : on peut presque compter directement le nombre de variétés qui ne sont pas le bord d’une variété. En dimension plus petite que 3 il n’y en a pas. En dimension $4$, la variété qui n’est pas un bord et « engendre » toute les autres c’est $\mathbf{CP}^2$.
C’est (c’était en tout cas) au programme de spé en physique. Laborieux mais pas difficile à comprendre. 
). 
