Comment GCC optimise la mise à la puissance

Aperçu d'une des nombreuses optimisations de GCC

Dans ce billet, nous explorons comment GCC optimise une implémentation naïve de la mise à la puissance. La mise à la puissance consiste à calculer xnx^n avec nn un entier positif donné et, dans notre cas, xx un flottant (plus précisément un double) quelconque. Au passage, nous verrons aussi quelques techniques pour observer de plus près le fonctionnement interne de GCC.

Notre cobaye sera l’implémentation naïve suivante de x4x^4, qui est une transcription directe de la définition avec 3 multiplications successives.

double pow4(double x)
{
    return x * x * x * x;
}

Observation de l'assembleur généré

Assembleur généré sans optimisation

GCC1 génère de l’assembleur lisible à partir du code ci-dessus quand on lui demande gentiment à l’aide de la commande ci-dessous. Par défaut, le code sera généré sans optimisation.

gcc -S pow.c -o pow_noopt.s

La partie intéressante de la sortie est la suivante :

pushq	%rbp
.cfi_def_cfa_offset 16
.cfi_offset 6, -16
movq	%rsp, %rbp
.cfi_def_cfa_register 6
movsd	%xmm0, -8(%rbp)
movsd	-8(%rbp), %xmm0
mulsd	-8(%rbp), %xmm0
mulsd	-8(%rbp), %xmm0
mulsd	-8(%rbp), %xmm0
popq	%rbp
.cfi_def_cfa 7, 8
ret

Les lignes surlignées nous montrent qu’il y a 3 multiplications, et en regardant les registres utilisés, on déduit que le calcul qui est fait est ((xx)x)x((x \cdot x) \cdot x) \cdot x.

Assembleur généré avec optimisation

Demandons maintenant à GCC de refaire le travail mais en optimisant. Le niveau d’optimisation -O1 est suffisant pour ce billet, à condition d’autoriser en plus les optimisations non sûres, c’est-à-dire celles qui peuvent changer légèrement le résultat du calcul à cause des propriétés des nombres flottants2.

gcc -S pow.c -o pow_opt.s -O1 -funsafe-math-optimizations

Le cœur du calcul est alors :

mulsd	%xmm0, %xmm0
mulsd	%xmm0, %xmm0
ret

Ce n’est plus le même calcul ! On n’a plus que deux multiplications, qui correspondent au calcul suivant : xxyx \cdot x \rightarrow y puis yyx4y \cdot y \rightarrow x^4. On a ainsi économisé une multiplication grâce au compilateur !


  1. Billet rédigé en utilisant la version 7.5.0.
  2. Pour en savoir plus, lisez Introduction à l’arithmétique flottante.

Le processus d'optimisation

Obtenir les dumps des passes d’optimisation

Lors de la compilation GCC passe par des langages intermédiaires à partir desquels il fait certaines optimisations, notamment la représentation GIMPLE, proche du C et qui nous intéresse dans ce billet.

On peut observer le travail du compilateur en lui demandant des dumps de la représentation GIMPLE au fil des différentes passes d’optimisation. La commande est la suivante1 :

gcc -S pow.c -o pow_opt.s -O1 -funsafe-math-optimizations -fdump-tree-all

On pourrait avoir encore plus de dumps avec l’option -fdump-rtl-all, qui rajoute toute une série de passe d’optimisations de plus bas niveau, sur une autre représentation utilisée plus en aval lors de la compilation.

Optimisation des puissances

Dans cette série de passes GIMPLE, GCC optimise les puissances en deux étapes :

  1. la première consiste à remplacer les multiplications successives par une même valeur par une mise à la puissance builtin (c’est-à-dire powi), qui pourra être optimisée ensuite ;
  2. une réécriture des mises à la puissance en termes de multiplications (et de manière optimale pour les plus petites).

Insertion de powi

Avant la passe 122, on a le code GIMPLE suivant :

pow4 (double x)
{
  double _1;
  double _2;
  double _4;

  <bb 2> [100.00%]:
  _1 = x_3(D) * x_3(D);
  _2 = _1 * x_3(D);
  _4 = _2 * x_3(D);
  return _4;

}

Après la passe 122, appelée reassoc1, qui correspond à l’étape 1 mentionnée ci-dessus, on voit la mise en place des puissances :

pow4 (double x)
{
  double _4;
  double reassocpow_6;

  <bb 2> [100.00%]:
  reassocpow_6 = __builtin_powi (x_3(D), 4);
  _4 = reassocpow_6;
  return _4;

}

En fait, c’est essentiellement comme si on avait compilé le code suivant, utilisant une builtin de GCC :

double pow4(double x)
{
  return __builtin_powi(x, 4);
}

Développement des puissances

Ensuite, cette builtin est redéveloppée sous forme de multiplications lors de la passe sincos 2 :

pow4 (double x)
{
  double powmult_1;
  double powmult_4;
  double reassocpow_6;

  <bb 2> [100.00%]:
  powmult_1 = x_3(D) * x_3(D);
  powmult_4 = powmult_1 * powmult_1;
  reassocpow_6 = powmult_4;
  return reassocpow_6;

}

L’algorithme utilisé pour développer les puissances est optimal en termes de multiplications pour les petites puissances, les plus rencontrées en pratique.


  1. Prenez garde si vous testez, cela crée plusieurs centaines de fichiers dans le répertoire courant.
  2. Le développement des puissances est partie intégrante d’un traitement plus général, d’où le nom.

Un exemple plus costaud

On peut s’amuser à prendre un exemple un peu plus costaud, à savoir le calcul de x91x^{91}.

double pow91(double x)
{
    return __builtin_powi(x, 91);
}

Avec l’algorithme des multiplications successives par xx, on aurait 90 multiplications. GCC s’en sort avec 9 :

pow91 (double x)
{
  double powmult_4;
  double powmult_5;
  double powmult_6;
  double powmult_7;
  double powmult_9;
  double powmult_10;
  double _13;
  double _15;
  double _16;

  <bb 2> [100.00%]:
  powmult_9 = x_1(D) * x_1(D);
  powmult_10 = x_1(D) * powmult_9;
  _16 = powmult_9 * powmult_10;
  _15 = powmult_10 * powmult_10;
  powmult_7 = _15 * _16;
  powmult_6 = powmult_7 * powmult_7;
  powmult_5 = powmult_6 * powmult_6;
  _13 = powmult_5 * powmult_5;
  powmult_4 = powmult_10 * _13;
  return powmult_4;

}

Cet algorithme forme successivement la puissance 2, 3, 5, 6, 11, 22, 44, 88, et enfin 91.

L’arbre optimal ci-dessous permet de vérifier que 9 est bien le nombre minimal d’étapes : pour 91, il y a 9 arêtes, chaque arête correspondant à une multiplication. On voit aussi qu’il existe plusieurs solutions : l’arbre ci-dessous ne forme pas les mêmes puissances que GCC.

Un arbre optimal pour le calcul des puissances
Un arbre optimal pour le calcul des puissances pour n ≤ 100 (d’après The Art of Computer Programming, Vol. 2).

Références

5 commentaires

C’est marrant, chez moi GCC en -O1 ou même -O3 ne parvient pas à faire l’optimisation si l’on écrit successivement les 90 multiplications pour les 91 termes du produit :

double pow91_naive(double x) {
    return
        x *
        x *
   ...
   ...
        x *
        x;
}

Résultat :

0000000000000030 <pow91_naive>:
  30:	66 0f 28 c8          	movapd %xmm0,%xmm1
  34:	f2 0f 59 c0          	mulsd  %xmm0,%xmm0
  38:	f2 0f 59 c1          	mulsd  %xmm1,%xmm0
...
...
 198:	f2 0f 59 c1          	mulsd  %xmm1,%xmm0
 19c:	f2 0f 59 c1          	mulsd  %xmm1,%xmm0
 1a0:	c3                   	retq   

Évidemment, aucun problème en utilisant return __builtin_powi(x, 91); directement.

Tu compiles avec quelles options exactement ?

Aabu

Ah ! Mais bien-sûr, j’avais oublié -funsafe-math-optimizations, pensant qu’il pourrait être impliqué par le flag -O[n]. En le mettant, le compilateur fait bien l’optimisation comme si j’avais utilisé __builtin_powi directement !

Pourquoi pas en faire une série de billet où tu parles à chaque d’une optimisation ?

Olive

Je ne pense pas le faire par manque de temps et d’intérêt. GCC fait beaucoup d’optimisations adhoc assez peu intéressantes, ou alors des optimisations très techniques et qui me parlent moins.

Connectez-vous pour pouvoir poster un message.
Connexion

Pas encore membre ?

Créez un compte en une minute pour profiter pleinement de toutes les fonctionnalités de Zeste de Savoir. Ici, tout est gratuit et sans publicité.
Créer un compte