LA SERIE DODECAPHONIQUE
ET SES SYMETRIES

Introduction

Beaucoup de musiciens (ou d'analystes) sont sensibles aux symétries dans la musique ; il est même clair que certains compositeurs en construisent délibérément, et ce, de bien avant J.S.Bach jusqu'à nos jours (cf. les exemples infra).
Quel que soit le contexte historico-musical, il importe donc de savoir prévoir, reconnaître et construire les symétries du matériau (thèmes, motifs, "structures hors-temps" - selon le mot de XENAKIS). En musique classique, ces symétries sont souvent des groupes de frises [AMIOT], en musique sérielle ce sont d'autres groupes que je classifie ici, essentiellement à l'aide de la notion d'action de groupe, dont cet article est une permanente illustration.
Il existe de rares travaux analogues [MORRIS, HEL'GOUARCH], plus orientés sur des propriétés ensemblistes des séries (suivant en cela SCHÖNBERG lui-même) ; j'ai préféré rechercher une relative préservation des qualités mélodiques ainsi que l'ont fait BERG et WEBERN, ses disciples, lesquels auraient, de l'avis général, mieux réussi à utiliser la série que leur maître.

La série dodécaphonique

Rappelons qu'une série dodécaphonique est un thème de douze notes toutes distinctes ; la périodicité des douze notes par octave (une note a le même nom que celles situées à distance d'une octave), qui témoigne d'une structure quotient dans l'ensemble des hauteurs, s'exprime mathématiquement par le fait que l'on modélisera les douze notes - do, do#, ré, ré#, mi, fa, fa#, sol, sol#, la, la#, si - par l'ensemble Z/12Z. Ce choix simplicateur pourra être contesté par tous ceux qui tiennent que l'intervalle entre la et la#, par exemple, est légèrement plus grand que celui entre la# et si. C'est là une évidence pour un violoniste, mais pas pour un pianiste.
Arnold SCHÖNBERG n'a pas, nous dit-on¹ , inventé la série dodécaphonique, mais c'est incontestablement lui qui en a formalisé l'utilisation musicale dans les années 1920. C'est lui qui a énuméré le premier les 48 transformations - lesquelles forment un groupe - que l'on peut faire subir à une série (cf. § II) et les autres transformations que j'introduis ici ne font qu'explorer plus loin les chemins qu'il a découverts. La musique sérielle, c'est à dire composée à l'aide de séries, s'est généralisée à d'autres échelles que les hauteurs dans les années cinquante, et jusqu'à nos jours. Les résultats ici présentés peuvent donc servir aux compositeurs d'aujourd'hui, sans parler des analystes de la musique d'hier.
Je me dois de signaler tout spécialement le compositeur André Riotte², qui a inventé le concept de cycle équilibré, lequel m'a conduit à rechercher parmi les 12! séries possibles qui, plus égales que les autres, méritaient plus l'intérêt du compositeur - ou du mathématicien.

I NOTATIONS

On appellera série une suite de douze notes distinctes (un dodéca-uplet ordonné), ou de manière équivalente une bijection de {1, ..., 12} dans Z/12Z, ou encore une permutation de Z/12Z (ou {1, ..., 12}, ou {0, ..., 11}). Ainsi, la série énoncée par Webern à la troisième de ses Variationen est :

Je note B la rétrogradation (qui change la série (a₁...a₁₂) en (a₁₂...a₁)), D_k le déphasage de k termes qui donne (a_k+1...a₁₂ a₁...a_k), R_i la transposition de i notes qui change k en k+i, et S_j la symétrie qui transforme 0 en j (et change x en j-x). Par exemple R₃ change un mi en sol, tandis que D₅ appliqué à la série de l'exemple la ferait commencer par do fa# mi sol ...
Les deux énonciations suivantes de la série S dans cette troisième Variation de Webern ont subi de telles transformations: ce sont {3, 7, 8, 4, 5, 6, 0, 2, 11, 1, 9, 10}, qui n'est autre que D₆(S), et {8, 9, 5, 7, 4, 6, 0, 1, 2, 10, 11, 3}=B(S). On s'accorde généralement à trouver à cette triple énonciation volontairement simpliste une intention humoristique, vu la complexité de ce qui va suivre...
Avec cette notation, on a les relations :

B commute avec tous les R_i, S_j mais B.D_k = D_-k.B (en particulier, cette transformation est son propre inverse). Les transpositions et déphasages commutent aussi entre eux.
Laissons provisoirement les déphasages de côtés ; le moment venu, on rebaptisera cycles les séries pour exprimer qu'on les referme ("la treizième revient, c'est encore la première"³).
Enfin on pourra laisser de côté en première lecture les § en petits caractères, comme celui-ci.

II Le groupe SCHÖN

D₁₂ - définition

Il est clair que l'ensemble des transpositions R_i forme un groupe, qui agit sur Z/12Z par la simple règle :

R_i(a) = a + i (cela s'entend, comme pour le reste de cet article, modulo 12).

Cette action en induit une autre, sur l'ensemble SER de toutes les séries (qui a 12! = 479 001 600 éléments). Ce groupe, isomorphe à Z/12Z, a une signification musicale très simple : il y a douze transpositions possibles (à octave près) d'une même partition. Cette simplicité étant doublée d'une grande trivialité, nous considèrerons tout de suite le surgroupe à 24 éléments que l'on obtient en rajoutant les renversements S_i. Je le baptise D₁₂, car il est isomorphe au groupe diédral des isométries du dodécagone régulier. Cet isomorphisme est immédiat sur la notation "en horloge" d'une série (dûe à A. RIOTTE) et que nous conserverons dorénavant (cf. illustration ci-dessus).
Notons que le groupe D₁₂ n'est plus commutatif⁴, et agrandissons-le encore :

Schön - définition

On considère le groupe opérant sur l'ensemble SER engendré par :
Les 12 transpositions R_i.
La rétrogradation B.
Les 12 renversements S_i.

Structure

Nous avons ajouté une seule opération au groupe diédral D₁₂ des transpositions-renversements : la rétrogradation. Il en résulte un groupe de taille double. En effet, B commute avec les R_i comme avec les S_i, donnant 24 nouveaux éléments de la forme B.R_i=R_i.B ou B.S_i=S_i.B. Il est facile de vérifier que ces 48 transformations forment un groupe.
On voit que SCHÖN est le produit direct⁵ des groupes {Id, B} et D₁₂.
Pour calculer dans SCHÖN, il suffit de reprendre les tables de D₁₂ et de "sortir les B", i.e. de compter à part le nombre de rétrogradations. Par exemple,

Les deux rétrogradations s'annulent.

Représentation géométrique

Pour voir SCHÖN, il faut plonger l'horloge ci-dessus en dimension supérieure, dans un cylindre. L'équivalent de la rétrogradation sera alors la symétrie par rapport à un plan parallèle à l'horloge : si B figure dans une transformation, cela signifie qu'il faut regarder par derrière. De façon équivalente, il s'agit de parcourir le graphe (hamiltonien) orienté dans l'autre sens.

On contemple ici les parties visibles d'une série s={0 2 5 3 1 4 ...} et de sa rétrogradée B(s).

Sous-groupes

On se convainc facilement - compte tenu de ce que toute projection d'un sous-groupe est un sous-groupe - que les sous-groupes de SCHÖN sont de trois types, plus un individu atypique :
* les groupes cycliques ou diédraux, qui sont les sous-groupes de D₁₂.
* les groupes cycliques ou diédraux, multipliés par B.
Autrement dit, à partir de G={Id, R₄, R₈} qui est un sous-groupe de D₁₂, on obtient
Gx{Id, B} = {Id, R₄, R₈, B, B.R₄, B.R₈} qui est deux fois plus gros.
* les groupes {Id, B.S_i} à deux éléments.
* le groupe {Id, B.R₆}

Stabilisateur d'une série

Que peut-il contenir ?
Je recherche l'ensemble des symétries possibles d'une série, ie les transformations qui conservent la série (comme une rotation de 120° autour d'une grande diagonale conserve un cube); l'ensemble de toutes les transormations qui conservent un objet forment un groupe, que l'on appelle son stabilisateur.
Avec la définition présente des séries, les stabilisateurs (i.e. les symétries éventuelles d'une série) vont être plutôt décevants. En effet, il est clair qu'aucune série ne peut être conservée par :
* transposition : toutes les notes sont changées ;
* rétrogradation : la première note n'est pas égale à la dernière ;
* renversement : aucune symétrie ne peut conserver toutes les notes ;
Il en résulte un triste théorème :

Les seuls éléments de SER symétriques pour le groupe SCHÖN sont les séries qui ont un axe ou centre de symétrie les rétrogradant.

En effet, les seuls groupes de la liste obtenue ci-dessus qui ne contiennent ni transposition, ni B, sont les {Id, B.S_i} ⁶ et {Id, B.R₆}.

Séries miroirs

Séries à centre

Celles dont le stabilisateur est {Id, B.R₆}. Toute cette étude est en grande partie motivée par l'exemple de la série génératrice de la Suite Lyrique d'Alban BERG, dont les nombreuses propriétés ont été relevées par des auteurs encore plus nombreux. Voici son diagramme, avec sa rétrogradée :

La série rétrogradée n'est autre que la transposée au triton - par R₆ - de la série initiale. Les intervalles successifs sont : -1, -4, -3, -2, -5, -6, 5, 2, 3, 4, 1( +6).

Combien y a-t-il de séries globalement symétriques dans SCHÖN ?

Il est naturel de se demander combien de séries admettent un stabilisateur, i.e. "une symétrie" au sens géométrique du terme. On vient de voir de quels groupes il peut s'agir, et la réponse est donnée par un calcul simple: ^.
Il y a 12 choix pour la première note, mais alors la dernière est choisie aussi ; donc il reste 10 choix pour la seconde, qui détermine la pénultième, etc... soit 12x10x8x6x4x2=2⁶.6!. Reste à multiplier par les 6 (et non 12) axes possibles + 1 centre.
Il en résulte que pour les 478 725 120 séries restantes, chaque orbite a 48 éléments, autrement dit :

⁷. C'est très peu !

III Cycles, déphasages

Je définis l'opérateur D_k par:

Rajouter ces D_k agrandit considérablement le groupe SCHÖN, donnant 576 éléments. On va procéder par étapes, en considérant des groupes de plus en plus gros contenant tous les déphasages.
Il est évident que les D_k forment un groupe, isomorphe à Z/12Z, car D_k D_l=D_k+l de façon immédiate (où k prend ses valeurs modulo 12 : l'inverse de D₄, par exemple, est D₈ puisque 4+8=12=0). En particulier, on peut étudier les orbites de ce groupe, qui sont les circuits fermés (cycles se "mordant la queue", sans note de départ fixée).
Quand un groupe G={g₁, ..., g_n} transforme un objet X en une famille {g₁(X), ..., g_n(X)} = {X₁, ..., X_k}, cette famille est globalement stable par G et s'appelle l'orbite de X sous l'action de G. À noter que n/k est le cardinal du stabilisateur d'un élément quelconque de l'orbite.
Cela présente le double avantage de réduire, par passage au quotient, l'ensemble SER (plus que 11! cycles), et de donner plus de "symétries" possibles, avec des groupes stabilisateurs moins triviaux.

Notons l'effet du déphasage sur les divers opérateurs déjà connus :
D_k commute avec les R_i (transpositions).
D_k commute aussi avec les S_i (renversements).
Plus généralement, D_k se moque des hauteurs des notes, agissant sur leurs seuls indices.
Mais D_k ne commute pas avec la rétrogradation : on a B.D_k = D_12-k.B. Finalement, on trouve les éléments du nouveau groupe dans la liste qui suit :

Pour élucider l'action des décalages et voir quelles nouvelles symétries ils peuvent apporter, considérons l'exemple suivant, adapté mutatis mutandis du Trio à cordes de Webern opus 21 : {1 0 3 2 9 8 11 10 5 4 7 }.

On constate qu'un déphasage de 4 crans (D₄) transforme la série W en sa transposée de 8 demi-tons : {9 8 11 10 5 4 7 6 1 0 3 2} = D₄(W) = R₈(W). Il en résulte en composant par R₄, l'inverse de R₈, que R₄D₄ laisse stable W. Il en est donc de même de R₈D₈ = (R₄D₄)². WEBERN ne se prive pas de jouer, avec une virtuosité consommée, de ces métamorphoses.

En fait il les rend plus audibles par une petite brisure de symétrie, en renversant le motif central.

IV Le groupe des transpositions + déphasages

C'est le groupe⁹ dont les éléments sont de la forme R_i, D_k, ou D_kR_i. Par exemple, la gamme chromatique {0, ..., 11} est stable par les douze opérateurs de la forme D_iR_-i (i= 1...12). De façon générale, on voit qu'un cycle stable par une rotation-déphasage non triviale doit avoir une forme assez particulière : son contour doit être périodique, ie on doit pouvoir déduire tout le cycle d'un petit fragment.

Démonstration : supposons que le cycle {a₁, ..., a₁₂} soit stable par R_iD_j. Cela signifie que a_k+j + i = a_k, pour tout k. En particulier, il suffit alors de donner les j premiers termes du cycle pour en déduire tous les autres. Soit A_j = {a₁...a_j} le sous-ensemble de ces j premiers termes. Comme on considère un cycle, les transformés (transposés : A_j + i, A_j + 2i, ...) de A_j par R_i doivent redonner, sans recoupement, le cycle entier. Il nous faut donc éclaircir le rapport entre i et j. Pour cela, je dois rappeler la notion d'ordre d'un élément d'un groupe (de transformations) :

 

Définition : l'ordre n d'une transformation est le plus petit entier non nul tel que la transformation, itérée n fois, donne l'identité.

Exemple : l'ordre de R₈, R₄ ou D₈ est le même, à savoir celui de 4 et 8 dans Z/12Z : c'est 3. En revanche, l'ordre de D₅ ou R₅ est égal à douze (on peut en déduire que tous les R_i sont des puissances de R₅) et l'ordre d'un renversement S_i est toujours 2. Mais l'ordre de BR₅ est égal à 10.

Propriété : si le N^ième itéré d'une transformation est l'identité, alors l'ordre de cette transformation est un diviseur de N.

La réciproque est facile.
Démonstration : par hypothèse, on a T^N = Tⁿ = Id où n est l'ordre de la transformation T ; on divise N par n. Soit r le reste et q le quotient, on a donc N=nq + r où r<n, montrons que r est nul : on a
T^r = T^N-nq = T^N. T^-nq = Id. (T^-n)^q = Id.(Id)^q = Id,
donc le r^ième itéré de T est Id, mais on a supposé que n était le plus petit entier non nul ayant cette propriété : il en résulte que r=0, cqfd.¹⁰
Revenons à nos cycles :

Proposition : avec les notations ci-dessus, i et j doivent avoir le même ordre dans Z/12Z.

Or les éléments de Z/12Z se classifient en les familles suivantes selon leur ordre (qui n'est autre que le plus petit multiplicateur qui les rende divisibles par 12) :
{1 5 7 11} (d’ordre 12) {2 10} (d'ordre 6) {3 9} (d'ordre 4)
{4 8} (d'ordre 3) {6} (d'ordre 2).
On peut considérer que 0 est d'ordre 1 !
Démontrons la proposition : je considère la transformation T, qui laisse stable le cycle, avec T=R_i D_j. Itérons T un nombre de fois égal à l'ordre de i (ou de R_i, c'est le même) : on a de façon générale¹¹ Tⁿ=R_iⁿ D_jⁿ et si n est l'ordre de R_i, il reste seulement D_jⁿ = D _jn ; mais on a vu qu'aucun cycle ne peut être stable par déphasage : donc ce déphasage n'en est pas un, c'est l'identité (le déphasage nul) et il en résulte que l'ordre de j divise l'ordre de i. Mais i et j jouent des rôles symétriques : finalement, ils sont bien égaux.

Corollaire : les seuls stabilisateurs possibles pour un cycle dans le groupe des déphasages-rotations sont les suivants :

Remarquons que tous ces groupes sont monogènes, c'est à dire engendrés par le deuxième élément de la liste qui les définit ci-dessus.
Démonstration : soit i le plus petit indice (non nul) tel qu'un certain R_iD_j laisse stable le cycle, alors j a le même ordre que i d'après la proposition ci-dessus. Est-il possible que plusieurs j conviennent ? Si on trouvait j' tel que R_iD_j' laissât aussi stable le cycle, le déphasage R_i D_j.(R_i D_j')^-1 = D_j-j' serait aussi un élément du stabilisateur. Mais on a déjà vu que le seul déphasage qui laisse un cycle invariant est le déphasage nul : donc j=j', et j est uniquement déterminé. Je dis que le stabilisateur du cycle est engendré par R_iD_j , i.e. que le stabilisateur est un groupe cyclique. Soit en effet un autre élément du stabilisateur, R_i'D_j', et divisons i' par i : si i'=iq+r, il vient en composant R_i'D_j' par (R_iD_j)^-q, que R_i'-iqD_j'-jq = R_rD_j'-jq doit aussi stabiliser le cycle. Mais comme r<i et que l'on a supposé i minimal, c'est que r=0. Il reste D_j'-jq , qui doit être l'identité, puisque les "vrais" déphasages sont interdits, et donc j'=jq ce qui prouve finalement que R_i'D_j' = (R_iD_j)^q, cqfd¹².
Il ne reste donc plus qu'à chercher les groupes engendrés par les éléments de la forme R_iD_j, avec i et j de même ordre, pris dans les listes ci-dessus, en prenant i le plus petit possible à chaque fois : le lecteur pourra vérifier que je n'ai rien oublié !
On en déduit maintenant le nombre total de cycles possédant des symétries dans le groupe des transpositions-déphasages, à condition de faire attention aux inclusions de ces groupes les uns dans les autres :

Théorème : il y a 49 824 cycles symétriques dans le groupe des transpositions-déphasages.

Démonstration : remarquons d’abord que chacun des groupes du bas (à douze éléments) stabilise exactement douze cycles : par exemple, R₁D₁₁ laisse stables les douze gammes chromatiques ascendantes (comme {0...11}). Plus généralement, étant donnée la première note du cycle, la j^ième est son image par l'unique élément du groupe qui s'écrit R_iD_j (avec le même j).

Considérons maintenant R₂D₂ et R₂D₁₀, les deux stabilisateurs d'ordre 6 ; pour calculer les cycles qu'ils laissent stables, on peut compter ainsi : il y a 12 choix pour la première note, dont la donnée détermine aussi la troisième, la cinquième.... Il n'y a donc plus que 6 choix pour la deuxième (ou 10^ième) note, qui détermine à son tour toutes les notes restantes.
Le cycle est réunion de deux orbites dans l'ensemble des douze notes : si on choisit 0 comme première note, on connait la moitié du cycle : (0 * 2 * 4 * 6 * 8 * 10 * ) (pour que le stabilisateur soit R₂D₁₀). En choisissant par exemple 5 comme deuxième note, on trouve l'autre moitié :
(* 5 * 7 * 9 * 11 * 1 * 3) soit en superposant (0 5 2 7 4 9 6 11 8 1 10 3).
Cela fait 12x6 = 72 cycles pour chaque groupe. Mais en faisant cela, on obtient des cycles stables par ces groupes, ce qui ne signifie pas que leur stabilisateur soit égal à l'un de ces groupes, mais seulement qu'il le contient. Pratiquement, on a compté aussi les cycles des groupes précédents, à douze éléments ! Il faut donc, pour chaque groupe, retirer 12+12 = 24 cycles¹⁴, reste 72-24 = 48 cycles, pour les deux groupes, donc 96 cycles¹⁵ ont pour stabilisateur un groupe à 6 éléments.
De même, on calculerait les cycles associés à R₃D₃ par le produit 12x8x4=384, dont il faut encore retirer 24 cycles (pas tout à fait les mêmes !), restent 360 pour chaque groupe, soit 720 cycles qui ont pour stabilisateur un groupe à 4 éléments.

En voici un exemple synthétique : {0 8 1 3 11 4 6 2 7 9 5 10} où les quatre orbites - qui arpègent des septièmes diminuées - ont des typographies différentes.
Le lecteur peut vérifier pour la ligne précédente du treillis des sous-groupes le calcul : 12x9x6x3 = 1944, dont il faut ôter 72 (somme des cardinaux de tous les "descendants"), restent 1944 - 72 = 1872 par groupe, soit 3 744 cycles dont le stabilisateur possède trois éléments.¹⁶
On termine par le groupe (engendré par) R₆D₆, avec a priori 26.6! cycles fixés (12x10x...x2), soit 46 080, dont on doit retirer 720+96+48 (tous les cycles dont le stabilisateur est strictement plus grand), il reste tout de même 45 216 cycles de stabilisateur {Id, R₆D₆}
(0 4 2 5 1 3 6 10 8 11 7 9) en est un exemple synthétique. 
Au total, cela fait bien 45 216 + 3 744 + 720 + 96 + 48 = 49 824 cycles.

Graphiques en horloge des trois types de cycles symétriques possibles; on voit fort bien sur la figure les rotations qui les conservent.

V Ajout de la rétrogradation B

Cherchons maintenant les stabilisateurs possibles d'un cycle dans le groupe à 288 éléments des [B]D_iR_j (où [ ] indique qu'il y a rétrogradation facultativement)¹⁷.

Lemme : le stabilisateur d'un cycle ne peut contenir de transformation de la forme B.Dj.

Remarque : on a déjà observé qu'aucun cycle n'est stable par une transposition, ou bien une symétrie, ou bien un déphasage, ou bien la rétrogradation.
Démonstration : quel est l'effet de B.D_j ? Le cycle (a₁...a₁₂) est changé en (a_j...a₁ a₁₂...a_j+1), et dire que ces cycles sont égaux impliquerait que les sous-cycles (a₁...a_j) et (a₁₂...a_j+1) fussent stables par rétrogradation, ce qui ne se peut.
Soit maintenant BR_iD_j un élément du stabilisateur d'un cycle (on a achevé la discussion des R_iD_j sans B, et on cherche un stabilisateur qui ne soit pas réduit à {Id}). Comme (BR_iD_j)²=R_2i doit aussi stabiliser le cycle, c'est que 2i = 0 et donc i = 0 ou 6. Hé oui, l'anneau Z/12Z n'est pas intègre... On trouve donc des éléments de la forme BR₆D_j ou BD_j. Ces derniers sont exclus par le lemme précédent. Les seules transformations avec rétrogradation sont donc les BR₆D_j ; mais si le stabilisateur contient des transformations sans rétrogradations (autres que Id), alors il contiendra aussi d’autres BR₆D_j : si par exemple R_iD_j’ était dans le stabilisateur, alors BR₆D_j .R_iD_j’ = BR_i+6D_j+j’ y serait aussi. C’est impossible, car on devrait avoir i + 6 = 6, et donc i = 0, d’où j’ = 0. En résumé, le stabilisateur ne contient que {Id, BR₆D_j} et plus précisément on a le

Théorème : Les seuls nouveaux stabilisateurs de cycles sont les {Id, BR₆D_j} où j est pair. Pour chaque valeur de j, il y a 46 080 cycles admettant ce stabilisateur. Tous ces cycles sont nouveaux (sauf pour j=0) puisque leur stabilisateur ne peut pas contenir un des stabilisateurs précédents.

Démonstration : on regarde l’effet de BR₆D_j sur le cycle (a₁...a₁₂₎ ; D_j donne le cycle (a_j+1...a₁₂a₁...a_j), BR₆ transforme cela en (a_j+6, a_j-1+6, ...a₁₊₆, ..., a_j+1+6) et le tout doit être égal à (a₁...a₁₂). On en déduit que les sous-cycles (a₁...a_j) et (a_j+1...a₁₂) doivent être stables par rétrogradation + transposition d’un triton - 6 demi-tons - ie par l'opérateur B’R₆, en notant B’ pour distinguer de B, la rétrogradation de six symboles. En particulier, (a₁, a_j), (a₂, a_j-1) ... sont des paires de notes transposées d’un triton, ce qui montre que j est pair.
Dénombrons maintenant les cycles correspondants : on a vu déjà le principe, pour j = 0 par exemple, il y a 12 choix pour a₁, qui détermine a₁₂. Il n’en reste donc plus que 10 pour a₂, d’où a₁₁, etc... soit 12x10x8x6x4x2 = 46 080.
Pour BR₆ en effet, on construit la série en partant des deux extrémités : si la première note est 0, alors la dernière est 0+6=6 ; on continue ainsi : (0 ... 6) (0 5 ... 11 6) (0 5 2 ... 8 11 6) etc... jusqu'à par exemple (0 5 2 10 1 3 9 10 4 8 11 6).
De même pour j = 2 : il y a encore 12x10x... = 46 080. Finalement, on trouve 46 080 cycles pour chaque valeur paire de j, d’où 276 480 cycles dont 230 400 sont nouveaux.
Pour BR₆D₂ par exemple la construction serait plus compliquée : on a
BR₆D₂ (a₁...a₁₂) = BR₆(a₃...a₁₂ a₁ a₂) = (a₂₊₆ a₁₊₆ ... a₃₊₆)
et donc le i^ème terme est lié au (3- i)^ème ; un exemple de cycle ayant ce stabili-sateur est {5 11 1 8 6 3 10 4 9 0 2 7}.
En ajoutant ces 230 400 cycles aux 49 824 déjà obtenus, on trouve :

Théorème : il y a 280 224 cycles stables dans le groupe à 288 éléments des transpositions-déphasages-rétrogradations.

VI Ajout des renversements

Etudions enfin le groupe le plus large, à 576 éléments, et son effet :
Ses éléments sont de la forme [B][R_i ou S_i]D_k, où les crochets [ ] signalent que la présence du contenu est optionnelle. En particulier, k peut être nul.
Nous avons déjà trouvé des cycles stabilisés par des éléments de la forme R_iD_j (i et j doivent être de même ordre), BR₆, BR₆D_2j, et BS_i (i impair). Nous avons interdit les éléments de la forme R_i, S_j, D_k, B seuls, et aussi BD_j, BR_j et BR_iD_k pour i‚6. Il reste donc à essayer les [B]S_iD_k, et comme en prenant deux fois cette transformation on trouve D_2k, il faut que 2k=0, i.e. k=6 ; finalement, il nous reste à étudier les [B]S_iD₆, qui sont les seuls nouveaux stabilisateurs possibles d'un cycle.

Etude de la transformation S_iD₆

Tout d'abord, notons que i doit être impair. Sinon, deux notes seraient inchangées par la partie symétrie (S_i) mais décalées de 6 crans par D₆. Ensuite, dénombrons les cycles stables par S_iD₆ : il y a 12 choix pour a₁, qui détermine a₆, donc plus que 10 pour a₂, etc... on reconnaît le calcul déjà rencontré, dont le résultat est 26.6!=46 080, pour tous les i impairs.
Remarquons enfin que si un cycle est laissé invariant par S_iD₆, son stabilisateur ne peut contenir de R_i"D_j où j‚0 : on trouverait un S_i'D_6+j, mais 6+j n'est pas un déphasage admissible.

Etude de la transformation BS_iD₆

C'est très similaire. On trouve que les deux sous-cycles (a₁...a₆) et (a₇...a₁₂) doivent chacun être invariants par B'S_i, donc i doit encore être impair. Le dénombrement est le même. Remarquons aussi que si un cycle est laissé invariant par BS_iD₆, son stabilisateur ne peut contenir de R_i"D_j : on trouverait un BS_i'D_6+j, mais 6+j n'est pas un déphasage admissible.

Recherche du graphe des stabilisateurs possibles.

Pour compliquer les choses, il s'avère que l'on ne peut exclure a priori que les transformations trouvées ne recoupent les précédentes. Cela signifie, en d'autres termes, que l'on peut s'attendre à trouver des cycles dont le stabilisateur contienne une telle transformation, et un des stabilisateurs déjà obtenus. Par exemple, BS_iD₆ et S_i'D₆ peuvent fort bien cohabiter, leur produit étant BR_i-i', à condition que i-i'=6 (0 étant exclu : sinon BR₀ = B stabiliserait le cycle).

On obtient alors le nouveau groupe K_i ={Id, BR₆, BS_iD₆, S_i+6D₆} (isomorphe au groupe de KLEIN) et il lui correspond 384 cycles pour tout i impair.

En effet : fixons un indice k, par exemple 2 ; alors la donnée de a₂ détermine aussi a₁₁ (= a₂ + 6 par BR₆), a₅ (= i-a₂ par BS_iD₆) et a₈ (=i+6-a₂, par S_i+6.D₆). On obtient ainsi quatre valeurs distinctes (modulo 12), qui forment l'orbite de la note a₂ sous l'action du groupe des quatre transformations x->{x, x+6, i-x, i+6-x}¹⁸ . Elles correspondent à quatre indices distincts, qui sont quant à eux une orbite (dans l'ensemble des indices 1...12) du groupe j->{j, 13-j, j+6, 7-j}. On voit donc qu'il suffit, comme à l'accoutumée, de fixer a₁ (qui va déterminer quatre termes du cycle), puis a₂ (parmi huit choix restants), puis a₃ (parmi quatre), d'où le résultat (12x8x4). Notons que, comme toujours, la méthode de dénombrement nous donne par surcroît un manière effective de construire des cycles symétriques.

Cherchons s'il y a d'autres "gros" stabilisateurs possibles : on trouve une transformation interdite en essayant de faire cohabiter BR₆D_2j avec l'une ou l'autre des nouvelles transformations, par exemple (BR₆D_2j)(S_iD₆) = BS_i+6D_6+2j qui ne convient pas si 2j ‚ 0. Par ailleurs, il est visiblement impossible de faire cohabiter deux BS_iD₆ ou deux S_iD₆ (distincts !), car on obtiendrait des transpositions R_j, qui sont interdites. Pour finir, on essaye de composer par un BS_i', ce qui donne BR_i-i'D₆ dans un cas et R_i-i'D₆ dans l'autre.
Alors nécessairement i-i'=6, ce qui donne deux nouveaux groupes de KLEIN :

K'_i = {Id, BR₆D₆, BS_i+6, S_iD₆} et K"_i = {Id, R₆D₆, BS_i+6, BS_iD₆}.

Trois exemples de cycles associés aux groupes K, K', K'':
(0 4 8 11 3 7 1 9 5  2 10 6), (0 3 8 2 9 6 1 10 5 11 4 7) et (0 3 11 2 10 1 6 9 5 8 4 7).

Les dénombrements sont identiques à ceux faits pour K_i, et la génération de cycles symétriques est semblable à celle faite pour le cas précédent.
Et si on ajoutait BS_i' à K_i tout entier ? Il faudra encore que i'-i=6, mais cela donnerait un gros groupe, contenant au moins BR₆D₆, BS_i+6, S_iD₆, R₆D₆, BS_i+6, BS_iD₆, BR₆ et donc aussi BS_i+6BR₆=S_i, impossible¹⁹.
Tous les cas ont été vus, et le résultat est le suivant :

Théorème de classification des cycles symétriques :

Les stabilisateurs possibles dans le groupe des transpositions-renversements-déphasages-rétrogradations sont les suivants :

Pour dénombrer les cycles correspondants, ce qui nous dira (enfin !) quel est le degré de rareté de la symétrie parmi les cycles, il faut faire une nouvelle - la dernière - figure du graphe de ces groupes ; on y note les groupes par un générateur (ex. BR₆ pour le groupe {Id, BR₆}), et l'inclusion par une flêche. Etant donné que les R_iD_j n'interviennent pas dans les nouveaux groupes, ils forment une sous-figure, déjà donnée, qui viendrait se greffer à la partie la plus complexe par le seul groupe commun {Id, R₆D₆} ; jouent aussi un rôle particulier les groupes {Id, BR₆} et {Id, BR₆D₆} : ils sont communs respectivement aux groupes K'_i et K"_i. Plus généralement, on met à part dans le schéma la série des BR₆D_2j qui n'ont de flêche vers personne. Restent à placer les BS_i, BS_iD₆ et S_iD₆ à proximité des groupes K, K', K'' concernés, ce que l'on a fait ici dans le seul cas (i=1 ou 7) pour y voir plus clair, et l'effroyable figure est complétée.

Dénombrement de tous les cycles symétriques

Je prie de le lecteur de lire la suite avec un œil, au moins, sur le schéma ! On a vu que chacun des groupes K_i (ou K'_i, ou K''_i) est le stabilisateur de 384 cycles exactement. Ces 18 familles de 384 cycles ne se rencontrent évidemment pas. De plus, il s'avère pour chacun des sous-groupes BS_i, BS_iD₆ et S_iD₆, dont on a calculé qu'ils laissent stables 26.6! = 46 080 cycles, que deux flèches en partent pour des groupes K_i. Il en résulte que chacun de ces groupes est le stabilisateur de 46 080 - 2x384 = 45 312 cycles.
On peut aussi associer les groupes {Id, BR₆} et {Id, BR₆D₆} dans un même calcul : comme ils sont tous deux inclus dans six groupes du type K, ils sont les stabilisateurs de 46 080 - 6x384 = 43 776 cycles.
Il ne reste à recalculer que le groupe {Id, R₆D₆} : on avait vu que les groupes de la forme R_iD_j le "dépossédaient" de 2x48 + 2x360 + 4x12 cycles. Les six groupes K" y retirent encore 6x384 cycles, et finalement il n'est le stabilisateur que de 42 912 cycles.
Résumons nous dans un tableau :

Les stabilisateurs possibles		cycles correspondants	total
R1D11 R1D5 R1D1 R1D7		12	48
R2D2 R2D10		48	96
R3D3 R3D9		360	720
R4D4 R4D8		1 872	3 734
R6D6		42 912	42 912
Ki, K'i, K"i	(i impair)	384	6 912
BSi	(i impair)	45 312	271 872
BSiD6	(i impair)	45 312	271 872
SiD6	(i impair)	45 312	271 872
BR6, BR6 D6		43 776	87 552
BR6Di	(i =2, 4, 8, 10)	46 080	184 320

Soit un total ultime de cycles symétriques.

On a donc dans le plus gros groupe possible (transpositions-déphasages-renversements-rétrogradations) un pourcentage non négligeable de 0,238%, à comparer avec les 0,05% environ obtenus précédemment.

Une remarque déprimante achèvera ce paragraphe: il existe d'autres types de transformations de la série, qui ont été utilisés avec bonheur par BERG entre autres compositeurs, et qui consistent en des mélanges du genre {a₁...a₁₂} -> {a₅, a₁₀, a₁₅ ...} = {a₅, a₁₀, a₃...}. Ils font évidemment éclater complètement la structure intervallique de la série, mais dans son opéra Lulu , BERG constitue ainsi les séries typiques de tous ses personnages (Alwa, Scholtz...) à partir de la seule série-leitmotiv de Lulu elle-même. Ce qui signifie qu'il reste du travail à faire dans la recherche des cycles symétriques...

VII Cycles Equilibrés et leurs stabilisateurs

Définition des cycles équilibrés

On a remarqué en faisant la figure de la série de la Suite Lyrique de BERG que tous les intervalles possibles s'y trouvaient présents (l'intervalle de demi-octave, alias triton, alias +6, se trouve forcément deux fois dans le cycle - il suffit de remarquer que la somme de tous les douze intervalles doit être nulle modulo 12). Cette propriété est rare : à transposition et décalage près, pour commencer le cycle par {0 1...}, André RIOTTE a établi en 1969 à l'aide d'un programme FORTRAN qu'ils sont 1928, soit 0,05796% de tous les cycles, ce qui a été vérifié depuis par plusieurs chercheurs indépendants, dont moi-même.
Indépendamment de l'intérêt historique ou anecdotique (BERG a "emprunté" cette série à un disciple...) de cette propriété, les cycles équilibrés ou CE ont la vertu importante d'étendre aux intervalles le "principe de non répétition" que SCHÖNBERG voulait appliquer aux notes, ce qui l'a conduit à inventer la série. On est donc à l'intersection du sérialisme de hauteurs et du sérialisme d'intervalles, et à l'aube de l'important mouvement du sérialisme généralisé dont BOULEZ fut le Pape dans les années 50.
Il parait présomptueux de vouloir raisonner sur les stabilisateurs possibles des CE, alors que la seule façon de les rechercher sera en dernier ressort de les tester un par un²⁰. Néanmoins, on peut obtenir quelque résultats généraux qui évitent de se perdre en calculs superflus.
Par exemple, il est clair qu'aucun CE ne peut être stable par les groupes R_iD_j : l'intervalle +1 ne peut pas se trouver aussi bien entre a₁ et a₂ qu'entre a_j+1 et a_j+2. On exclut ainsi les groupes K". En revanche, BR₆ est possible. En fait, on remarque que si le CE c est stable par BR₆, alors tout décalé D_k(c) est stable par BR₆D_-2k. On recherche donc (par un bête programme itératif en Think Pascal™) parmi les 1928 CE ceux qui sont stables par un BR₆D_i, et on en trouve 88 (commençant par (0 1...)) avec toujours i pair, d'où l'existence pour chaque cas d'un (et même de 24²¹) décalé/transposé du CE stable par BR₆ "lui-même"
Par exemple {0 1 3 8 5 11 2 9 7 6 10 4} ou {0 1 3 9 7 6 2 5 10 4 11 8}.
En particulier, si le cycle de BERG (5 4 0 9 7 2 8 1 3 6 10 11) n'est pas présent dans la liste, on y trouve en revanche son représentant (0 1 7 6 2 11 9 4 10 3 5 8), décalé de 10 (et transposé), qui est stable non par BR₆ mais par BR₆D₄. Vérifions-le en appliquant BR₆ : on trouve (2 11 9 4 10 3 5 8 0 1 7 6), qu'il faut bien décaler de quatre crans (D_-4) pour retomber sur le CE initial.
Les groupes D₆S_i sont possibles aussi : on trouve 60 CE "renversables à déphasage près". Mais il est impossible d'avoir de plus gros stabilisateurs. Ceci s'explique heuristiquement par l'idée que le fait pour un cycle d'être un CE est déjà une propriété forte. En effet, vus ses sous-groupes d'ordre 2, un plus gros stabilisateur ne pourrait être qu'un groupe de la forme K, K' ou K", mais il s'avère qu'aucun CE ne se laisse stabiliser par un BS_iD₆ : donc K et K" sont exclus, reste le cas de K'. Mais K' contient toujours BR₆D₆, or il est impossible qu'un CE soit stable par cette transformation et par un renversement-décalé (S_iD₆) : voyons-le sur un exemple.
{0 1 9 3 7 6 11 8 10 4 2 5} est un CE stable par BR₆D₆, en particulier l'intervalle 0-1 initial se retrouve entre la cinquième et la sixième notes, renversé : 7-6. Que se passe-t'il avec un renversement du type licite, par exemple S₇D₆ ? un CE stable par cette transformation est {0 1 9 3 8 5 7 6 10 4 11 2}, on constate que l'intervalle de seconde initial 0 -1 se retrouve, renversé, entre la sixième et la septième notes. Comme un même intervalle ne peut se trouver à deux endroits différents dans un même CE, il en résulte qu'aucun CE n'est à la fois stable par deux transformations différentes.²² Ce qui démontre que la liste des 148 CE (x144, par déphasages et transpositions) symétriques est exhaustive.

Conclusion

Le présent travail avait plusieurs objectifs : il est plaisant de constater que la théorie des groupes (et plus spécialement des actions de groupes) admet des applications à la musique ; il en est d'autres, celle présentée ici est assez neuve (cf [MORRIS] tout de même). Pour étendre mes résultats à la série généralisée (particulièrement exploitée par BOULEZ), il conviendrait simplement de refaire le même travail avec d'autres moduli que 12.
D'autre part, ce travail d'entomologiste aura permis d'évaluer, dans des contextes de plus en plus larges (et d'autant plus dignes d'intérêt), la rareté de cet objet musical par excellence que constitue une série dodécaphonique pourvue de symétries. Au passage et gratuitement, les méthodes de dénombrement utilisées, qui mathématiquement reposent toutes sur une multiplication du nombre des domaines fondamentaux possibles d'action du groupe par la longueur d'une orbite, autorisent le compositeur à fabriquer aisément ses propres séries pourvues des propriétés désirées.
Enfin, nous avons terminé par le cas très spécial des CE, qui à mon avis méritent une considération toute particulière de la part des musiciens sériels puisqu'ils constituent le cas étrange d'objets pré-post-sériels ! Il est satisfaisant aussi d'avoir mesuré l'extrême rareté de la série de BERG (4,56% x 0,05796% = 0,002643 % de tous les cycles) et de pouvoir construire facilement toutes celles qui jouissent des mêmes propriétés, ou de propriétés similaires. J'espère que des lecteurs de cet article auront à cœur de me faire parvenir les partitions qu'il aura pu les aider à composer.

¹ Les principales œuvres de Matthias HAUER viennent enfin d’être traduites en français...

² Vice-président de la SFAM, rédacteur en chef de la revue Musurgie, compositeur.

³ Nerval, Chimères.

⁴ En particulier S_ioS_j = R_i-j (le produit de deux symétries est une rotation).

⁵ Si G et G' sont deux groupes, on définit leur produit direct comme l'ensemble GxG' des couples (g, g') (avec gŒG et g'ŒG') muni de la loi (g, g')x(h, h') = (gh, g'h').

⁶ Et encore, l'indice i du renversement doit être impair, i.e. l'axe ne peut pas passer par deux notes : si on prenait par exemple S₀, il faudrait que 0 et 6 (Do et Fa#) ne fussent pas changées de place par la rétrogradation, puisque la symétrie les laisseraient toutes deux en place ; or toute note de la série est déplacée par B.

⁷ Soit une sur 1700 environ.

⁸ La notation est mnémotechnique, mais il faut veiller à ne pas la confondre avec les groupes diédraux ; le contexte restera suffisamment clair pour que l'on ne rique pas de confondre.

⁹ Il a 144 éléments, et est produit direct de Z₁₂ par Z₁₂ ; c'est un groupe commutatif.

¹⁰ On pouvait également appliquer le théorème de LAGRANGE au sous-groupe engendré par la transformation.

¹¹ Parce que rotations et décalages commutent.

¹² Une démonstration plus rapide, mais plus abstraite, consiste à projeter le groupe cherché sur deux groupes quotients - cela revient à considérer les R_i en oubliant la partie déphasage, et réciproquement. On constate que les deux quotients sont cycliques, et on conclut à l'aide du lemme.

¹³ Ce sont les gammes chromatiques et les cycles des quintes.

¹⁴ Dans le treillis, deux flêches partent de chaque groupe vers des sur-groupes à 12 éléments.

¹⁵ Composés de deux gammes par tons (comme (8 10 0 2 4 6 )) complémentaires entrelacées.

¹⁶ Réunions de quintes augmentées (0 4 8), (1 5 9), ..., comme le cycle {0 11 6 5 4 3 10 9 8 7 2 1 }.

¹⁷ Ce groupe est produit semi-direct du précédent par {Id, B} ; il n'est plus commutatif.

¹⁸ Le fait que les quatre valeurs soient distinctes vient de ce que i est impair ; si une valeur x avait un stabilisateur non réduit à {Id} dans ce groupe, on aurait x=i-x, ou x=i+6-x ou bien encore x=x+6 et ces trois égalités sont impossibles (la dernière l'est toujours) pour i impair.

¹⁹ En fait on tomberait sur un groupe à seize éléments, ensemble des produits de B, S_i , R₆ et D₆ - qui commutent tous entre eux: ce serait le groupe (Z/2Z)⁴.

²⁰ Ou plutôt de tester chacun des représentants de la forme (0 1 ...), puisque chaque orbite contient un et un seul CE de ce type, à transposition et déphasage près. On utilise ici que si un CE possède un stablisateur non trivial, alors les éléments de son orbite ont des stablisateurs isomorphes - et même conjugués. Il suffit donc de connaître le stablisateur d'un seul élément de l'orbite pour les connaître tous.

²¹ Si le CE C est stable par BR₆D_2j, les CE D_j(C) et D_j+6(C) ainsi que leurs douze transposés à chacun sont stables par BR₆, et par rien d'autre. Il y a donc 88*24=2112 CE "aussi" symétriques que celui de Berg (soit 4,56% de tous les CE).

²² Les phénomènes constatés sont généraux, comme il résulte des définitions des opérateurs S, D, B. Un lecteur astucieux aura peut-être remarqué que l'argument donné n'est pas valide si le premier intervalle du cycle est un triton ; mais alors il suffit d'adapter cet argument au deuxième intervalle ! on peut arguer aussi que, si un CE était stable par un groupe à quatre éléments, alors tous ses décalés le seraient aussi (isomorphisme des stabilisateurs dans une même orbite), et donc le choix du premier intervalle n'est pas une perte de généralité.