Représentations du groupe symétrique

En mathématiques les représentations du groupe symétrique d'indice quatre noté S₄ sont un exemple d'application de la théorie des représentations d'un groupe fini.

Sur le corps des nombres complexes, il existe cinq représentations irréductibles du groupe symétrique d'indice quatre, la représentation triviale, celle correspondant à la signature, une de degré 2 et deux de degré 3. L'une s'obtient de l'autre par produit tensoriel avec la représentation correspondant à la signature. Une des représentations de degré 3 correspond aux rotations linéaires laissant invariant un cube.

L'analyse des représentations de S₄ est une illustration des concepts comme le théorème de Maschke, les caractères, la représentation régulière, les représentations induites et la réciprocité de Frobenius.

Graphe de Cayley du groupe symétrique d'indice quatre

Histoire

L'histoire des représentations du groupe symétrique d'indice 4, avec celui d'indice 5 et des groupes alternés associés, joue un rôle particulier pour la théorie des caractères. Avril 1896 est le mois de naissance généralement considéré de cette théorie. Inspiré par une intense correspondance avec Dedekind qui avait calculé les représentations de S₃ et du groupe des quaternions, Frobenius analyse les représentations des groupes cités et présente les fondements qu'il développe pendant les années à venir.

Si les méthodes sont différentes de celles maintenant utilisées – Frobenius adopte en effet comme outil essentiel l'idée de Dedekind des déterminants de groupes tombés maintenant en désuétude – les bases de la théorie sont esquissées. Elle se développe rapidement ; Heinrich Maschke démontre le théorème portant maintenant son nom trois ans plus tard. En 1911, William Burnside publie la seconde édition du livre encore de référence contenant toutes les techniques utilisées dans cet article.

Représentations irréductibles et caractères

Les représentations d'un groupe fini G (sur un espace vectoriel complexe de dimension finie) possèdent une propriété simplifiant largement leur analyse, elles sont toutes sommes directes de représentations irréductibles. De plus, cette décomposition d'une représentation se « lit » sur son caractère, qui est l'application associant à tout élément de G la trace de son image par la représentation. En effet :

• le caractère d'une somme directe de représentations est la somme de leurs caractères ;
• tout caractère est une fonction centrale, c'est-à-dire une application (de G dans l'ensemble ℂ des nombres complexes) constante sur chaque classe de conjugaison ;
• pour le produit hermitien suivant, la famille des caractères irréductibles est une base orthonormale de l'espace de ces fonctions centrales :

$<\chi _{1}\,|\,\chi _{2}>={\frac {1}{|G|}}\sum _{s\in G}\chi _{1}(s).{\overline {\chi _{2}(s)}}.$

En résumé :

• le degré d'une représentation est égal à la valeur en 1 de son caractère,
• tout caractère est constant sur chacune des classes de conjugaison,
• les caractères irréductibles sont ceux de norme 1,
• ils sont orthogonaux deux à deux,
• leur nombre est égal au nombre de classes de conjugaison.

Quatre représentations irréductibles de S_n

Pour tout entier n ≧ 2, on dispose déjà de quatre représentations irréductibles de de S_n faciles à décrire :

• la représentation triviale t, de degré 1, qui à chaque élément du groupe associe 1 ;
• la représentation σ, de degré 1, qui à chaque permutation associe sa signature ;
• la représentation standard φ₁, de degré n–1, supplémentaire de t dans l'action naturelle ρ de S_n sur ℂⁿ. Plus précisément, en notant (e_i), pour i variant de 1 à n, la base canonique de ℂⁿ :
  • l'image ρ(s) d'une permutation s de S_n est l'automorphisme de ℂⁿ qui envoie la base (e_i) sur la base (e_s(i)) ; sa matrice dans (e_i) est donc la matrice de la permutation et le caractère de ρ, appliqué à s, est le nombre de points fixes de s ;
  • t apparaît comme une sous-représentation de ρ car le vecteur somme des e_i est fixe,
  • φ₁ est la restriction de ρ à l'hyperplan supplémentaire stable constitué des vecteurs dont la somme des coordonnées est nulle ;
  • l'irréductibilité de φ₁ se déduit du fait que son caractère est de norme 1, fait que nous vérifierons directement pour n = 4, mais qui se démontre de façon générale par 2-transitivité de S_n ou par un calcul explicite ;
• le produit φ₂ de φ₁ par σ, de degré n–1.

Les cinq caractères irréductibles de S₄

Classes de conjugaison

Les conjugués d'un élément s de S_n sont les permutations dont la décomposition en produit de cycles à supports disjoints a la même structure que celle de s : même nombre de cycles de chaque longueur.

Dans le cas de S₄, cette décomposition peut être de la forme : 1 (l'identité), (ab) (transposition), (abc) (3-cycle), (ab)(cd) (produit de deux transpositions disjointes) ou (abcd) (4-cycle). Les 24 éléments du groupe se répartissent donc en 5 classes de conjugaison, que nous prendrons toujours dans l'ordre arbitraire suivant :

Décomposition	1	(ab)	(abc)	(ab)(cd)	(abcd)
Cardinal de la classe	1	6	8	3	6

Calcul de la table

Les deux représentations t (triviale) et σ (signature) sont de degré 1, donc le caractère est égal à la représentation ; l'image des cinq classes ci-dessus est (1, 1, 1, 1, 1) pour t et (1, –1, 1, 1, –1) pour σ.

Le caractère de φ₁, appliqué à une permutation s, s'obtient en retranchant 1 au nombre de points fixes de s. On obtient donc le caractère (3, 1, 0, –1, –1).

La représentation irréductible φ₂, produit de φ₁ par la fonction scalaire σ, a pour caractère le produit par σ du caractère de φ₁ : (3, –1, 0, –1, 1).

Les quatre représentations irréductibles déjà identifiées ont des caractères distincts, donc ne sont pas équivalentes. On peut vérifier que ces quatre caractères forment bien une famille orthonormale (en particulier ils sont de norme 1, ce qui confirme leur irréductibilité), et on complète la table par l'unique fonction centrale de norme 1 qui leur est orthogonale et dont la valeur sur 1 est positive : (2, 0, –1, 2, 0). C'est le caractère de la cinquième représentation irréductible, θ, qui est par conséquent de degré 2. (Comme prévisible, il est invariant par produit par σ.) Le tableau des caractères est finalement :

Car. irr.	1	(ab)	(abc)	(ab)(cd)	(abcd)
t	1	1	1	1	1
σ	1	–1	1	1	–1
θ	2	0	–1	2	0
φ1	3	1	0	–1	–1
φ2	3	–1	0	–1	1

On peut vérifier que les degrés des représentations associées sont des diviseurs de l'ordre du groupe, et que la représentation régulière, dont le caractère est (24, 0, 0, 0, 0), contient autant de copies d'une représentation irréductible donnée que le degré de cette représentation irréductible : (24, 0, 0, 0, 0)=(1, 1, 1 ,1, 1)+(1, –1, 1, 1, –1)+2(2, 0, –1, 2, 0)+3(3, 1, 0, –1, –1)+3(3, –1, 0, –1, 1). (Cette propriété aurait d'ailleurs pu servir à calculer le caractère de θ.) On remarque par ailleurs que toutes les valeurs de la table sont des entiers. C'est une propriété générale de tous les groupes symétriques.

Interprétations géométriques

L'objectif du paragraphe est de préciser et d'interpréter les trois représentations θ, φ₁ et φ₂. Le groupe symétrique est engendré par les transpositions, il n'est donc nécessaire de déterminer les représentations que pour celles-ci. De plus, on remarque que les transpositions (12), (23), (34) engendrent toutes les transpositions de S₄, donc le groupe entier. Dans la suite de ce paragraphe (sauf pour φ₂ où on choisira d'autres générateurs), les représentations ne sont exprimées que sur ces trois éléments. Leur valeur sur le reste du groupe s'en déduit par produits.

Représentation θ

Représentation de S₄ comme groupe des isométries du triangle

Vu son caractère, la représentation θ est de degré 2 et son noyau est inclus dans le sous-ensemble H formé de l'identité et des trois involutions de la forme (ab)(cd). Cette inclusion est en fait une égalité, puisque dans le plan, la seule involution linéaire de trace 2 est l'identité. On en déduit que H est un sous-groupe normal de S₄ et que θ = θ₂∘s, où s : S₄ → S₄/H est la surjection canonique et θ₂ est une représentation du groupe quotient S₄/H. Or ce quotient est isomorphe à S₃ (on peut voir cet isomorphisme, par exemple, en réalisant S₄ comme le groupe des rotations du cube – cf infra – et en considérant son action sur les trois paires de faces opposées). Via cette identification, θ₂ est donc entièrement déterminée : c'est l'unique représentation irréductible complexe de degré 2 de S₃ ; elle résulte (par extension des scalairesextension des scalaires) de la représentation réelle qui réalise S₃ comme le groupe des isométries du triangle (voir l'article détaillé). Ceci détermine complètement θ :

$\theta _{(12)}=\theta _{(34)}={\begin{pmatrix}1&0\\0&-1\end{pmatrix}}\quad {\text{et}}\quad \theta _{(23)}={\begin{pmatrix}\cos {\frac {2\pi }{3}}&\sin {\frac {2\pi }{3}}\\\sin {\frac {2\pi }{3}}&-\cos {\frac {2\pi }{3}}\end{pmatrix}}.$

Elle n'est pas fidèle et chaque isométrie du triangle possède quatre antécédents. La figure de droite illustre cette représentation. On a nommé les trois sommets du triangle au moyen des trois étiquettes 1x2 + 3x4, 2x3 + 1x4 et 1x3 + 2x4. Une permutation de S₄ agit directement sur les chiffres de chaque étiquette. Ainsi,la transposition (12) laisse le sommet 1x2 + 3x4 invariant mais permute les deux sommets 2x3 + 1x4 et 1x3 + 2x4. On pourra vérifier que l'action de cette transposition est identique à celle de la transposition (34) ou celle des permutations circulaires (1324) ou (1423). Une telle action du groupe S₄ est utilisée pour résoudre les équations du quatrième degré.

Représentation φ₁

Considérons la représentation standard φ₁. Une base de l'hyperplan d'équation x₁+x₂+x₃+x₄=0 est :

$u_{1}=e_{1}+e_{2}-e_{3}-e_{4},\quad u_{2}=e_{1}-e_{2}+e_{3}-e_{4},\quad u_{3}=e_{1}-e_{2}-e_{3}+e_{4}.$

Dans cette base, φ₁ est décrite par :

Quelques isométries du tétraèdre régulier : tiers de tour, demi-tour et réflexion

$\varphi _{1}(12)={\begin{pmatrix}1&0&0\\0&0&-1\\0&-1&0\end{pmatrix}},\quad \varphi _{1}(23)={\begin{pmatrix}0&1&0\\1&0&0\\0&0&1\end{pmatrix}},\quad \varphi _{1}(34)={\begin{pmatrix}1&0&0\\0&0&1\\0&1&0\end{pmatrix}}.$

Les images par φ₁ des permutations de S₄ sont alors les matrices orthogonales laissant globalement invariant le tétraèdre régulier de sommets M₁ = (–1,–1,–1), M₂ = (–1,1,1), M₃ = (1,–1,1) et M₄ = (1,1,–1), et permutant ces quatre sommets. Les transpositions (ab) correspondent à des réflexions, les permutations (ab)(cd) à des demi-tours, les permutations (abc) à des tiers de tour, et les permutations (abcd) aux composées d'un quart de tour et d'une réflexion.

Représentation φ₂

Pour obtenir la représentation φ₂, il suffit de multiplier la représentation matricielle de φ₁ par le caractère σ. On peut la décrire sur les générateurs suivants :

$\varphi _{2}(1324)={\begin{pmatrix}1&0&0\\0&0&-1\\0&1&0\end{pmatrix}},\quad \varphi _{2}(1234)={\begin{pmatrix}0&0&-1\\0&1&0\\1&0&0\end{pmatrix}},\quad \varphi _{2}(1342)={\begin{pmatrix}0&1&0\\-1&0&0\\0&0&1\end{pmatrix}}.$

Générateurs du groupe des rotations du cube

S₄ permute les quatre paires de triangles opposés dans un cuboctaèdre

On reconnait trois rotations laissant invariant le cube, la première suivant l'axe des x, la deuxième suivant l'axe des y et la troisième suivant celui des z. La figure de gauche illustre l'interprétation géométrique de ces trois rotations : l'image de (1324) est celle représentée par la flèche rouge, celle de (1234) par la bleue et celle de (1342) par la verte.

Les rotations du cube permutent alors les quatre diagonales du cube ou, de manière équivalente, les quatre paires de sommets opposés. Les permutations (abcd) (les trois générateurs ci-dessus et leurs inverses) correspondent à des quarts de tour d'axes passant par les centres des faces, les permutations (ab)(cd), qui sont leurs carrés, à des demi-tours de mêmes axes, les transpositions (ab) à des demi-tours d'axes joignant les milieux de deux arêtes opposées, et les permutations (abc) à des tiers de tour d'axes joignant deux sommets opposés.

On peut également visualiser ce groupe de rotations comme celui du cuboctaèdre, puisque c'est le cube rectifié (en) : les milieux d'arêtes du cube deviennent les sommets du cuboctaèdre, les huit coins du cube sont coupés et remplacés par des faces triangulaires, et les rotations permutent alors les quatre paires de triangles opposés.

Notes et références

Ouvrages

• (en) William Fulton et Joe HarrisJoe Harris (mathématicien), Representation Theory, A First Course, Springer, coll. « GTMGraduate Texts in Mathematics » (n^o 129), 1991, 3^e éd. (ISBN 978-0-387-97495-8), 18-20
• (en) Marshall Hall, Jr., The Theory of Groups [détail des éditions]^{[réf. incomplète]}
• N. Bourbaki, Éléments de mathématique, Algèbre, chap. VIII^{[réf. incomplète]}

Articles connexes

• Tableau de Young
• Symétriseur de Young (en)