Représentation des groupes finis préparation à l’agrégation Alexis Tchoudjem Université Lyon I 10 février 2016 1 Références 1. Vinberg, Algebra; 2. J. -P. Serre, Représentations linéaires des groupes finis; 3. Guy Henniart, Représentations linéaires des groupes finis, disponible ici : www.math.polytechnique.fr/xups/xups09-01.pdf; 4. Alperin, Groups and representations; 5. Isaacs, Character theory of finite groups; 6. Fulton & Harris Representation theory. Table des matières 1 Références 2 2 Sous-espaces invariants 2 3 Complèteréductibilitédesreprésentationslinéairesdesgroupes finis 6 4 Caractères des représentations de groupes finis 7 5 L’espace hermitien des fonctions centrales 7 6 Table des caractères de A 11 5 7 Théorème de Burnside 12 8 Représentations induites 13 2 Sous-espaces invariants Soit k un corps. Définition 1 Unereprésentationk−linéaired’ungroupeGestunmorphisme de groupes : G → GL(V) . Si R : G → GL(V) et S : G → GL(U) sont des représentations d’un groupe G, un morphisme de R vers S est une application k−linéaire φ : V → 2 U telle que le diagramme : R(g) (cid:47)(cid:47) V V φ φ (cid:15)(cid:15) (cid:15)(cid:15) R(g) (cid:47)(cid:47) U U commute pour tout g ∈ g. Si φ est un isomorphisme, on dit que R (cid:39) S. Les sous-espaces invariants jouent un rôle important dans la structure des représentations linéaires. De quoi s’agit-il? Définition 2 Soit R : G → GL(V) une représentation linéaire d’un groupe G. On dit qu’un sous-espace U ≤ V est invariant s’il l’est vis à vis de tous les endomorphismes R(g), g ∈ G. Si U ≤ V est un sous-espace invariant d’une représentation R : G → GL(V), alors la sous-représentation R : G → GL(U), g (cid:55)→ R(g)| et la re- U U présentationquotientR : G → GL(V/U), g (cid:55)→ (v modU (cid:55)→ R(g)v modU) V/U sont aussi des représentations linéaires de G. Définition 3 Une représentation R : G → GL(V) est irréductible si V (cid:54)= 0 < et s’il n’existe pas de sous-espace invariant 0 (cid:54)= U (cid:54)= V. Exercice 1 a) Les représentations de dimension 1 sont irréductibles. cost −sint b) La représentation R : R → GL (R), t (cid:55)→ est irréduc- 2 sint cost tible. cost −sint c) La représentation R : R → GL (C), t (cid:55)→ n’est pas 2 sint cost irréductible. d) L’isomorphisme S (cid:39) SO (Z) définit une représentation irréductible 4 3 réelle de S de dimension 3 (l’isomorphisme s’obtient en faisant agir 4 ±1 SO (Z) sur ses quatre 3−Sylow ou sur les quatre droites ± ±1 ). 3 1 Cette dernière représentation est aussi irréductible sur C! grâce à la propo- sition suivante : 3 Proposition 2.1 Soit G → GL (R) une représentation irréductible de di- n mension n impaire. Alors R : G → GL (C) la « complexification » de R est n aussi irréductible. Démonstration : Indication : soit 0 (cid:54)= W < Cn un sous-espace invariant. Alors W ∩W est un sous-R−espace invariant de Rn donc c’est 0. De même W +W ∩Rn est un sous-espace invariant de Rn donc W +W = Cn. D’où n = dimW +dimW = 2dimW absurde! q.e.d. Exercice 2 Soit V un k−espace vectoriel de base e ,...,e . La représentation 1 n de S définie par R(s)e := e , s ∈ S , est la représentation monomiale. n i s(i) n a) La représentation monomiale n’est pas irréductible car elle a au moins deux sous-représentations non triviales : l’une de dimension 1 : k(e + 1 ....+e ) l’autre de dimension n−1 : V := {(cid:80)n x e : (cid:80)n x = 0}. n 0 i=1 i i i=1 i b) La sous-représentation V est irréductible en caractéristique nulle. 0 Remarque importante : si ϕ : V → U est un morphisme de représen- tations, alors kerϕ est une sous-représentation de V et Imϕ est une sous- représentation de U. Voici une conséquence : Théorème 2.2 Tout morphisme entre deux représentations irréductibles est soit nul soit un isomorphisme. Dorénavant nous ne considérerons que les représentations de dimension finie. Théorème 2.3 (Lemme de Schur) Suruncorpsalgébriquementclos,tout endomorphisme d’une représentation irréductible est soit nul soit un multiple de l’identité. Corollaire 2.3.1 Toute représentation irréductible d’un groupe abélien sur un corps algébriquement clos est de dimension 1. Démonstration : (exo) q.e.d. Définition 4 Une représentation linéaire R : G → GL(V) est complètement réductible si tout sous-espace invariant U ≤ V admet un supplémentaire invariant. 4 et 0 Exercice 3 a) La représentation R → GL (C), t (cid:55)→ est com- 2 0 e−t plètement réductible. 1 t b) La représentation S → GL (C), t (cid:55)→ est réductible mais non 2 0 1 complètement. Théorème 2.4 Chaque sous-représentation et chaque quotient d’une repré- sentation complètement réductible restent complètement réductibles. Démonstration : (exo) q.e.d. Théorème 2.5 Soit R : G → GL(V) une représentation linéaire. Si R est une représentation complètement réductible, alors V se dé- compose en somme directe de sous-espaces invariants minimaux†. ((iii)) Réciproquement, si V est une somme (cid:80) V (non nécessairement di- i i recte) de sous-espaces invariants minimaux, alors R est une représen- tation complètement réductible. De plus, si U ≤ V est un sous-espace invariant, alors on peut choisir comme supplémentaire invariant une somme de certains V . i Démonstration : (i) : (exo) (ii) Si V = (cid:80)n V . Si U ≤ V est invariant. On choisit I ≤ {1,...,n} i=1 i un sous-ensemble de cardinal maximal tel que (cid:80) V ∩ U = 0. Alors U ⊕ i∈I i ((cid:80) V ) = V. q.e.d. i∈I i Exercice 4 a) En caractéristique nulle, la représentation monomiale est complètement réductible. b) En caractéristique nulle, la représentation Ad : GL (k) → GL(M (K)), n n A (cid:55)→ (X (cid:55)→ AXA−1) est complètement réductible (indication : vérifier que (cid:104)I (cid:105) et {X ∈ M (K) : trM = 0} sont des sous-espaces invariants n n minimaux). Corollaire 2.5.1 Une représentation est complètement réductible si et seule- ment si elle est isomorphe à une somme directe de représentations irréduc- tibles. †. i.e. minimaux parmi les sous-espaces invariants non nuls 5 Corollaire 2.5.2 Soit R : G → GL(V) une représentation complètement réductible isomorphe à une somme directe de représentations irréductibles ⊕n R . Alors toute sous-représentation et toute représentation quotient de i=1 i R est isomorphe à une somme directe ⊕ R pour une partie I ⊆ {1,...,n}. i∈I i Théorème 2.6 (de Burnside) Soit R : G → GL(V) une représentation irréductible sur un corps algébriquement clos k. Alors la sous-algèbre de End (V) engendré par les R(g), g ∈ G, coïncide avec End (V). k k Démonstration : cf. Les Maths en tête, algèbre , X. Gourdon, problème IV . 7 q.e.d. Exercice 5 Montrer que si R : G → GL(V) est une représentation irréduc- tible sur un corps de algébriquement clos, alors : a) toute forme bilinéaire non nulle invariante sur V est non dégénérée; b) deux telles formes sont proportionnelles; c) si une telle forme existe, alors elle est symétrique ou antisymétrique. 3 Complète réductibilité des représentations li- néaires des groupes finis Théorème 3.1 (théorème de Maschke) Soit R : G → GL(V) une repré- sentation k−linéaire d’un groupe fini G d’ordre premier à la caractéristique de k. Alors tout sous-espace invariant U ≤ V a un supplémentaire G−invariant. Démonstration : Soit p : V → U une projection linéaire surjective (ça existe toujours!). On pose π := 1 (cid:80) R(g) ◦ p ◦ R(g)−1. C’est un endo- |G| g∈G morphisme de V, on a π ◦R(g) = R(g)◦π pour tout g ∈ G. Donc kerπ et π sont des sous-espaces G−invariants. De plus π2 = π (exo) Donc π est une projection et Imπ ⊕kerπ = V avec Imπ = U. q.e.d. Exercice 6 Démontrer que la représentation C− linéaire de S induite par 4 l’isomorphisme S (cid:39) SO (Z) est irréductible (indication : il suffit de vérifier 4 3 qu’il n’y a pas de droite invariante!) Exercice 7 Sipestunnombrepremier,alorslasous-représentation{(cid:80)p x e : i=1 i i (cid:80)p x = 0} de la représentation monomiale de S est indécomposable mais i=1 i p n’est pas irréductible. On s’intéresse dorénavant aux représentations sur C. 6 4 Caractères des représentations de groupes fi- nis Définition 5 Soit R : G → GL(V) une représentation, son caractère χ est R la fonction G → C, g (cid:55)→ trace(R(g)). Remarques : i) La terminologie est traditionnelle mais peut prêter à confusion si le groupe G est abélien! ii) Deux représentations isomorphes ont le même caractère (et réciproque- ment? patience ...). iii) La fonction χ est clairement constante sur les classes de conjugaison. R iv) Si G est fini, alors pour tout g ∈ G, χ (g−1) = χ (g) (exo) R R v) Si R est la somme directe de deux sous-représentations R et R , alors 1 2 χ = χ +χ . R R1 R2 Exercice 8 χ (1) est la dimension de la représentation R. R 5 L’espace hermitien des fonctions centrales Soit G un groupe fini. On note FC(G) le C−espace vectoriel des « fonc- tions de classe » i.e. des fonctions G → C constantes sur les classes de conjugaison i.e. des fonctions f : G → C telles que f(gh) = f(hg) pour tous g,h ∈ G. On munit CG du produit scalaire hermitien : 1 ∀f,ϕ ∈ CG, (cid:104)f,ϕ(cid:105) := (cid:88) f(g)ϕ(g) . |G| g∈G On note Irr(G) l’ensemble des classes d’isomorphisme des représentations irréductibles de G. À l’aide du lemme de Schur, on peut démontrer le résultat fondamental suivant : Théorème 5.1 La famille (χ ) est une base orthonormale du sous- R R∈Irr(G) espace FC(G). En particulier, le nombre de classes d’isomorphisme de représentations irréductibles de G est aussi le nombre de classes de conjugaison de G! Remarque : pour toute fonction f ∈ FC(G), f = (cid:80) (cid:104)χ ,f(cid:105)χ . R∈Irr(G) R R 7 Les χ , R ∈ Irr(G), sont appelés les caractères irréductibles de G. R Les valeurs des (χ ) sont présentées sous forme de tableau, ap- R R∈Irr(G) pelé table des caractères de G, dont la première ligne indique les classes de conjugaison de G (chaque classe est représentée par un de ses éléments et on indique aussi le cardinal de la classe; et la première colonne indique la liste des χ . On inscrit le coefficient χ (g) à l’intersection de la colonne g et de R R la ligne χ ). R Exercice 9 (table des caractères de S ) 3 1 : 1 (12) : 3 (123) : 2 χ 1 1 1 1 χ 1 −1 1 sign χ 2 0 −1 R0 Exercice 10 DéterminerlatabledescaractèresdeD ,groupediédrald’ordre 4 8. Nombreuses et considérables sont les conséquences du théorème précé- dent. Par exemple : (1) Deux représentations R et R(cid:48) de G sont isomorphes si et seulement si leurs caractères sont égaux ( ce qui justifie le terme caractère). (2) Si R est une représentation de G, alors R est somme directe de sous- repreésentations irréductibles R . Dans cette décomposition, le nombre i de R dans une classe ρ ∈ Irr(G) donnée est (cid:104)R,ρ(cid:105). i (3) Une condition nécessaire et suffisante pour qu’une représentation R soit irréductible est (cid:104)χ ,χ (cid:105) = 1. R R (4) Plus généralement, si une fonction f ∈ FC(G) est une combinaison linéaire à coefficients entiers de caractères irréductibles de G, alors f est un caractère irréductible si χ(1) ≥ 0 et (cid:104)χ,χ(cid:105) = 1. (5) Avec un peu de théorie des nombres (les χ (g) sont des entiers algé- R briques pour toute représentation R et tout g ∈ G!), la dimension de toute représentation irréductible de G divise |G| (cf. Serre, Représen- |Z(G)| tations linéaires des groupes finis). (6) le théorème de Burnside! i.e. : tout groupe fini d’ordre paqb, où p,q sont des nombres premiers et a,b ∈ Z est résoluble! ≥1 On note CG le C−espace vectoriel CG de base e : G → C, h (cid:55)→ δ , g g,h g ∈ G, muni du produit C−bilinéaire e e := e . g h gh 8 Exercice 11 En considérant la représentation régulière de G : R : G → G GL(CG), ∀g ∈ G, R (g)(e ) = e . Montrer que : G h gh (cid:88) dim2R = |G| R∈Irr(G) ∀1 (cid:54)= g ∈ G, (cid:88) dimRχ (g) = 0 . R R∈Irr(G) Lemme 5.2 Si R : G → GL(V) est une représentation, on note R∗ : G → GL(V∗), g (cid:55)→ tR(g−1) la représentation duale . On a χ = χ et R est R R∗ irréductible ⇔ R∗ l’est! Démonstration : (exo) q.e.d. Démonstration du résultat fondamental : 1) Soient R : G → GL(V), R(cid:48) : G → GL(V(cid:48)) deux représentations irréduc- tibles non isomorphes. Soit f : V → V(cid:48) une application C−linéaire. Alors (cid:80) R(cid:48)(g)fR(g)−1 : V → V(cid:48) est G−équivariante donc nulle d’après le g∈G lemme de Schur. Soit e ,...,e une base V et soit e(cid:48),...,e(cid:48) une base de V(cid:48). Soit f l’endo- 1 n 1 n(cid:48) morphisme élémentaire « E » pour 1 ≤ i ≤ n(cid:48), 1 ≤ j ≤ n. i,j Alorsdanslesbasese,e(cid:48) lek,lèmecoefficientdelamatrice(cid:80) R(cid:48)(g)fR(g)−1 g∈G est (cid:80) R(cid:48)(g) R(g−1) = 0 (pour tous i,j,k,l). Donc : g∈G ki jl 1 1 n n(cid:48) (cid:88) χ (g)χ (g) = (cid:88) (cid:88)R(g−1) (cid:88)R(cid:48)(g) R R(cid:48) j,j i,i |G| |G| g∈G g∈Gj=1 i=1 1 n n(cid:48) = (cid:88)(cid:88) (cid:88) R(g−1) R(cid:48)(g) = 0 . j,j i,i |G| j=1i=1g∈G (cid:124) (cid:123)(cid:122) (cid:125) =0 2) De même, on montre que (cid:104)χ ,χ (cid:105) = 1 si R ∈ Irr(G). R R 3) Pour montrer que les χ , R ∈ Irr(G) engendrent FC(G), il suffit de R montrer que si f est une fonction centrale orthogonale à tous les χ , R R ∈ Irr(G), alors f est nulle. Soit f une telle fonction. Posons F := (cid:80) f(g)R(g) pour toute représentation R de G. On a : R g∈G ∀h ∈ G, F R(h) = (cid:88) f(g)R(gh) = (cid:88) f(gh−1)R(g) R g∈G g∈G = (car f est une fonction centrale!) (cid:88) f(h−1g)R(g) = (cid:88) f(g)R(hg) g∈G g∈G 9 = R(h)F . R Donc si R est irréductible F est une homothétie. Or, trace(F ) = R R |G|(cid:104)χ ,f(cid:105) = 0. Donc F = 0. Or toute représentation est somme di- R∗ R recte d’irréductibles donc F = 0 pour toute représentation R. En par- R ticulier pour la représentation régulière R . En particuleir, dans CG, G F (e ) = (cid:80) f(g)e = 0 ⇒ f = 0. RG 1 g∈G g q.e.d. Exercice 12 Trouver la table des caractères de S . 4 Réponse : 1 : 1 (12) : 6 (12)(34) : 3 (123) : 8 (1234) : 6 χ 1 1 1 1 1 1 χ 3 1 −1 0 −1 2 χ 2 0 2 −1 0 3 χ 3 −1 −1 0 −1 4 χ 1 −1 1 1 −1 sign Exercice 13 Le groupe des quaternions d’ordre 8 a la même table de carac- tères que D bien que non isomorphe. Jusitifer cette affirmation. 4 Exercice 14 Démontrer cette autre formule d’orthogonalité : |G| ∀g ∈ G, (cid:88) χ (g)χ (g−1) = R R |C| R∈Irr(G) où C est la classe de conjugaison de g, et : ∀g,h ∈ G non conjugués , (cid:88) χ (g)χ (h−1) = 0 . R R R∈Irr(G) Indication : soit C une classe de conjugaison; on considère la fonction cen- trale 1 : g (cid:55)→ 1 si g ∈ C, 0 sinon. On a 1 = (cid:80) x χ où x = C C R∈irr(G) R R R (cid:104)χ ,1 (cid:105) = |C|χ (C) où χ (C) est la valeur de χ sur C ... R C |G| R R R Exercice 15 Soit G un groupe fini et ρ : G → GL(V) une représentation irréductible (sur C de dimension d. Alors nous allons montrer que d||G|. On note χ le caractère de ρ. 10