群论的应用最主要通过两种方式：研究对称、群表示计算。群论是描述对称的代数语言，是对对称的抽象；群表示论则将群论和线性代数连接起来，可以将群结构具象化。本文主要内容是表示论初步，主要讨论有限群的线性表示。
表示论
表示论在现代数学里算是比较大的分支了。表示，指的是对抽象的代数结构用具体的模型来描述。如果我们把矩阵当作代数系统里的元素，矩阵的运算当作代数系统的运算，那么这就把抽象的对象具体地表示了。表示的重点在于对结构的刻画，就像做一个实物的模型，关键是对结构的模仿有模有样。而线性代数则是模型模具的绝佳来源，对于这种基础的理论，对它的认识了解更为透彻深入。于是，把抽象代数里的问题化归到线性代数的问题，意味着有机会利用线性代数的大量工具进行研究，有机会利用矩阵来进行具体计算，从而有机会得到更广泛的应用。
表示论里最著名是三种：群表示、结合代数表示、Lie代数表示。n阶可逆矩阵里，把矩阵乘法作为群运算，就可以用矩阵表示群。n阶方阵里，乘法有结合律，把矩阵加法、乘法作为代数运算，就可以用矩阵表示结合代数。如果把矩阵交换子AB-BA作为Lie括号运算，那么可以用矩阵表示Lie代数。当然，把矩阵换成线性空间上的线性算子，也是一样的。
群的表示是历史最为悠久的，也最为出众，本文的目的也只在群表示论。而这里面，主要看有限群在有限维线性空间上的表示，无限情形只简单提一提。线性空间则考虑复数域\mathbb C上的空间，如果是\mathbb R上的，可以把实矩阵看作是复矩阵。
线性表示和矩阵表示
设V是复数\mathbb C上的n维线性空间，T:V\to V是一个线性同构映射。设(e _ i)是V的一组基，A是T在这组基下的矩阵，即
(Te _ 1,\dots,Te _ n)=(e _ 1,\dots,e _ n)A.T和A是一一对应的关系。T是同构，即T可逆，亦即A可逆。这样，同构映射和n阶可逆复矩阵之间建立了一一映射。而且，设同构映射的集合为\mathrm {GL}(V)，那么对复合运算，这是一个群，同构于一般线性群\mathrm {GL}(n,\mathbb C)。这些是线性代数中可得知的内容。
定义：一个有限群G在V上的线性表示(representation)是指一个同态\rho:G\to \mathrm{GL}(V)，即对任何群元素g,h\in G，都有
\rho _ {gh}=\rho _ g\rho _ h.这里已经用\rho _ g来表示\rho(g)，能简化后续记号。V的维数n也叫表示的维数。
如果\rho是单射，那么称表示是忠实的faithful。此时G同构于\rho(G)。
如果有V的一组基(e _ i)，设\rho _ g对应的矩阵是R _ g，那么得到的是G的矩阵表示R:G\to\mathrm{GL}(n,\mathbb C)，为G到一般线性群间的同态。每一R _ g可逆，同态的条件写出来就是
R _ {gh}=R _ gR _ h.由线性代数，设另一组基(e _ 1',\dots,e _ n')=(e _ 1,\dots,e _ n)P，那么\rho的矩阵表示由R _ g变为P^{-1}R _ gP。
例：考虑对称群S _ 3的三个表示。最简单的表示是一维的平凡表示，也就是R _ g\equiv1，对任意g\in S _ 3。
S _ 3中的置换有奇置换和偶置换，它们的符号就给出了一个一维表示，就是说对奇置换令R=-1，偶置换则R=1。
最后，给出一个二维表示。由于6阶群的同构类有C _ 6和S _ 3，而二面体群D _ 3\cong S _ 3，只需考虑D _ 3=\langle x,y\mid x^3,y^2,xyxy\rangle的表示。在平面坐标系上单位圆内接正三角形，其中一个顶点在(1,0)，那么其对称构成的群可由绕原点旋转\alpha=2\pi/3和x轴镜面反射生成。它们的正交变换矩阵是
R _ x=\begin{bmatrix}\cos\alpha&-\sin\alpha\\\sin\alpha&\cos\alpha\end{bmatrix},\quad R _ y=\begin{bmatrix}1&\\&-1\end{bmatrix}.由此推出其它元素的表示。通常这叫做D _ 3和S _ 3的标准表示。
线性算子的群作用：G中的群元素表示为\mathrm{GL}(V)中的线性算子，设v,v'\in V，则线性性表明\rho _ g(v+v')=\rho _ g(v)+\rho _ g(v')及\rho _ g(cv)=c\, \rho _ g(v)，此外还有\rho _ g(v)\in V、\rho _ 1(v)=v和\rho _ {gh}(v)=\rho _ g\rho _ h(v)。这表明我们可以定义线性算子的群作用：令gv=\rho _ g(v)，则
\begin{gathered}
1v=v,\quad(gh)v=g(hv),\\
g(v+v')=gv+gv',\quad g(cv)=c\, gv.
\end{gathered}反之，给定一个满足上面条件的群作用，\rho _ g(v)=gv给出一个线性表示。这样，V上线性算子的作用，和V上的表示，是等价的说法。
通常，明确表示\rho时，为简化记号可选择写gv。
表示的同构：设\rho,\rho'是群G分别在两个线性空间V,V'上的表示，又设T:V\to V'是一个线性同构。如果T能让我们从一个表示”变换“为另一个表示，就说这两个表示\rho,\rho'同构，具体写出就是
T\circ\rho(g)=\rho'(g)\circ T,\quad g\in G.或者用另一种记法
T(gv)=g(Tv).如下：
\begin{array}{ccc}
V&\stackrel{\rho}\longrightarrow &V\\
{\scriptsize{T}}\downarrow\phantom{\scriptsize{T}}&&\phantom{\scriptsize{T}}\downarrow{\scriptsize{T}}\\
V'&\stackrel{\rho\smash{'}}\longrightarrow& V'
\end{array}仔细考察这个定义。在V,V'分别取一组基(e _ i),(e' _ i)，设\rho,\rho'在该基下的矩阵表示为R,R'，T在这两组基下矩阵也记为T，即(Te _ 1,\dots,Te _ n)=(e' _ 1,\dots,e' _ n)T。上式表明
TR _ g=R' _ gT\iff R' _ g=TR _ gT^{-1}.注意到上面基变换公式，\rho'在基(Te _ 1,\dots,Te _ n)下的矩阵为T^{-1}R _ g'T=R _ g，和\rho在基(e _ 1,\dots,e _ n)下的矩阵相同。这样，把Te _ i识别成是e _ i的话，自然可以把\rho'识别成\rho了。这是表示间的同构如此定义的原因。
特殊的例子：考虑1维表示\rho:G\to(\mathbb C^\ast,\times)。对任一g\in G，由于g的阶数是有限的，\rho _ g必是1的单位根\mathrm e^{2\pi i/k}，|\rho _ g|=1。如果\rho _ g\equiv1，那么这个表示是平凡表示。
不可约表示
设\rho:G\to\mathrm{GL}(V)是一个线性表示。V的子空间W称作是G-不变的，如果满足w\in W,\, g\in G时总有gw\in W，也就是gW\subseteq W，或写成\rho _ g(W)\subseteq W。此时，g^{-1}W\subseteq W，从而W\subseteq gW，故gW=W。这表明，我们将表示\rho(g)\in\mathrm{GL}(V)限制到W上，得到一个W的自同构\rho| _ W(g)。这就是一个W上的子表示\rho| _ W:G\to\mathrm{GL}(W)。（记号\rho| _ W只是为了省事，\rho本质上是双变量映射，W\subseteq G时\rho| _ W又是另一种含义了，因此应该尽量避免此记号来记子表示。）
如果\rho的G-不变子空间只有平凡的和它自己，那么这个表示叫做是不可约的(irreducible)。如果有一个真子空间是G-不变的，那么叫做是可约的。
维数是1的表示自然是不可约的。
如果可约，设W是G-不变子空间，取W一组基，并扩充为V的一组基，那么\rho _ g在这组基下的矩阵是准上三角形式
\begin{bmatrix}
A _ g&\ast\\
0&B _ g
\end{bmatrix}.可以证明，可以通过恰当地选取基，使得\rho _ g的矩阵总是准对角形，也就是分块\ast变为零矩阵，这就是下面的Maschke定理。成准对角形，也就是说V可表示成G-不变子空间的直和；设V=W _ 1\oplus W _ 2，此时V上的表示\rho也叫做是\rho| _ {W _ 1}和\rho| _ {W _ 2}的直和。用矩阵表示的语言来说，矩阵表示R叫做A,B的直和A\oplus B。
酉表示
回顾线性代数，设复线性空间V上有内积\langle\cdot,\cdot\rangle，即一个正定的Hermite型（对第一个变量有共轭线性，对第二个变量有线性（也有的习惯是约定对第一个线性对第二个共轭线性），Hermite对称性（交换两个变量相当于取共轭）），这个V叫Hermite空间，也可以称作酉空间。一个线性变换T是酉变换，是说总有\langle Tv,Tw\rangle=\langle v,w\rangle，这当且仅当T在一组标准正交基下的矩阵A是酉矩阵，即A^\ast=A^{-1}。
配备了内积的V能给我们带来很多便利。有了一个内积，还可以从中得到一个性质更好的内积：在这内积下取标准正交基得到的矩阵表示是酉矩阵。矩阵表示变为G到酉群\mathrm{U} (n)上的同态。先引入酉表示的概念。
一个表示\rho:G\to\mathrm{GL}(V)叫酉表示(unitary representation)，如果满足\rho _ g对任意g\in G都是酉变换，即总有
\langle gv,gw\rangle=\langle v,w\rangle,\quad/\quad\langle\rho _ gv,\rho _ gw\rangle=\langle v,w\rangle,同样地矩阵表示R:G\to\mathrm {GL}(n,\mathbb C)是酉矩阵表示，意思就是R _ g总是酉矩阵。不难看出\rho是酉表示当且仅当在一组标准正交基下\rho的矩阵总是酉矩阵。
设一个表示\rho给定，内积\langle\cdot,\cdot\rangle称作是G-不变的，如果满足\rho在这内积下是酉表示。
定理：设V是一个复线性空间，\rho:G\to\mathrm {GL}(V)是V上的线性表示，那么存在一个V上的内积是G-不变的。
定理的证明需要用到一个”平均“技巧。在V上取一组基，仿照\mathbb C^n上的标准内积可以定义一个内积，也就是坐标x,y的向量内积为x^\ast y(=\bar x^\mathsf Ty)，记这内积为\{\cdot,\cdot\}。定义\langle\cdot,\cdot\rangle如下：
\langle v,w\rangle=\frac1{|G|}\sum _ {g\in G}\{gv,gw\}.可以看出这也是个内积，只需验证它是G-不变的。设h\in G，因为G=\{gh\mid g\in G\}，有
\langle hv,hw\rangle=\frac1{|G|}\sum _ {g\in G}\{ghv,ghw\}=\frac1{|G|}\sum _ {g'\in G}\{g'v,g'w\}=\langle v,w\rangle.这就证明了定理。有了这个内积，\rho是酉表示，酉表示的好处在于可以将表示分解。
命题：Hermite空间V上的酉表示\rho:G\to\mathrm{GL}(V)可以分解为不可约表示的直和。
如果\rho不可约，那么结论直接成立；否则，V有一个G-不变的真子空间W。由线性代数可知V=W\oplus W^\perp，由于\rho是酉表示，u\perp W\implies gu\perp gW=W，这表明若u\in W^\perp，那么gu\in W^\perp，W^\perp也是G-不变子空间。这就把V分解成不变子空间的直和，表示也分解成两个酉表示的直和。重复这一过程，最后分解成一些不可约表示的直和。
现在Maschke定理可以轻易看出了。
定理(Maschke)：任一有限群G的表示都是不可约表示的直和。
推论：设V是复线性空间，
- 设\rho:G\to\mathrm {GL}(V)，可取V的一组基使得\rho的矩阵表示是酉矩阵；
- 设R:G\to\mathrm{GL}(n,\mathbb C)，存在可逆P使得R _ g'=P^{-1}R _ gP总是酉矩阵（由基的变换可得）；
- 任一\mathrm {GL}(n,\mathbb C)的有限子群共轭于酉群U _ n的一个子群。
Schur引理
设T:V'\to V是一个线性映射，满足对任意v'\in V',\, v\in V有T(gv')=gT(v)，明确写出来，是T\circ\rho _ g'=\rho _ g\circ T。（如果T是双射，就是前面所说的同构表示）可以把T叫做是G-不变的。这个条件也就是T(v')=g^{-1}T(gv')，即\rho _ g^{-1}T\rho _ g=T。
矩阵情形也可以类似定义。矩阵是G-不变的条件是总有R^{-1} _ gMR _ g'=M。
引理：设T是G-不变的，那么T的核、像都是V的G-不变子空间。
考虑验证它们是G-不变的。设x\in\ker T，则T(x)=0，从而g^{-1}T(gx)=T(x)=0，T(gx)=0，即gx\in\ker T。另一方面设x=T(y)，那么gx=gT(y)=T(gy)，这表明gx\in \operatorname{im}T。
G-不变事实上是非常强的限制条件。现假设\rho,\rho'都是不可约表示，那么，由于\ker T是V'的G-不变子空间，\rho'不可约表明作为G-不变子空间它只能是零空间或V'。若是V'，则T=0；若是零空间，则T是单射，此时再考察像集\operatorname{im}T，它是V的G-不变子空间，\rho不可约表明它只能是零空间或V，T单射表明此时像集是V，从而T满射。故T双射，两个表示\rho,\rho'同构。这就是Schur引理的一个结论。
现在考虑V'=V，再令\rho'=\rho。把此时的T叫做是G-不变的线性算子。条件再写出来，T(gv)=gT(v)，具体为\rho _ g\circ T=T\circ\rho _ g。然后，取T的特征值\lambda，由于是在复数域考虑问题这总能做到。线性算子T'=T-\lambda I（这里I是恒等变换）也是G-不变的，它的核不是零空间，因为它包含T的特征向量。由前面的讨论，核只能是V，故T'=0，即T=\lambda I。
定理（Schur引理）：设\rho,\rho'分别是V,V'上的不可约表示，T:V'\to V是一个G-不变的线性映射。那么T是同构，或是T=0。此外，若V=V'及\rho=\rho'，那么T=cI。
正因G-不变是强限制，这样的线性映射很稀少，但通过平均过程，总可以得到G-不变的线性映射。
命题：设T:V'\to V是线性映射，令
\widetilde T(v')=\frac1{|G|}\sum _ {g\in G}g^{-1}T(gv'),\quad/\quad \widetilde T=\frac1{|G|}\sum _ {g\in G}\rho _ g^{-1}T\rho _ g',那么\widetilde T是G-不变的线性映射。类似地，考虑矩阵形式，令
\widetilde M=\frac1{|G|}\sum _ {g\in G}R _ g^{-1}MR _ g',那么\widetilde M是G-不变的矩阵。如果T（或M）本身就是G-不变的，那么\widetilde T=T（或\widetilde M=M）。
算子的线性性、本身是G-不变时平均后无变化，不难看出。只需验证平均后的G-不变性。设h\in G，要证\widetilde T=h^{-1}\widetilde Th，令g'=gh，g遍历G时g'也遍历G，有
h^{-1}\widetilde Th=\frac1{|G|}\sum _ {g\in G}h^{-1}g^{-1}Tgh=\frac1{|G|}\sum _ {g\in G}g'^{-1}Tg'=\widetilde T.矩阵形式的证明完全同理。
平均过程是可能得到\widetilde T=0的，尽管原来的T\neq0。由Schur引理，\rho,\rho'不可约且不同构时这种情况必然发生。这一事实会在后面的证明中会派上用场。
特征标
用一个矩阵表示群元素，而矩阵里又有诸多数字，而这些数字最有效的信息浓缩在一个数字上——矩阵的迹。
特征标
定义：设\rho是G的线性表示，其特征标(character)定义为一个G上的复值函数：\chi(g)=\mathrm{tr}(\rho _ g)。\mathrm{tr}(\rho _ g)表示的是\rho _ g的特征值之和，也可以理解为任取一组基下的矩阵的迹。对矩阵表示R，同样地定义\chi(g)=\mathrm{tr}(R _ g)。
V的维数是表示的维数，也被定义为特征标的维数。如果表示不可约，那么也称特征标不可约。
例：考虑前面的S _ 3的三个表示的特征标。每个特征标写作一行，得到下表。
\frac{\phantom{\chi_0111{}}\begin{array}{r}1&\phantom{-}x&\phantom{1}x^2&\phantom{1}y&\phantom{1}xy&x^2y\end{array}}{\begin{array}{rrrrrr}\chi _ 1 \mid1&1&1&1&1&1\\\chi _ 2\mid1&1&1&-1&-1&-1\\\chi _ 3\mid2&-1&-1&0&0&0\end{array}}下面是一些特征标的简单性质。
命题：设G有表示\rho，其特征标为\chi，则
- \chi(1)为\chi的维数（因为\rho(1)=I _ n）；
- 设g的阶为k，那么\rho _ g的特征值是k次单位根；从而\chi(g)是n个k次单位根的和；
- \chi(g^{-1})=\overline{\chi(g)}；
- \chi(hgh^{-1})=\chi(g)，G的共轭类上特征标取值相同；
- 对于直和表示\rho\oplus\rho'，特征标是\chi+\chi'；
- 同构的表示都有相同的特征标。
简单推导：设g^k=1，\lambda是\rho _ g特征值，那么\lambda^k是\rho^k _ g的特征值，即1，从而\lambda是k次单位根。特征值满足\overline\lambda=\lambda^{-1}，所以\chi(g^{-1})=\lambda _ 1^{-1}+\dots+\lambda _ n^{-1}=\overline\lambda _ 1+\dots+\overline\lambda _ n=\overline{\chi(g)}。\chi(hgh^{-1})=\chi(g)可由迹的性质\mathrm{tr}(AB)=\mathrm{tr}(BA)得到。剩余两条是显然的。
特殊的例子：1维的特征标是在一维空间的表示的特征标，一维表示的矩阵就是一个数，因此也就是特征标本身。此时\chi:G\to\mathbb C^\ast是同态，即\chi(gh)=\chi(g)\chi(h)。但维数大于1的特征标就不是同态了。
对两个特征标\chi,\chi'，将它们看作一种|G|维向量，定义一种”缩放版内积“
\langle\chi,\chi'\rangle=\frac1{|G|}\sum _ {g\in G}\overline{\chi(g)}\chi'(g).由于共轭类上特征标取值相同，可以把同个共轭类的项并在一起。设共轭类C _ 1,\dots,C _ r，阶分别为c _ 1,\dots,c _ r，每个类取g _ i，那么上式写为
\langle \chi,\chi'\rangle=\frac1{|G|}\sum _ {i=1}^rc _ i\overline{\chi(g _ i)}\chi'(g _ i).这种”内积“在后面用于刻画一种正交关系。
正则表示
在进一步讨论特征标之前，可以简单讨论一个表示的例子。
设群G作用在有限集S=(s _ 1,\dots,s _ n)上，g的作用相当于一个置换p，即gs _ i=s _ {pi}。考虑矩阵形式，令\boldsymbol e _ i=(0,\dots,1,\dots,0)^\mathsf T，那么以它们为列向量构成一个正交矩阵，设P _ g=\begin{pmatrix} e _ {p1}&\cdots& e _ {pn}\end{pmatrix}，称作置换矩阵，那么
P _ g e _ {i}= e _ {pi}.对比gs _ i=s _ {pi}，我们有一个映射g\mapsto P _ g，不难看出这是个同态。这样我们得到了一个G的矩阵表示，也叫置换表示。
上面已经隐含了序数1,\dots,n的使用，不用序来描述也是可以的。设V _ S是一个线性空间，有一组基是\{e _ s\} _ {s\in S}（在本节末将会严格讨论这个V _ S）。设G作用在S上，那么对应的置换表示\rho为
\rho _ g(e _ s)=e _ {gs}.给S中的元素一个序，那么V _ S有一个有序基(e _ s)，这组基下\rho _ g的矩阵即为上面的形式。
考察\rho的特征标，在给定S的一个序后，计算\mathrm{tr}(R _ g)。由于置换矩阵P _ g里非零即一，只需考虑是1的对角元。由P _ ge _ i=e _ {pi}，可知：一个对角元是1，即e _ i=e _ {pi}，亦即gs _ i=s _ i；反之对角元是0，表明gs _ i\neq s _ i。我们得到如下小结论。
引理：设有置换表示\rho，对任意g\in G，\chi(g)等于g作用下不变的S元素的个数。
我们可以把S划分为群作用的轨道的并，从而不难看出，置换表示\rho或R可以分解为直和。同时，考察V _ S中的向量\sum _ {s}e _ s，对应\mathbb C^n中的(1,\dots,1)^\mathsf T，这个向量是任意g\in G的作用的不动点。因此它张成的1维子空间是G-不变的，且在上面G的作用是平凡的。从而\rho可约，其中一个表示为平凡表示。如果再利用后文的主定理，可以知道写成不可约表示的直和时这个平凡表示是必出现的。
引理：设R是S上的群作用的置换表示。其特征标\chi可分解为不可约特征标的直和，必有其中一个是平凡表示的特征标\chi _ 1。
现在可以考虑正则表示了。群G的正则表示(regular representation)是指群G在自己上的左乘作用对应的置换表示，这是在\{e _ g\} _ {g\in G}构成一组基的线性空间V _ G上的表示。设\rho^{\mathrm{reg}}是G的正则表示，对h\in G，有\rho^{\mathrm{reg}} _ g(e _ h)=e _ {gh}。
正则表示的特征标\chi^{\mathrm{reg}}是简单的。V _ G的维数是|G|，故\chi^{\mathrm{reg}}(1)=|G|。若g\neq 1，则\chi(g)为g作用下保持不变的群元素个数，也就是0。这样
\chi^{\mathrm{reg}}(g)=\begin{cases}|G|,&g=1,\\0,&g\neq1.\end{cases}这个简单的特征标意味着可以快速计算\langle\chi^{\mathrm{reg}},\chi\rangle。由前面的定义，
\langle\chi^{\mathrm{reg}},\chi\rangle=\frac1{|G|}\sum _ {g\in G}\overline{\chi^{\mathrm{reg}}(g)}\chi(g)=\frac1{|G|}\overline{\chi^{\mathrm{reg}}(1)}\chi(1)=\chi(1)=\dim \chi.这一简洁的结论很快就在后面的一些证明派上用场。
类函数
如果一个G上的函数满足在每个共轭类里都只有一种取值，那么叫做类函数(class function)。特征标就是种类函数。设有r个共轭类，那么确定一个类函数就是确定r个数，即一个r维向量，因此类函数构成的复线性空间\mathcal H的维数等于r。
我们知道，正规子群是共轭类的并，利用类函数也可以帮助我们确定正规子群。
可以在\mathcal H上也像上面特征标一样定义一个内积，这样\mathcal H成为Hermite空间。
对于类函数，后面可以证明特征标足以刻画：有r个特征标构成\mathcal H的一组标准正交基。
补充：前面提到的线性空间V _ S有一组以S元素作为标号的基\{e _ s\} _ {\in S}，下面构造一个这样的函数空间，在S是无限集时也适用。（可选择跳过阅读）
对任意的集合S，它的元素的形式线性组合(formal linear combination)是指一个函数f:S\to\mathbb C，要求f只能在有限多个s\in S上不取零。叫这个名字是因为后面可以看到这种函数在形式上都被S的元素线性表示了。所有这种函数组成的空间V _ S叫做S上的自由线性空间(free vector space)。显然V _ S关于逐点相加和数乘成为线性空间。
对任一x\in S，其特征函数\delta _ x\in V _ S，这里\delta _ x指的是在x上取1在非x上取0的函数。我们将\delta _ x与x视同一物，这样S就是V _ S的一个子集。任取f\in V _ S，它可被唯一写成f=\sum' a _ ix _ i的形式，其中\sum'表示对f(x _ i)\neq0的i求和；显然a _ i=f(x _ i)。这样，S成为了V _ S的一组基。
主定理
下面叙述主定理，简明起见分成三个来叙述。这个定理漂亮地刻画出群表示、特征标的结构。
定理(1)：设G是有限群，则不可约的特征标成立一些”正交关系“：设\chi是不可约表示\rho的特征标，那么\langle\chi,\chi\rangle=1；设\chi,\chi'是两个不同构的不可约表示\rho,\rho'的特征标，那么\langle\chi,\chi'\rangle=0。
定理(2)：有限群G的不可约表示只有有限多种同构类，同构类数目等于群共轭类数目。
定理(3)：设\rho _ 1,\dots,\rho _ r分别取自有限群G的所有不可约表示的同构类，特征标分别为\chi _ 1,\dots,\chi _ r，维数分别为d _ 1,\dots,d _ r，那么，d _ i\operatorname{\big|}|G|，且|G|=d _ 1^2+\dots+d _ r^2。
利用主定理，我们可以分解任意的特征标为不可约特征标的组合，表示也有这样的分解。
推论：上述记号下，设\rho为G的任一表示，特征标为\chi，令n _ i=\langle \chi,\chi _ i\rangle，那么，
- \chi=n _ 1\chi _ 1+\dots+n _ r\chi _ r；
- \rho\cong n _ 1\rho _ 1\oplus\dots\oplus n _ r\rho _ r；
- 两个表示\rho,\rho'同构当且仅当对应的特征标\chi,\chi'相等。
推论：
- \langle\chi,\chi\rangle=n _ 1^2+\dots+n _ r^2；\langle\chi,\chi\rangle=1当且仅当\chi不可约；
- 对任意两个特征标，有：\langle\chi,\chi'\rangle是整数。
先证定理(1)。采用矩阵表示。设F是复矩阵空间\mathbb C^{m\times n}上的线性算子，F(M)=AMB，其中A,B分别是m,n阶矩阵。那么可以证明：\mathrm{tr}(F)=\mathrm{tr}(A)\mathrm{tr}(B)。要看出这点，将前面等式两边”拉直“为向量，得到\operatorname{Vec}(F(M))=\operatorname{Vec}(AMB)=(B^\mathsf T\otimes A)\operatorname{Vec}(M)。其中\otimes表示矩阵的Kronecker积，定义为分块矩阵
P\otimes Q=\begin{bmatrix}p _ {11}Q&\cdots&p _ {1n}Q\\\vdots&&\vdots\\p _ {m1}Q&\cdots&p _ {mn}Q\end{bmatrix}.等式\operatorname{Vec}(AMB)=(B^\mathsf T\otimes A)\operatorname{Vec}(M)可以直截了当地验证。有了这个结论，就可以求出
\mathrm{tr}(F)=\mathrm{tr}(B^\mathsf T\otimes A)=\sum _ {i=1}^n\mathrm{tr}(b _ {ii}A)=\Big(\sum _ {i=1}^nb _ {ii}\Big)\mathrm{tr}(A)=\mathrm{tr}(A)\mathrm{tr}(B).现在设\rho',\rho分别是m,n维表示，任取基得到矩阵表示R',R，定义\mathbb C^{m\times n}上的线性算子
\Phi(M)=\frac1{|G|}\sum _ {g\in G}R _ g^{-1}MR _ g'.在讨论Schur引理时曾证明过\Phi(M)是G-不变的矩阵，且M本身是G-不变时\Phi(M)=M，故像集\Phi(\mathbb C^{m\times n})是G-不变的矩阵所构成的空间，记为\widetilde {\mathcal M}。
计算\Phi的迹，
\mathrm{tr}(\Phi)=\frac1{|G|}\sum _ {g\in G}\mathrm{tr}(R _ g^{-1})\mathrm{tr}(R _ g')=\frac1{|G|}\sum _ {g\in G}\chi(g^{-1})\chi'(g)=\frac1{|G|}\sum _ {g\in G}\overline{\chi(g)}\chi'(g)=\langle\chi,\chi'\rangle.另一方面，设\Phi的核\mathcal N、像\widetilde{\mathcal M}的交集里有一个M，M在像集说明M是G-不变的矩阵，\Phi(M)=M；M在核说明\Phi(M)=0。所以，M=0，即\widetilde{\mathcal M}\cap\mathcal N=\{0\}，由线性代数，\mathbb C^{m\times n}=\widetilde {\mathcal M}\oplus\mathcal N。在\widetilde{\mathcal M}取一组基然后扩充为\mathbb C^{m\times n}的一组基，在这组基下\Phi的矩阵为
\begin{bmatrix}I&\\&0\end{bmatrix}.这表明\mathrm{tr}(\Phi)=\dim\widetilde{\mathcal M}。现在，可知\langle\chi,\chi'\rangle=\dim\widetilde{\mathcal M}。
如果\rho,\rho'是不同构的两个不可约表示，那么由Schur引理，G-不变的线性映射只有0，即G-不变的矩阵只有零矩阵，\widetilde{\mathcal M}=\{0\}，故\langle\chi,\chi'\rangle=0。而如果\rho=\rho'，又由Schur引理，G-不变的矩阵是cI的形式，这表明\widetilde{\mathcal M}是一维的，故\langle\chi,\chi\rangle=1。
接着证定理(2)，要确定同构类表示的数量。采用线性表示。先证明如下引理。
引理：和每个特征标正交的类函数只有零函数。
设\varphi是这样一个类函数。先证：对任意G的表示\rho，T=\frac1{|G|}\sum _ g\overline{\varphi(g)}\rho _ g是零函数。由于一个表示是不可约表示的直和，不妨设\rho不可约。可以证明T是G-不变的线性算子，即任意h\in G有T=\rho _ h^{-1}T\rho _ h。当g遍历G时，其共轭h^{-1}gh也遍历G，而\varphi是类函数表明\varphi(g)=\varphi(h^{-1}gh)，因此，
\rho _ h^{-1}T\rho _ h=\frac1{|G|}\sum _ {g\in G}\overline{\varphi(g)}\rho _ {h^{-1}}\rho _ g\rho _ h=\frac1{|G|}\sum _ {g\in G}\overline{\varphi(h^{-1}gh)}\rho _ {h^{-1}gh}=\frac1{|G|}\sum _ {g'\in G}\overline{\varphi(g')}\rho _ {g'}=T.由Schur引理，T是G-不变的表明T=cI。设\chi是\rho的特征标，那么\mathrm{tr}(T)=\frac1{|G|}\sum _ g\overline{\varphi(g)}\chi(g)=\langle\varphi,\chi\rangle。由假设，\mathrm{tr}(T)=0。于是c=0，即T是零函数。
再考虑G的正则表示\rho^{\mathrm{reg}}，因为对h\in G，有\rho^{\mathrm{reg}} _ g(e _ h)=e _ {gh}，所以\rho _ g^{\mathrm{reg}}(e _ 1)=e _ g。因为\{e _ g\} _ {g\in G}是V _ G的一组基，它们线性无关，故\{\rho^{\mathrm{reg}} _ g\} _ {g\in G}也必是线性无关的线性算子。
回到和所有特征标正交的类函数\varphi。在T=\frac1{|G|}\sum _ g\overline{\varphi(g)}\rho _ g中，取表示为正则表示，那么\sum _ g\overline{\varphi(g)}\rho^{\mathrm{reg}} _ g=0。由\{\rho^{\mathrm{reg}} _ g\} _ {g\in G}的线性独立性，全部系数\overline{\varphi(g)}=0，故\varphi=0。这就证明了引理。
回到定理(2)，设\mathcal H是类函数构成的复线性空间，维数等于群的共轭类的数量。由上述引理，所有特征标张成的空间对\mathcal H的正交补是零空间，于是这个空间就是\mathcal H。于是，定理(1)表明\mathcal H的一组标准正交基由所有互不同构的一组特征标给出，基所含数量为\mathcal H的维数，即群的共轭类的数量。
利用定理(1)(2)，推论不难推出。任意一个表示\rho可分解为r个互不同构的不可约表示的直和：\rho\cong m _ 1\rho _ 1\oplus\dots\oplus m _ r\rho _ r，其中r为群的共轭类数量，m _ i\in\mathbb N。特征标\chi也有这样的分解\chi=m _ 1\chi _ 1+\dots+m _ r\chi _ r。
由于\chi _ 1,\dots,\chi _ r是Hermite空间\mathcal H（类函数的空间）上的标准正交基，(m _ 1,\dots,m _ r)相当于\chi的”坐标“，因此m _ i由内积\langle\chi,\chi _ i\rangle给出。要具体证明这点，首先注意到(m _ 1,\dots,m _ r)有唯一性，只需验证m _ i=n _ i=\langle\chi,\chi _ i\rangle满足条件。一方面这组n _ i确实是非负整数，另一方面，对i=1,\dots,r，都有
\langle\chi _ i,\chi-n _ 1\chi _ 1-\dots-n _ r\chi _ r\rangle=\langle\chi _ i,\chi\rangle-\langle\chi _ i,\chi _ i\rangle n _ i=0,和标准正交基都正交，故\chi-n _ 1\chi _ 1-\dots-n _ r\chi _ r=0。这就证明了
\begin{gathered}\chi=n _ 1\chi _ 1+\dots+n _ r\chi _ r,\\\rho= n _ 1\rho _ 1\oplus\dots\oplus n _ r\rho _ r,\end{gathered}其中n _ i=\langle\chi,\chi _ i\rangle。剩余的推论就简单了。
最后是定理(3)。这里将不会证明整除关系d _ i\operatorname{\big|}|G|，只证明|G|=d _ 1^2+\dots+d _ r^2，其中d _ i=\dim \chi _ i。可以证明，对正则表示\rho^{\mathrm{reg}}，有
\begin{gathered}\chi^{\mathrm{reg}}=d _ 1\chi _ 1+\dots+d _ r\chi _ r,\\\rho^{\mathrm{reg}}= d _ 1\rho _ 1\oplus\dots\oplus d _ r\rho _ r.\end{gathered}这是因为\langle\chi^{\mathrm{reg}},\chi\rangle=\dim\chi=d _ i，代入前面的分解立得。
对于正则表示，已经知道了\dim\chi^{\mathrm{reg}}=\chi^{\mathrm{reg}}(1)=|G|，因此
|G|=d _ 1\dim\chi _ 1+\dots+d _ r\dim\chi _ r=d _ 1^2+\dots+d _ r^2.
发表回复