有限群の既約表現の指標の直交関係式
約束
$G$:有限群
$L$, $M $:有限次元$\mathbb{C}[G]$-加群
定義
- $c(h^{-1}gh)=c(g)$を満たす写像$c\colon G\rightarrow\mathbb{C}$を類関数といい，$G$上の類関数全体の集合を$C(G)$で表す．
- 類関数$\operatorname{ch}(M)\in C(G)$を$\operatorname{ch}(M)(g)=\text{($g$の$M $への作用のtrace)}$で定義する．これを$M $の指標という．
定義命題1
$L$から$M $への線形写像のなす空間$\operatorname{Hom}(L,M)$に$G$-作用を
\begin{align}
(gf)(v)=gf(g^{-1}v)
\end{align}
で定義すると，これは作用になっていて
$$\operatorname{ch}(\operatorname{Hom}(L,M))=\overline{\operatorname{ch}(L)}\operatorname{ch}(M)$$
が成り立つ．さらに任意の$\mathbb{C}[G]$-加群$V$に対して，$V$の固定化部分群を$V^G$と書くとき，$$\operatorname{Hom}(L,M)^G=\operatorname{Hom}_{\mathbb{C}[G]}(L,M)$$が成り立つ．
証明
- 作用になっていること
$g,h\in G$, $f\in\operatorname{Hom}(L,M)$, $v\in L$に対して
\begin{align}
(h(gf))(v)=h(gf)(h^{-1}v)=hgf(g^{-1}h^{-1}v)=((hg)f)(v)
\end{align}
が成り立つ．
- 指標の式
$L$の$G$-不変な内積を一つ取って固定し，$L$の正規直交基底$\{v_i\mid i=1,\ldots,l\}$をとる．その双対基底は$\{v^*_i=\langle v_i,-\rangle\mid i=1,\ldots,l\}$である．また$M $の基底$\{u_j\mid j=1,\ldots,m\}$も取る．
$\{v^*_i\otimes u_j\mid 1\leq i\leq l,1\leq j\leq m\}\subset\operatorname{Hom}(L,M)$は基底をなしていて，この基底に関して$g\in G$の作用を行列表示することを考える．
\begin{align}
(g\cdot(v^*_i\otimes u_j))(v)&=\langle v_i,g^{-1}v\rangle gu_j\\
&=\langle g v_i,v\rangle gu_j
\end{align}
$gv_i=\sum_sa_{s,i}v_k$, $gu_j=\sum_tb_{t,j}u_t$と書けば
\begin{align}
\text{(続き)}&=\langle\sum_sa_{s,i}v_s,v\rangle\sum_tb_{t,j}u_t\\
&=\sum_{s,t}\overline{a_{s,i}}b_{t,j}\langle v_s,v\rangle u_t
\end{align}
よって$g\cdot(v^*_i\otimes u_j)$の$v^*_i\otimes u_j$成分は$\overline{a_{i,i}}b_{j,j}$である．$i$, $j$に関して和を取ることで，
$$\operatorname{ch}(\operatorname{Hom}(L,M))(g)=\overline{\operatorname{ch}(L)(g)}\operatorname{ch}(M)(g)$$
を得る．
- 最後の式
線形写像$f\colon L\rightarrow M $に対して，$f$が$G$-作用で不変とすると，任意の$g\in G$, $v\in L$に対して$gf(g^{-1}v)=f(v)$が成り立つので，
\begin{align}
f(gv)=gg^{-1}f(gv)=gf(v)
\end{align}
となる．一方$f$が$\mathbb{C}[G]$-加群の射であれば，逆に辿って$f$が$G$-作用で不変であることが分かる．$\square$
命題2
以下$L$, $M $は単純加群とする．このとき
$$\dim\operatorname{Hom}_{\mathbb{C}[G]}(L,M)=
\begin{cases}
1 & \text{($L\cong M $)}\\
0 & \text{(otherwise)}
\end{cases}$$が成り立つ(Schurの補題)．
加えて線形空間$\operatorname{Map}(G,\mathbb{C})$の元$a,b$に対して$$\langle a, b\rangle:=\sum_{g\in G}\overline{a(g)}b(g)$$と定義すると
$$
\langle\operatorname{ch}(L),\operatorname{ch}(M)\rangle=
\begin{cases}
1 & \text{($L\cong M $)}\\
0 & \text{(otherwise)}
\end{cases}
$$
が成り立つ．
証明
- 前半
$\operatorname{Hom}_{\mathbb{C}[G]}(L,M)\neq0$とすると，non-zeroな射$f\colon L\rightarrow M $が取れる．$L$, $M $が単純より$\ker f=0$かつ$\operatorname{im} f=M $となって$L\cong M $が言える．
任意の$f\colon L\rightarrow L$を取ると，少なくとも一つの固有値$\lambda$が存在する．$f-\lambda$の核は$0$ではないので，自動的に$L$に一致する．よって$f=\lambda$である．
- 後半
\begin{align}
\langle\operatorname{ch}(L),\operatorname{ch}(M)\rangle
&=\frac{1}{|G|}\sum_{g\in G}\overline{\operatorname{ch}(L)(g)}\operatorname{ch}(M)(g)\\
&=\frac{1}{|G|}\sum_{g\in G}\operatorname{ch}(\operatorname{Hom}(L,M))(g)
\end{align}
一方で
\begin{align}
\dim\operatorname{Hom}_{\mathbb{C}[G]}(L,M)=\dim\operatorname{Hom}(L,M)^G
\end{align}
であるから，次の命題より従う．$\square$
命題3
$V$を有限次元$\mathbb{C}[G]$-加群とするとき，$$\dim V^G=\frac{1}{|G|}\sum_{g\in G}\operatorname{ch}(V)(g)$$が成り立つ．
証明
線形写像$p\colon V\rightarrow V$を$p(v)=\frac{1}{|G|}\sum_{g\in G}gv$で定義する．$\operatorname{im}p\subset V^G$が成り立つ．さらに任意の$w\in V^G$に対しては$p(w)=w$が成り立つので，$\operatorname{im}p=V^G$と$p^2=p$が成り立つ．よって$p$は$V$から$V^G$への射影であり，そのトレースを考えれば
$$\dim V^G=\frac{1}{|G|}\sum_{g\in G}\operatorname{ch}(V)(g)$$
が成り立つ．$\square$
