Multiplicity one theorem on branching laws and geometry of complex manifolds ^{∗}

京都大学・数理解析研究所 小林俊行 (Toshiyuki Kobayashi)

Research Institute for Mathematical Sciences, Kyoto University

群 H の表現 (π, V) が代数的な意味で既約表現の直和に分解されているとする．このとき，各既約成分の重複度が高々1 ならば，その表現は重複度 1(multiplicity-free) に分解されるという．

我々の取り組む問題は，次のようなものである．

Question 0.1. 表現が重複度 1 に分解する幾何的な条件を見出せ．

無限次元表現で既約分解が連続スペクトルを持つような場合にも重複度 1 の概念を拡張することができる．そのためには Schur の補題を逆手に取れば良い．すなわち，連続な H-絡作用素全体のなす環 End_{H}(V) が可換のとき，ユニタリ表現 (π, V) を重複度 1 と定義するのである．（両者の定義は， V が有限次元表現のとき，明らかに一致する．）

なお，ユニタリ表現 (π, V) が I 型（たとえば， H が簡約 Lie 群や冪零 Lie 群ならば，その表現はいつでも I 型である）の場合は，直積分を用いて一意的に既約分解

π ≃ ∫ ⊕ ; Ĥ n_{π}(τ)τ dμ(τ)

をすることができる．ここで μ は H のユニタリ双対 Ĥ （H の既約ユニタリ表現の同値類の全体）上の測度， n_{π} : Ĥ → ℕ ∪ {∞} は（測度 μ に関して殆ど至るところ定義された）重複度関数である．このとき，

End_{H}(V) が可換⟺ n_{π}(τ) ≤ 1 (a.e. τ ∈ Ĥ)

が成立する．

この論稿は，連続スペクトラムが現れる場合も含めた上記のような設定で「重複度１」のための条件を考察する．

∗RIMS 研究集会「Lie Theory のひろがりと新たな進展」 (研究代表者: 有木進) 2003 年 7 月 22 日〜25 日,

記: 有川英寿（京都大学数理解析研究所）

Toshiyuki Kobayashi

1 重複度 1 の既約分解の具体例

この節ではウォーミングアップとして種々の重複度 1 の表現の例を列挙する．これらの多くは既知であるが，それに対する既存の証明方法は統一的なものではなかった．次の節ではこれらの例のすべてに適用できる１つの幾何的原理を説明する．

1.1 テンソル積表現

(1) SL_{2}(ℂ) の k 次対称表現を (π_{k}, S^{k}(ℂ^{2})) とする (k = 0, 1, 2, …)．これ

は (k + 1) 次元の既約表現であり，そのテンソル積表現 π_{k} ⊗ π_{l} は

π_{k} ⊗ π_{l} = π_{k+l} ⊕ π_{k+l−2} ⊕ ⋯ ⊕ π_{|k−l|}

と分解する． (Clebsch-Gordan の公式)

(2) 同様に U(n) の k 次対称表現を (π_{k}, S^{k}(ℂ^{n})) とする． U(n) の任意の既約表現 π に対して，テンソル積 π ⊗ π_{k} は重複度 1 に分解する． (具体的な既約分解は Pieri の公式として知られている．

(3) しかし，一般には， U(n) の 2 つの既約表現 π と π′ を任意に与えたとき， π ⊗ π′ は重複度 1 で分解するとは限らない． (Stembridge によってテンソル積 π ⊗ π′ が重複度 1 で分解するような既約有限次元表現の組 (π, π′) は最近，分類された [11]．ただし，論文 [11] の手法は組合せ論的である．どのような幾何が背後にあるのかについては小林 [7] で１つの解答が与えられた． )

1.2 Plancherel formula

Multiplicity one theorem and complex geometry

(1) (G_{U}, K) = (U(n), O(n)) とする． G_{U}/K はコンパクト Riemann 対称空間であり，その上に G_{U}-不変測度が存在するから， L^{2}(G_{U}/K) には G のユニタリ表現が自然に定義される．このとき， L^{2}(G_{U}/K) は（G のユニタリ表現として）重複度 1 で分解し，しかも離散スペクトルしか現れない．（既約分解の公式は Cartan-Helgason の定理として知られている [12]．） (2) (G, K) = (GL(n, ℝ), O(n)) とする．

G/K は非コンパクト Riemann 対称空間であり， (1) と同様に， G-不変測度が存在するから， L^{2}(G/K) には G のユニタリ表現が自然に定義される．このとき， L^{2}(G/K)は（Gのユニタリ表現として）重複度 1 で分解し，しかも連続スペクトルしか現れない (たとえば [2] 参照)．

(3) (G, H) = (GL(n, ℝ), O(p, n − p)) p ≠ 0, n とする． G/H には正定値とは限らないG-不変計量（擬リーマン計量）が入り，それに関して半単純対称空間になる． G/H にはやはり G-不変な測度が存在するからL^{2}(G/H)にはGのユニタリ表現が自然に定義される．このとき， L^{2}(G/H) は（G のユニタリ表現として）重複度 1 で分解しない．実際，その連続スペクトルに現れる重複度は\frac{n!}{p!(n − p)!} > 1 である [1, 9]．

(4) 上の (1) または (2) において， τ を K の既約表現とする．このとき， G-equivariant なベクトル束 G×_{K} τ → G/K を定めることができ，その L^{2}-切断のなす Hilbert 空間 L^{2}(G ×_{K} τ) 上に G のユニタリ表現を定義することができる．このとき， L^{2}(G ×_{K} τ) は（G のユニタリ表現として）重複度 1 とは限らないが， τ ≃ ⋀^{k}(ℂ^{n}) (0 ≤ k ≤ n) の場合は，重複度 1 で分解する ([8])．

Remark 1.1. 上の (1),(2),(3) の G_{U}/K, G/K, G/H は全て同じ複素化を持ち，さらにその上の不変微分作用素環は可換（実は多項式環）になる．このように，この 3 つの空間は似通った構造を持つにも関わらず，その表現の構造が微妙に異なるのである．

1.3 Dual pair, multiplicity-free space

Lie 群 G の線型表現 X を考えるとその上の regular function （あるいは多項式）全体の空間 O[X]) に G は代数的に作用する．

(1) G = GL(p, ℂ)×GL(q, ℂ), X = M(p, q; ℂ) (= p 行 q 列の複素行列全体) とすると， O[X]) は重複度 1 で分解する．（この分解公式は U(p, q) のスカラー型正則離散系列表現の K-type 公式と実質は同等である (Hua, Kostant, Schmid[10])．また同じ公式を Howe の dual pair の立場から解釈することもできる [3]．）

(2) G = GL(p, ℂ) × GL(q, ℂ), X = M(p, q; ℂ) ⊕ ℂ^{q} = M(p + 1, q, ℂ) とすると， O(X) は重複度 1 で分解する（直前の (1) で述べた重複度 1 の結果よりも強い主張になっている）． (Kac [4])．

(3) 上記の例で G が X に非線型に（Möbius 変換）作用する場合も，重複度は 1 になりその分岐則（非コンパクト部分群に関する分岐則となる）も計算されている（小林 [5]）．

2 重複度 1 の分解の幾何的な原理

前節の種々の例に対し重複度が 1 であるという事実に対し，それぞれの場合にいろいろな証明方法が知られている．（岩堀-Hecke 環が可換であることを示すために反自己同型を用いる Gelfand の方法， Borel 部分群が開軌道を持つことを確かめる方法， dual pair に注目する Howe の方法，個別に組合せ論の方法で既約分解を実行し各既約成分が高々1 で現れることを確かめる方法 ⋯ ）

この節の目標は，前節で述べた重複度 1 の全ての例を包括し，そしてそれ以外の重複度 1 表現の例をも作り出す，単純でしかも幾何的な原理を露わにすることである．

Setting 1

K, H を Lie 群とする．

V → D を連結複素多様体 D 上の H-同変な正則ベクトル束とし，それは以下のように構成されるとする．

(1) P → D を主 K 束で H-同変とする．

(2) μ : K → GL_{ℂ}(V) を K の有限次元ユニタリ表現とする．

(3) V := P ×_{K} V と定める．

とくに， P には H が左から作用し K は右から自由に作用し（両者の作用は互いに可換）， D ≃ P/K が成り立つことに注意する．

O(D, V) を V → D の正則切断全体とする．これは， Fréchet 空間になり，その上に Lie 群 H の表現が自然に定義される．

Setting 2 次の二つの条件を満たす， P の微分同相と K, H の Lie 群の自己同型が

存在するとする．（P, K, H それぞれに微分同相や自己同型を考えるが，記号の節約をして同じ σ を用いることにする．実際には３つの同型写像は１つの同型写像から誘導され定まることが多い．）

(1) σ(hpk) = σ(h)σ(p)σ(k) が任意の h ∈ H, p ∈ P, k ∈ K で成立する．

(2) (1) の条件より σ は D ≃ P/K の微分同相写像を定めるが，その写像が反正則 (anti-holomorphic) である．

部分集合 B ⊂ P^{σ} に対して，

M ≡ M(B) := {k ∈ K|∀b ∈ B∃h ∈ H hb = bk}

とおくと M は K の σ-stable 部分群である．

Theorem 2.1. 次の 3 条件を満たす σ と B が存在すると仮定する． ; (1) HBK ⊂ P は P の開集合を含む． ; (2) μ|_{M} は（M の表現として）重複度 1 に分解する． ; この既約分解を μ|_{M} = ⨁_{i} ν^{(i)} とかく． ; (3) K の表現として同型 μ ∘ σ ≃ μ^{∗} が成立する． ; M の表現として同型 ν^{(i)} ∘ σ ≃ (ν^{(i)})^{∗} (∀i) が成立する ; このとき， O(D, V) に実現される任意の H のユニタリ表現 H は重複度 ; 1 に分解する．

定理に用いられた定義を確認しておこう． μ^{∗} は μ の反傾表現であり， H のユニタリ表現 H が重複度 1 で分解するとは H の H-絡作用素のなす環 End_{H}(V) が可換環であることであり， H が O(D, V) に実現されるとは単射の H-絡作用素 H ↪ O(D, V) が存在することと定義する．

上記の定理の仮定についてコメントを列挙する． Remark 2.2. 表現の重複度 1 という条件は，対応する幾何（この場合は正則ベクトル束 V → D）が変換群（この場合は H）に比較して「小さい」という条件に対応するはずである．定理の仮定 (1)， (2) はそれぞれ底空間 D ≃ P/K，ファイバー V_{x} ≃ V がそれぞれ「小さい」ということを表していると解釈できる． Remark 2.3. B が 1 点であれば H ↷ D が開軌道を持つ条件となる．しかし，ここではもっと一般に D には H の開軌道が存在しない場合を主に想定している． B を最小にとれば H 軌道に横断的 (transversal) な集合とみなせる．なお， B が小さければ小さいほど M ≡ M(B) が大きくなり，したがってファイバーの仮定 (2) は成り立ちやすくなる． Remark 2.4. 仮定 (3) は，具体的な例では，自動的に成り立つことが多い． Remark 2.5. dim μ = 1 の場合は仮定 (2) が自動的に成り立つ．この場合は [5, 6] で扱った．

この節の最後に，前述の定理の別の見方を書き留めておく： Remark 2.6. 上記の定理は重複度 1 という性質が\underline{小さな群の小さな表現} が\underline{大きな群の大きな表現}に伝播するための幾何的な十分条件を与えたと解釈することができる．

3 具体例

前節の定理をどのように用いるかを，最も簡単な例を用い

軌道の幾何

⇕

群の構造

⇓

表現論（重複度 1 定理）

という流れで説明しよう．まず，次の明らかな幾何的な性質に注目する．

{\underline{幾何} S^{1} を ℂ に回転で自然に作用させるとき，任意の S^{1} 軌道は実軸 \atop ℝ と交わる．}

同様に， n 次元トーラス (S^{1})^{n} を ℙ^{n−1}ℂ に自然に作用させるとき

\underline{幾何} ℙ^{n−1}ℝ において，任意の (S^{1})^{n} 軌道は ℙ^{n−1}ℝ と交わる．

この幾何の事実と次の群の分解公式は同値である．

\underline{群} G = T G^{σ}L

ここで，

(G, T, G^{σ}, L) = (U(n), (S^{1})^{n}, O(n), U(1) × U(n − 1))

とおいた．また σ の G への作用は σg = ḡ （複素共役）で定義する．

両者が同値である理由は G/L ≃ ℙ^{n−1}ℂ, G^{σ}/L^{σ} ≃ ℙ^{n−1}ℝ が成り立つからである．

この分解公式を前節の定理に適用する．そうすると，表現の重複度 1 定理が同時に 3 つ得られる． \underline{表現論}

(1) (Weight multiplicity free) k 次対称テンソル表現 S^{k}(ℂ^{n}) は (S^{1})^{n} の表現として重複度 1 である． (k は任意の非負整数)

(2) (U(n) ↓ U(n − 1))

U(n) の任意の既約表現 π に対して π|_{U(n−1)} は重複度 1 である．

(3) (⊗-product)

U(n) の任意の既約表現 π に対して π ⊗ S^{k}(ℂ^{n}) は重複度 1 である． (k は任意の非負整数)

証明のスケッチ. μ を K の自明表現として (P, H, B, K) を次のようにおいて定理を適用すれば良い．

(1) (G, T, G^{σ}, L)

(2) (G, L, G^{σ}, T)

(3) (G × G, diag G, G^{σ} × G^{σ}, T × L)

ここで鍵になるのは，定理の仮定 (1) が群論的には明らかな同値関係

G = T G^{σ}L ⟺ G = LG^{σ}T ⟺ G × G = diag(G)(G^{σ} × G^{σ})(T × L)

によって満たされることである．

Remark 3.1. 上記の三種類の表現の重複度 1 定理（上記の例は簡単な設定なので，他の方法を用いても 1 つ 1 つを個別に証明するならば易しい）が 1 つの幾何的結果からすべて同時に説明できる (Triunity) と言うのが Theorem 2.1 を用いる手法の特徴的な側面である．さらに複雑な幾何から非自明な表現論の結果を得ることもできる ([7])．

参考文献

[1] E. P. van den Ban and H. Schlichtkrull, The most continuous part of the Plancherel decomposition for a reductive symmetric space, Ann. of Math. (2), 145 (1997), 267–364.

[2] S. Helgason, Groups and Geometric Analysis, Mathematical Surveys and Monographs, 83, American Mathematical Society, Providence, RI, 2000.

[3] R. Howe, Perspectives on invariant theory: Schur duality, multiplicity-free actions and beyond, The Schur lectures 1992, Israel Math. Conf. Proc., 8, (1995), 1–182.

[4] V. Kac, Some remarks on nilpotent orbits, J. Algebra, 64 (1980), 190–213.

[5] T. Kobayashi, Multiplicity-free restrictions of unitary highest weight modules for reductive symmetric pairs, UTMS 2000-1.

[6] T. Kobayashi, Multiplicity-free theorem in branching problems of unitary highest weight modules, Proceedings of the Symposium on Representation Theory held at Saga, Kyushu 1997 (ed. K. Mimachi) (1997), 9–17.

[7] T. Kobayashi, Geometry of multiplicity-free representations of GL(n), visible actions on flag varieties, and triunity, submitted.

[8] T. Kobayashi, in preparation.

[9] T. Oshima, Harmonic analysis on semisimple symmetric spaces, Sūgaku, 37 (1985), 97–112.

[10] W. Schmid, Die Randwerte holomorpher Funktionen auf Hermitesch symmetrischen Räumen, Invent. Math., 9 (1969/1970), 61–80.

[11] J. R. Stembridge, Multiplicity-free products of Schur functions, Ann. Comb., 5 (2001), 113–121.

[12] G. Warner, Harmonic analysis on semi-simple Lie groups. I, II , Springer-Verlag, New York, 1972.