簡約型等質多様体上の調和解析とユニタリ表現論

小林俊行 (東京大学数理科学研究科)

リー群が推移的に作用している多様体を等質多様体という. 等質多様体上の大域解析は, 表現論, 微分幾何, D-加群, 函数解析, 代数幾何, 保型形式, 組み合わせ論, 積分幾何 , … など数学のさまざまな分野が交錯する場である. リー群自身も等質多様体の例であるが, その最も簡単な場合であるトーラス群 S^{1} や実数の加法群 R の場合をまず思い起こそう. 古典的な調和解析であるフーリエ級数やフーリエ変換は S^{1} や R 上での L^{2}-関数を e^{ixλ} の形で展開することと言える. ところで, x ↦ e^{ixλ} は可換なリー群である S^{1} や R の (一次元の) 既約ユニタリ表現であり, 従って, フーリエ級数やフーリエ変換は L^{2}(S^{1}) や L^{2}(R) を S^{1} や R の既約ユニタリ表現に分解することと考えられる. この洞察を最初に与えた Weyl 自身は, コンパクト群上の L^{2}-関数を既約ユニタリ表現で展開する公式である Peter-Weyl の定理を得た (1927). その受け皿となるコンパクトなリー群の既約ユニタリ表現 (有限次元) の分類は Cartan-Weyl の最高ウェイト表現の理論として良く知られている. 以降, ユニタリ表現論は等質多様体上の調和解析と相互に不可分な関係を保ちながらさまざまな形で発展してきた. さて, コンパクトなリー群と複素化が同じになるようなリー群を実簡約リー群という. 例えば, S^{1} と R あるいは SU(n) と SL(n, R) などはそれぞれ同型な複素化を持つので実簡約リー群である. 本稿では, リー群やその部分群はすべて実簡約リー群であるという仮定をおいて, 相互関係

(イ) 簡約型等質多様体 G/H の調和解析 ⟺ (ロ) 実簡約リー群 G のユニタリ表現の最近の進展について, 筆者なりの視点から, 解説を試みた. (イ) の基本目標の一つは L^{2}(G/H) を G の既約ユニタリ表現 (一般に無限次元) で展開する公式を明確に与える事であり, 特に離散スペクトラムに相当する G/H の離散系列表現 Disc(G/H) の決定が重要である. 一方 (ロ) の基本目標の一つは G の既約ユニタリ表現の同値類 Ĝ の決定である. ここで, Disc(G/H) は H に依存する Ĝ の部分集合である (空集合となることもある). その意味で, (ロ) を一般的に理解することは, 個別の部分群 H に対して (イ) を理解するための受け皿という役割も果たすことになる. 逆に, 特別な部分群 H に対して (イ) の Disc(G/H) の元を構成することにより, G の新しい既約ユニタリ表現が発見さ

Typeset by AMS-TEX

2 小林俊行 (東京大学数理科学研究科) れるという形で (ロ) の研究に寄与したことも, 歴史的には, しばしばあった (例 (4.4)). 現在, G の既約表現 (正確には既約 (𝔤, K)-加群) の分類は３通りの方法で知られている.^{∗1)} しかしその部分集合である Ĝ の分類は一部の群以外では未解決である.^{∗2)} 一方, 簡約型等質多様体 G/H の離散系列の存在条件や分類についても, §4 や§6 で述べるように対称空間以外の多くの場合では未解決である.

本稿の構成を述べよう. 前半では等質多様体の幾何と楕円軌道に付随する既約ユニタリ表現の構成法の解説をし, 後半では筆者自身の研究を紹介する. 詳しく言うと, §1 では導入の意味もこめて, 本稿に現れる種々の簡約型等質多様体のクラスの幾何を, できるだけ予備知識なしで, 読めるように概説した. そこで説明された不変な複素構造, (擬) リーマン構造, 対称構造, パラエルミート構造などの幾何構造を持つクラスの等質多様体の調和解析は, 順に §2, §3, §4, §5 で扱われる. すなわち, §2 では, Borel-Weil-Bott の定理の一般化として, 複素構造を持つ簡約型等質多様体上の Dolbeault コホモロジーの空間に (ほぼ既約な) 表現を構成するという Schmid, Wong の最近の結果を, Zuckerman の導来函手加群や Vogan によるユニタリ表現の思想との関係を強調しながら解説した. ここで得られる表現は, 例えば §4 や §6 で述べる簡約型等質多様体の離散系列表現のように “孤立” して現れる既約ユニタリ表現の記述にも適していると考えられる. §3 では (イ) と (ロ) の相互関係の素朴な例として, 非コンパクトリーマン多様体のラプラシアンの点スペクトラムと離散系列の Blattner 予想 (公式) との関係を解説する. §4 では Harish-Chandra, Flensted-Jensen, 大島-松木, Schlichtkrull などが得た離散系列を含む設定で, 対称空間上の主束の構造をもつ簡約型等質多様体の離散系列の構成を与える. §6 では「既約ユニタリ表現を部分群に制限したときにどのように既約分解するか？」という表現論の基本問題 (分岐則) のための “良い” 枠組み (admissible) を導入する. さらに, その判定条件を与え, 応用として spherical と呼ばれるクラスの等質多様体の離散系列の存在問題に触れる.

1. 簡約型等質多様体

本稿では, リー群は一般線型群 GL(n, R) の部分群として実現されるリー群, すなわち線型リー群である事を仮定し, 用語の上では線型という形容句を省略する. リー群 G のリー環を 𝔤, その複素化 𝔤 ⊗ C を 𝔤_{C} で表す. 他の大文字で表されたリー群に対しても同様の記法を用いる.

GL(n, R) の連結閉部分群 G が GL(n, R) の標準的 Cartan involution g ↦ ^{t}g^{−1} で安定なとき, G を\underline{実簡約リー群}と呼ぶ. さらに G の中心 Z(G) := \{g ∈ G : gx = xg (∀x ∈ G)\} が離散的であるとき, G を\underline{半単純リー群}と呼ぶ. 次に, 連結閉部分群の列 GL(n, R) ⊃ G ⊃ H が g ↦ ^{t}g^{−1} で同時に安定なとき, 等質多様体 G/H を\underline{簡約型等質多様体}と呼ぶ ([74] 参照). なお, リー群 G が実簡約リー群であるという事を GL(n, R) での実現を用いないで直接定義することもできる. すなわち, G の随

簡約型等質多様体上の調和解析とユニタリ表現論 3

伴表現 Ad: G → GL(𝔤) が完全可約であり, かつ G は 𝔤_{C} をリー環に持つ連結な複素リー群 G_{C} の部分群に実現されるという条件である. ただし G ⊂ G_{C} を満たす範囲内では G は連結でなくても構わない.

例 1.1. G = GL(n, R), SU^{∗}(2n), U(p, q), SO^{∗}(2n), SO(p, q), Sp(n, R), Sp(p, q) 等は実簡約リー群である. また, 自然な埋め込み GL(n, C) ⊂ GL(2n, R) に注意すれば, G = SL(n, C), SO(n, C), Sp(n, C) 等の複素半単純リー群もすべて実簡約リー群の例であることがわかる. 次に, R^{2n} の複素構造全体の空間 GL(2n, R)/GL(n, C), 不定値 Stiefel 多様体 U(p, q; F)/U(p − m, q; F) (F = R, C, H (四元数体)), Siegel の上半空間 Sp(n, R)/U(n) 等は簡約型等質多様体である.

実簡約リー群 G の包合的自己同型写像 θ (すなわち θ ∈ Aut(G), θ^{2} = id) が\underline{Cartan involution} であるとは, θ の固定部分群 K := G^{θ} = {g ∈ G : θg = g} が G の極大コンパクト部分群であるときをいう (G にコンパクト因子がない場合は, 極大性は自動的に成り立つので, 単に K がコンパクトという条件と理解すれば良い). 逆に G の極大コンパクト部分群 K を与えたとき K = G^{θ} となる G の Cartan involution θ が一意的に存在する. 以下特に断らない限り, 極大コンパクト部分群 K ⊂ G は Cartan involution θ ∈ Aut(G) によって定義されたものとする. なお, G/H が簡約型等質多様体のとき, G の Cartan involution θ は θH = H を満たすように選べるので, 必ずこのように θ を選ぶ. 特に θ は H の Cartan involution も兼ね, K ∩ H は H の極大コンパクト部分群となる. 次に, Cartan involution θ ∈ Aut(G) の微分も同じ記号 θ ∈ Aut(𝔤) で表す. θ^{2} = id であるので θ ∈ Aut(𝔤) の固有値は +1, −1 のみである. θ による固有空間分解 𝔤 = 𝔨 + 𝔭 は\underline{Cartan 分解}と呼ばれる. リー環 𝔤 には G-不変な R 上の非退化な対称二次形式 B で, θ によって捻った二次形式 B_{θ}: 𝔤 × 𝔤 → R, X, Y ↦ −B(X, θY) が正定値対称となるものが存在する. G が単純リー群ならば B は 𝔤 の Killing 形式の正数倍に限る.

例 1.2. GL(n, R) ⊃ G が g ↦ ^{t}g^{−1} で安定ならば (例えば G = GL(n, R)), θ ∈ Aut(G) を θ(g) := ^{t}g^{−1} (g ∈ G), θ ∈ Aut(𝔤) を θ(X) := −^{t}X (X ∈ 𝔤 ⊂ 𝔤𝔩(n, R)),

K = O(n) ∩ G, 𝔨 = 𝔤∩{ 実歪対称行列 }, 𝔭 = 𝔤∩{ 実対称行列 },
B(X, Y) := Trace(XY) (X, Y ∈ 𝔤),

とおくと, 上記の設定が得られる.

実簡約リー環の Cartan 分解 𝔤 = 𝔨 + 𝔭 を群に持ち上げると, 微分同相写像 K × 𝔭 → G, (k, X) ↦ k exp(X) として, 実簡約リー群 G の分解を与える. 特に G = GL(n, R) の場合, この分解は線型代 4 小林俊行 (東京大学数理科学研究科) 数で習う極分解 GL(n, R) ≃ O(n) × { 正値実対称行列} = O(n) × exp({ 実対称行列}) に他ならない. 群多様体におけるこの分解は, 等質多様体の場合にも, 次の補題の形で拡張される ([90], [49]). 補題 1.3. 簡約型等質多様体 G/H は, コンパクト等質多様体 K/H ∩ K 上の 𝔭/𝔥 ∩ 𝔭 をファイバーとする (同伴) ベクトル束と微分同相である.

以下, 典型的な簡約型等質多様体の例を挙げよう. 例 1.4. σ を実簡約リー群 G の有限位数の自己同型とする. H が σ の固定部分群 {g ∈ G : σg = g}, または, その開部分群であるとき G/H は簡約型等質多様体となる. 特に σ の位数が 2 のとき G/H は\underline{簡約対称空間}と呼ばれる (G が実半単純リー群ならば G/H は\underline{半単純対称空間}と呼ばれる) . 実半単純リー群の群多様体 G × G/diag(G) や SL(p + q, R)/SO(p, q), SL(n, C)/SL(n, R) などは半単純対称空間の例である. また G × G × G/diag(G) や GL(3, R)/(R^{×})^{3}, G_{2}(C)/SL(3, C) などは位数 3 の自己同型 σ によって定義される簡約型等質多様体の例である. 例 1.5. リー環 𝔤 の元 X に対し, リー群 G の部分群を L ≡ G(X) := {g ∈ G : Ad(g)X = X} で定義する. リー群 G の\underline{随伴軌道} Ad(G)X (⊂ 𝔤) は等質多様体 G/G(X) として表される. 以下, G を実簡約リー群と仮定すると, 𝔤 上の Ad(G)-不変な非退化二次形式 B によって, リー群 G の随伴表現 Ad: G → GL(𝔤) とその双対表現 Ad^{∗}: G → GL(𝔤^{∗}) は同型となり, 従って, 随伴軌道と余随伴軌道は同一視される. 特に, 実簡約リー群の随伴軌道には G-不変シンプレクティック構造が入ることがわかる. さらに, X が半単純元 (すなわち ad(X) ∈ End(𝔤) は半単純元) ならば, Ad(G)X は\underline{半単純軌道}と呼ばれ, G/G(X) は簡約型等質多様体である. さらに仮定をつけ加えて, 線型写像 ad(X) ∈ End(𝔤) の固有値がすべて純虚数 (実数) ならば, Ad(G)X は\underline{楕円型 (双曲型) 軌道}と呼ばれる.

例 (1.5) の特別な場合である楕円型軌道 Ad(G)X ≃ G/G(X) の幾何構造を詳しくみよう.

𝔩 ≡ 𝔤(X) := {Y ∈ 𝔤 : [X, Y] = 0}, 𝔩_{C} ≡ 𝔤_{C}(X) = 𝔩 ⊗ C,
𝔲 ≡ 𝔲(X) := \sqrt{−1}ad(X) ∈ End(𝔤_{C}) の正の固有値を持つ固有空間の直和(⊂ 𝔤_{C}),
𝔮 ≡ 𝔮(X) := 𝔤_{C}(X) + 𝔲(X) (⊂ 𝔤_{C}),

とおく. X は楕円型なので θX = X を満たす G の Cartan involution θ が存在する. 特に θ𝔮 = 𝔮 が成り立ち, この性質を強調して 𝔮 を 𝔤_{C} の\underline{θ-stable な放物型部分代数}と言う. 𝔮 をリー環とする G_{C} の連結複素部分群を Q と書くと, G ∩ Q = G(X) 及び 𝔤 + 𝔮 = 𝔤_{C} が成り立つので, 楕円型軌道 Ad(G)X から旗多様体 G_{C}/Q の開部分集合への埋め込み写像 (\underline{一般化された Borel embedding})

Ad(G)X ≃ G/G(X) ⊂ G_{C}/Q

が誘導される. 従って, 複素等質多様体 G_{C}/Q の開集合として楕円型軌道 Ad(G)X ≃ G/G(X) に G-不変な複素構造を定義することができる. なお, X を −X に取り替えると G(X) = G(−X) (= L) なので G/G(X) と G/G(−X) は微分同相であるが, その上の複素構造は互いに複素共役である. より一般には, シンプレクティック多様体 G/L 上に有限通りの G-不変複素構造が存在するが, これは G(X) = L という制約条件の下での θ-stable な放物型部分代数 𝔮(X) の自由度に対応し, その幾何的量子化は G のユニタリ表現の異なる “系列” に対応する (§2).

例 1.6 (不定値複素射影空間). 一般線型群 G_{C} = GL(n, C) の C^{n} への自然表現は C^{n} の複素直線を複素直線に推移的に移し, 特に射影空間 P^{n−1}C は G_{C} の等質多様体 G_{C}/Q として表される. ここで Q は (j, 1) (2 ≤ j ≤ n) 成分が 0 である行列からなる G_{C} の極大放物型部分群である. p + q = n (p, q ≥ 1) なる p, q を決め, C^{n} に符号数 (p, q) の擬エルミート計量 (z, w) := z_{1}\overline{w_{1}} + ⋯ + z_{p}\overline{w_{p}} − z_{p+1}\overline{w_{p+1}} − ⋯ − z_{n}\overline{w_{n}} (z, w ∈ C^{n}) を入れ, C^{n} の正の錐 \{z ∈ C^{n} : (z, z) > 0\} に含まれる複素直線全体を P^{p−1,q}C と書く. P^{p−1,q}C は明らかに P^{n−1}C の開集合である. 不定値ユニタリ群 G := U(p, q) ⊂ G_{C} = GL(n, C) は P^{p−1,q}C に推移的に作用するので, G の等質多様体から P^{n−1}C の開部分集合への埋め込み

G/L = U(p, q)/U(1) × U(p − 1, q) ≃ P^{p−1,q}C ⊂ P^{n−1}C ≃ G_{C}/Q

が得られる. 「Poincaré 平面がリーマン球面の上半分に埋め込まれている」という良く知られた例は, p = q = 1 のときに対応している. U(p, q) の楕円型軌道としては P^{p−1,q}C は最低次元のものであり, その具体的実現と対応する G のユニタリ表現の説明は次節の例 (2.5) で取り上げる.

簡約型等質多様体 G/H には二次形式 B から誘導される G-不変な擬リーマン計量が存在するが, 今まで述べたように, あるクラスのものには, さらに G-不変な複素構造, シンプレクティック構造, リーマン計量などが存在する. 後に使う簡約型等質多様体の族との対応を整理しておこう:

∃ 不変リーマン計量^{∃} 不変シンプレクティック構造^{∃} 不変複素構造
半単純対称空間半単純軌道
リーマン対称空間半単純群多様体パラエルミート対称空間楕円型軌道

エルミート対称空間図 1.7

2. 実簡約リー群のユニタリ表現

実簡約リー群の既約ユニタリ表現の分類はまだ未解決であるが, いくつかの主要なクラスについては統一的に理解されてきている. 表現論的観点からは, 小さな群の表現から大きな群の表現への函手 (既約性とユニタリ性は, ほぼ保たれる) を縦糸とし, 縦糸の下端 (標語的に言えば “小さな群の小さなユニタリ表現”) を特に理解しようという Vogan の戦略 ([104],[106]) が見通し良く思われる. 縦糸にあたる函手としては, 一つは主系列の構成に使われた\underline{放物型誘導}が古くから知られ, もう一つは Borel-Weil の定理を原点として 80 年代に整備された\underline{Zuckerman の導来函手}が知られている ([101], [104], [45], [113]). (ちなみに, 横糸にあたる函手である translation functor ([120]) に “適合” した横糸間の移動は\underline{表現の coherent continuation} と呼ばれる. ) この節では, “縦糸” として後者の Zuckerman の導来函手を, “縦糸の下端” である小さな表現として一次元表現を, それぞれ用いたときに得られる標準的なユニタリ表現の族を解説する. なおここでは, 元来の Zuckerman の代数的構成のモデルであった幾何的構成法 (最近, 正当化された) を Schmid, Wong [117] に従って紹介する. この構成は§1 で説明した楕円型軌道上の複素構造の幾何的量子化として得られた表現と言える.

具体的構成に入る前に, もっと一般の枠組みと, その逆に, 極めて特別な例とを, 順に眺めておく. まず, 一般のリー群の表現に関する\underline{orbit method} の考え方とのつながりを述べる. リー群 G の

随伴表現 Ad: G → GL(𝔤) の双対表現 Ad^{∗}: G → GL(𝔤^{∗}) は一般にユニタリでない有限次元表現であるが, G の既約ユニタリ表現 (一般に無限次元) の同値類 Ĝ との間に驚くべき密接な関係がしばし

簡約型等質多様体上の調和解析とユニタリ表現論 7

ば起こる. 余随伴軌道の空間 𝔤^{∗}/G を, 𝔤^{∗} における同値関係 λ ∼ μ ⇔ ^{∃}g ∈ G, Ad^{∗}(g)λ = μ による同値類として定義しよう. 例えば, G = R^{n} のときは 𝔤^{∗}/G ≃ R^{n} であり, Ĝ ≃ \sqrt{−1}R^{n} と自然なパラメータの全単射対応がある. R^{n} の例をべき零リー群に拡張した次の Kirillov の定理は, 60 年代以降の Kirillov-Kostant による orbit method の契機となった ([58]). 定理 2.1 ([44]). G が連結, 単連結べき零リー群ならば, 𝔤^{∗}/G と Ĝ との間に自然な全単射がある.

定理 (2.1) は, もっと一般に G が可解群の exponential group というクラスに対しても成り立つ事が知られている. 一方 G が可解リー群の対極である実簡約リー群の場合にも, 余随伴軌道 𝔤^{∗}/G (の integral な部分集合) は Ĝ のかなりの近似を与えていると考えられている. 以下紹介するユニタリ表現の族 Π(G, λ) は integral な楕円型軌道 Ad^{∗}(G)λ との関係が直接つけられるので, それを強調した記法で定式化する. この記法での定式化は, この節で取り上げる (既約) ユニタリ表現が Ĝ の中のどういう位置を占めるかについての雰囲気を概観しやすいという長所がある反面, パラメータが悪い場合の特異なユニタリ表現の記述における細部の短所がある (問題 (2.10) 参照).

次に, 極めて特別な例を考えよう. SU(2) の等質多様体である P^{1}C 上の正則関数の空間 O(P^{1}C) は, リュービルの定理により, 定数のみからなる. すなわち, O(P^{1}C) を表現空間とする SU(2) の自明な一次元表現が構成されたわけである. 一方, SL(2, R) の等質多様体である Poincaré 平面 H 上の正則関数の空間 O(H) はもはや有限次元ではないが, SL(2, R) の表現としては殆ど既約である (実は 2 つの既約成分がある). また, O(H) の部分空間である Hardy 空間を考えることにより, SL(2, R) のユニタリ表現が得られる. O(P^{1}C) と O(H) (あるいは Hardy 空間) には一次元と無限次元という見かけの違いはあるが, それぞれ, SU(2) と SL(2, R) の (ほぼ) 既約な表現空間という点で同等の役割を果たしている. さらに, 上記の設定を正則な直線束で考えれば, パラメータを持った表現の族が構成される. これが, 以下で紹介する実簡約リー群の標準的なユニタリ表現の構成法の原型である (H ⊂ P^{1}C は, SL(2, R) の楕円軌道の Borel embedding とみなせる). ただし, 今の特別な例やコンパクトリー群の Borel-Weil の定理とは異なり, 一般の場合では, 高次のコホモロジーまで考えなければ捕らえられない既約ユニタリ表現の系列が存在する. そこで, 以下の定義を考える:

G を実簡約リー群とする. リー環 𝔤 上には Ad(G)-不変な非退化二次形式 B が存在するので, 𝔤^{∗} と 𝔤 は実線型同型 𝔤^{∗} ∋ λ ↦ X_{λ} ∈ 𝔤 (但し B(X_{λ}, Y) = λ(Y), ^{∀}Y ∈ 𝔤) を通じて G が作用する空間として同一視できる. この同一視によって §2 の定義を 𝔤^{∗} 上に翻訳しよう. \sqrt{−1}λ ∈ 𝔤^{∗} が楕円型であるとは X_{−\sqrt{−1}λ} ∈ 𝔤 が楕円型のときをいう. このとき §2 のやり方で X_{−\sqrt{−1}λ} から定義される部分群 L (⊂ G), 部分代数 𝔮 = 𝔩_{C} + 𝔲 (⊂ 𝔤_{C}) をそれぞれ G(λ), 𝔮(λ) = 𝔤_{C}(λ) + 𝔲(λ) と 8 小林俊行 (東京大学数理科学研究科) 表記すると, 余随伴軌道 Ad^{∗}(G)λ ≃ G/G(λ) には 𝔮(λ) によって G-不変な複素構造が定義される. ρ(𝔲) ∈ \sqrt{−1}𝔤(λ)^{∗} を ⟨2ρ(𝔲), Y ⟩ := Trace(ad(Y)_{|𝔲(λ)}) (Y ∈ 𝔤(λ)) で定める. リー環の一次元表現 λ + ρ(𝔲): 𝔤(λ) → C が指標 χ_{λ+ρ(𝔲)} : G(λ) → C^{×} に持ち上がるとき, \sqrt{−1}λ ∈ 𝔤^{∗}, あるいは対応する楕円型軌道 Ad^{∗}(G)λ が\underline{integral} であるという. 以下, 指標 χ_{λ+ρ(𝔲)} は C_{λ+ρ(𝔲)} と略記することにする. G(λ) の指標 C_{λ+ρ(𝔲)} に同伴した G/G(λ) 上の G-共変な正則直線束 G ×_{G(λ)} C_{λ+ρ(𝔲)} に係数を持つ j 次 Dolbeault コホモロジー Hj ; ¯∂(G/G(λ), C_{λ+ρ(𝔲)}) は G-加群となる. この加群は G/G(λ) がコンパクトなら小平-Serre の定理より有限次元となるが, G/G(λ) が非コンパクトなら一般に無限次元となる. 特に, Dolbeault 複体における ¯∂ 作用素の像が適当な函数空間の位相で閉集合かどうか (コホモロジーの空間が商位相で Hausdorff かどうか) という解析的な困難が現れる. さて, 補題 (1.3) で述べたように G/G(λ) はファイバー束 𝔭/𝔤(λ) ∩ 𝔭 → G/G(λ) → K/G(λ) ∩ K の構造を持ち,

(i) ファイバーが一点となる ⇔ 複素多様体 G/G(λ) がコンパクト多様体

(ii) 底空間が一点となる ⇔ 複素多様体 G/G(λ) が Stein 多様体がわかる. これらの両極端の場合では上述の解析的な困難は現れず, 得られた G の表現は, (i) では Borel-Weil の定理によるコンパクトリー群の有限次元表現の構成に対応し, (ii) では Harish-Chandra による正則離散系列表現の構成 (例 (2.7); コホモロジーは j = 0 次に現れることに注意) に対応する. (i), (ii) の両極端の場合をモデルとして, 一般の場合の解析的な正当化, および, 得られた表現の代数的性質の研究が多くの人によって試みられた. G(λ) がコンパクトという仮定の下では Schmid による (群の) 離散系列表現 (定義は §3 に一般の設定で述べる) の幾何的構成 (例 2.8) として 70 年前後に進展があり, 90 年代に入って Wong が G(λ) が非コンパクトである一般の場合を最終的に示した.

定理 2.2 ([13],[93],[94],[29],[101],[117]). G を実簡約リー群, G/G(λ) ≃ Ad^{∗}(G)λ ⊂ \sqrt{−1}𝔤^{∗} を integral な楕円型軌道とする. 旗多様体 K/G(λ) ∩ K の複素次元を S で表す.

(1) C^{∞} 係数の Dolbeault 複体によるコホモロジー空間 Hj ; ¯∂(G/G(λ), C_{λ+ρ(𝔲)}) は, 自然な商位相で Fréchet 空間となり, この空間を表現空間として G の連続表現が定義される.

(2) j ≠ S のとき Hj ; ¯∂(G/G(λ), C_{λ+ρ(𝔲)}) = 0.

(3) HS ; ¯∂(G/G(λ), C_{λ+ρ(𝔲)}) の Harish-Chandra 加群は R_{𝔮(λ)}^{S}(C_{λ}) と (𝔤, K)-加群として同型.

(4) HS ; ¯∂(G/G(λ), C_{λ+ρ(𝔲)})_{|K} ≃ ∑_{j,m}(−1)^{S−j}Hj ; ¯∂(K/G(λ) ∩ K, S^{m}(𝔲(λ)/𝔲(λ) ∩ 𝔨) ⊗ C_{λ+ρ(𝔲)}).

定理 (2.2) で使われている表現論のいくつかの用語を簡単に説明しよう. (ρ, V) がリー群 G の \underline{(連続) 表現}であるとは, V が C 上の完備な局所凸線型位相空間であり, ρ は準同型写像 ρ: G →

簡約型等質多様体上の調和解析とユニタリ表現論 9

GL(V) であって G × V → V, (g, X) ↦ ρ(g)X が連続であるときをいう. リー群とリー環の対応関係から類推されるのは, リー群の (連続) 表現と, その “微分表現 dρ: 𝔤 → End(V)” との密接な関係であるが,

(i) dim V = ∞ のとき “微分表現” が定義されるか？

(ii) 微分表現が抽象的に定義されたとき, それがリー群の表現に持ち上がるか？という点が問題となる. G が実簡約リー群の場合には, G の極大コンパクト部分群 K の表現に着目することによって, この 2 つの問題は同時に解決される ([26]). すなわち, G の (連続) 表現 (ρ, V) が与えられたとき, K の表現とみなして既約分解し, 既約成分の代数的直和として表される部分空間を V_{K} とおく. V_{K} は V の稠密な部分空間であり, V_{K} 上では ρ の微分 dρ: 𝔤 → End(V_{K}), および ρ の K への制限 ρ_{|K}: K → GL(V_{K}) が定義される. こうして得られた\underline{(𝔤, K)-加群} V_{K} を V の \underline{Harish-Chandra 加群}という. V の稠密な部分空間 V_{K} で微分が定義できる典型例として, 序で述べた G = K = S^{1}, V = L^{2}(S^{1}) の場合をみよう. この場合の V_{K} の元は, フーリエ級数の有限和として書ける S^{1} 上の関数である. 従って, V_{K} の元は, 通常の意味で微分可能であり, この微分は L^{2}(S^{1}) での Fréchet 微分にもなっているのである. 逆に, 抽象的に定義された (𝔤, K)-加群は, ある条件 (通常 admissible と言われる条件で, §6 の用語では K-admissible となる; 例 (6.4)(1) でみるように緩やかな条件である) を満たしているならば, 適当な位相による完備化をとって, G の (連続) 表現に持ち上げることができる. これを (𝔤, K)-加群の\underline{globalization} と呼ぶ. これらの対応によって, 実簡約リー群 G の admissible な (連続) 表現の本質的な情報 (例えば, 組成列やユニタリ化可能性) は, (𝔤, K)-加群にそのまま移行されることが知られている. 後者の (𝔤, K)-加群の研究は純粋に代数的な手法で行えることに注意しよう. なお, (𝔤, K)-加群の globalization は一意的ではないが, その “ 最大” なものの一意的存在は知られており, \underline{maximal globalization} と呼ばれる ([95]).

定理 (2.2)(3) における R_{𝔮}^{j} (j ∈ N) は, \underline{Zuckerman の導来函手}として知られる (𝔤, K)-加群の純代数的な構成法で, (𝔩, L ∩ K)-加群 (厳密には, メタプレクティック (𝔩, (L ∩ K)^{∼})-加群) のカテゴリーから (𝔤, K)-加群のカテゴリーへの共変函手である ([101], [104], [45], [113]). この函手は, ごく大雑把に言えば, シンプレクティック構造を持つ半単純軌道 G/L (図 1.7) 上に放物型部分代数 𝔮 によって偏極を定義し, “幾何的量子化” として, 部分群 L の表現を G の表現へ (Harish-Chandra 加群のレベルで) 誘導する函手である. 特に, 𝔮 が実偏極を与える場合, すなわち 𝔮 に対応する G_{C} の放物型部分群 Q の実形が G の中に存在する場合は, 通常の放物型誘導表現に対応し, その対極である虚の偏極 (上記の設定) では Dolbeault コホモロジーの代数的類似物となっている. また, (1) と (3)

10 小林俊行 (東京大学数理科学研究科) を強めた形として, Hj ; ¯∂(G/G(λ), C_{λ+ρ(𝔲)}) が R_{𝔮(λ)}^{S}(C_{λ}) の maximal globalization である事も知られている (Wong [117], 柏原-Schmid). (4) における S^{m} は m 次斉次の対称テンソルを表し, 特に右辺はコンパクトなリー群の Borel-Weil 定理から計算される. この公式は\underline{Blattner 予想 (公式)}の一般化とみなせ, Zuckerman 導来函手加群や D-加群による証明も知られている.

次の定理で述べる Vogan, Wallach による\underline{Zuckerman 予想}の解決は 80 年代のユニタリ表現論の重要な進展の一つである: 定理 2.3 ([102],[111]). λ ∈ \sqrt{−1}𝔤^{∗} を integral かつ楕円型, 𝔮 = 𝔮(λ) を θ-stable な放物型部分代数とすると, (𝔤, K)-加群 R_{𝔮}^{S}(C_{λ}) には 𝔤 の作用が歪対称となるエルミート内積が存在する.

定理 (2.2) と定理 (2.3) により, \sqrt{−1}λ ∈ 𝔤^{∗} が integral かつ楕円型ならば G のユニタリ表現 Π(G, λ) であって, Harish-Chandra 加群のレベルでは HS ; ¯∂(G/L, C_{λ+ρ(𝔲)}) と同型なものが存在する. λ を Ad^{∗}(g)λ にとりかえても, ユニタリ表現 Π(G, Ad^{∗}(g)λ) と Π(G, λ) とは内部同型でユニタリ同値となるので,

(2.4)  {integral な楕円型軌道 } ⟶ {G のユニタリ表現の同値類}, Ad^{∗}(G)λ ↦ Π(G, λ)

という構成が得られた. パラメータ λ が十分 regular ならば, Π(G, λ) は既約ユニタリ表現となる. なお, 「大部分の Π(G, λ) は Ĝ の Fell 位相において孤立している」という定理が最近 Vogan によって示された ([107]). 以下の例で, Π(G, λ) の形で, どのようなユニタリ表現を表せるのかを見よう. 例 2.5. 例 (1.6) で定義した不定値複素射影空間 P^{p−1,q}C = U(p, q)/U(1) × U(p − 1, q) を考えよう. P^{p−1,q}C は複素射影空間 P^{p−1}C 上の正則ベクトル束 C^{q} → P^{p−1,q}C → P^{p−1}C の構造を持ち, 特に, 底空間の複素次元は p − 1 である. P^{p−1,q}C の標準直線束を Ω とおく. Hp−1 ; ¯∂(P^{p−1,q}C, Ω^{⊗n}) (n ∈ N_{+}) は U(p, q) の既約 Fréchet 表現で, そのユニタリ化は Π(U(p, q), (2n − 1)h) と同型となる. ここで, h ∈ \sqrt{−1}𝔤^{∗} は E_{ij} ∈ 𝔤_{C} ≃ 𝔤l(n, C) を行列要素とするとき, ⟨h, E_{ij}⟩ = δ_{ij} (nδ_{1j} − 1) で定義される楕円型の元である. Π(U(p, q), (2n − 1)h) は, q = 0 ならば U(p) の多項式表現 S^{n}(C^{p}) を Borel-Weil-Bott の定理で構成したものであり, p = 1 ならば U(1, q) の正則離散系列表現 (例 (2.7)), p > 1, q > 0 ならば U(p, q) の緩増加でないユニタリ表現 (定義は [113] 参照) である. なお, この節の最初に極めて特別な例として述べたものは, (p, q) = (2, 0), (1, 1), n = 0 に対応する.

以下の例 (2.6) ∼ (2.9) では G を一般の実簡約 (線型) リー群とする. 例 2.6 (局所対称空間の de Rham コホモロジーへの寄与). θ-stable な放物型部分代数 𝔮 = 𝔩_{C} + 𝔲 が定める複素多様体 G/L の標準直線束を Ω と表すと, HS ; ¯∂(G/L, Ω) は G の既約 Fréchet 表現で, そ

簡約型等質多様体上の調和解析とユニタリ表現論 11

のユニタリ化は Π(G, ρ(𝔲)) にユニタリ同値である. この表現の Harish-Chandra 加群は, 通常 A_{𝔮} と書かれる表現と (𝔤, K)-加群として同型で, Vogan-Zuckerman の結果により 0 でない (𝔤, K)-コホモロジーを持つ ([109]). さらに松島-村上の定理 ([12], [71]) を用いれば, コンパクト局所リーマン対称空間の de Rham コホモロジーに寄与するユニタリ表現は,

{Π(G, ρ(𝔲)) : 𝔮 = 𝔩_{C} + 𝔲 は 𝔤_{C} の θ-stable な放物型部分代数}

で尽くされることがわかる. 例えば, G = SL(2, R) では, 𝔤 の θ-stable な放物型部分代数の Ad(G) に関する共役類は 3 つあり, 対応する 3 種類のユニタリ表現 (自明な一次元表現, 正則離散系列, 反正則離散系列) が閉リーマン面の de Rham コホモロジーに寄与する. 例 2.7 (正則離散系列, [26]). λ ∈ \sqrt{−1}𝔤^{∗} が integral な楕円型であり, G(λ) が G の極大コンパクト部分群であると仮定する. このとき G/G(λ) は非コンパクトなエルミート対称空間 (特に Stein 多様体) となり, Dolbeault コホモロジーは S = 0 次すなわち正則な大域切片の空間だけに現れる. λ が十分 regular ならば H^{0}(G/G(λ), C_{λ+ρ(𝔲)}) の K-有限ベクトルは L^{2}-切片に属し, 完備化したユニタリ表現 Π(G, λ) は G の\underline{正則離散表現}と呼ばれる. 例 2.8 (Harish-Chandra による群の離散系列, Langlands 予想, [27], [93], [94], [34], [77]). G を実簡約リー群とする. Disc(G) = {Π(G, λ) : λ は integral, 楕円型, G(λ) はコンパクトトーラス }. このような λ が存在するための必要十分条件は rank G = rank K である. さらに, L^{2}-コホモロジー空間で同様の幾何的構成をすることもできる (Langlands 予想). 例 2.9 (対称空間の離散系列, [69], [21], [105]). 半単純対称空間 G/H の任意の離散系列表現 π は G(λ)/G(λ) ∩ H がコンパクトトーラスとなる楕円型の元 λ ∈ \sqrt{−1}(𝔨/𝔥 ∩ 𝔨)^{∗} (⊂ \sqrt{−1}𝔨^{∗}) によって π = Π(G, λ) と表される. (このような λ の存在条件は rank G/H = rank K/H ∩ K である. )

Ĝ の中での包含関係では, 例 (2.7) ⊂ 例 (2.8) ⊂ 例 (2.9) である. §4 では例 (2.9) を含む枠組みでこれらの離散系列の構成を Flensted-Jensen の手法 ([20]) を土台として行う. この節の最後にユニタリ表現 Π(G, λ) に関する未解決問題を述べよう. 問題 2.10. (1) HS ; ¯∂(G/G(λ), C_{λ+ρ(𝔲)}) ≠ 0 となる λ の条件を求めよ.

(2) HS ; ¯∂(G/G(λ), C_{λ+ρ(𝔲)}) はいつ既約になるか？またいつ互いに同値でない表現を与えるか?

(3) HS ; ¯∂(G/G(λ), C_{λ+ρ(𝔲)}) の Harish-Chandra 加群に具体的に内積を構成せよ.

パラメータ λ が十分 regular ならば HS ; ¯∂(G/G(λ), C_{λ+ρ(𝔲)}) は 0 でない既約加群で, 互いに同値にもならないので, 問題 (2.10)(1),(2) はパラメータが特異な場合 (ユニタリ表現の分類問題で現在重 12 小林俊行 (東京大学数理科学研究科) 要と考えられている部分) を対象としている. 問題 (2.10)(2) は D-加群の理論が強力であるが, 決定的な解答は知られていない. 問題 (2.10)(1) は対称空間やその上のベクトル束に実現される離散系列 (§4) の分類にも直接関係し, Vogan, 大島, 松木, 筆者等によって次の手法が開発されている ([100], [101], [48], [68], [70], [105], [51]4 ,5 章) が, 一般の場合にはまだ決定的な答が知られていない.

1. Jantzen-Duflo の τ 不変量と wall crossing (Vogan の U_{α} calculus),

2. 球函数の漸近挙動の leading exponent の具体的な記述と translation principle,

3. 特異パラメータ間の coherent continuation の組み合わせ論的公理化,

4. Blattner 公式の具体的な計算方法.

3. リーマン等質多様体上の非可換調和解析

G/H を簡約型等質多様体とすると, G-不変な擬リーマン計量 (§1) から定義される G/H の体積要素 dx も G-不変である. 従って dx に関する G/H 上の二乗可積分函数のつくる Hilbert 空間を L^{2}(G/H) と表すと, G × L^{2}(G/H) ∋ (g, f(x)) ↦ f(g^{−1}x) ∈ L^{2}(G/H) は L^{2}(G/H) を表現空間とする G のユニタリ表現となる. この表現を G の G/H における\underline{(準) 正則表現}という. 準正則表現は一般に G の既約表現が無限個まざった表現である. L^{2}(G/H) の閉部分空間に実現される G の既約ユニタリ表現を G/H の\underline{離散系列表現}と呼び, その元全体を Disc(G/H) ⊂ Ĝ と書く. 同様に H のユニタリ表現 (τ, V_{τ}) に同伴したベクトル束 G ×_{H} V_{τ} の L^{2}-切片のつくる Hilbert 空間 L^{2}(G/H, V_{τ}) や, ベクトル束値の離散系列 Disc(G/H, τ) ⊂ Ĝ が定義される. 等質多様体 G/H 上の L^{2}-調和解析の基本問題である「G/H の\underline{Plancherel 型定理}」とは準正則表現 L^{2}(G/H) を G の既約表現に分解する公式を与えることであり, 半単純対称空間 (群多様体を含む) の場合には Peter-Weyl, Gelfand-Naimark, Harish-Chandra, Helgason, 大島等によって解かれている ([84], [24], [27], [33], [82]). この Plancherel 型定理において離散系列の決定は特に重要な役割を果たしている.

手始めに H がコンパクトな部分群である場合を考えよう. このとき, G/H には B_{θ} (§1) により G-不変リーマン計量が入る. また L^{2}(G/H) ⊂ L^{2}(G) であるので, 原理的には,

L^{2}(G/H) の Plancherel 定理 = L^{2}(G) の Plancherel 定理 + 有限次元表現の具体的計算として解ける. すなわち, H を含む G の極大コンパクト部分群を K とすると, 誘導表現に関する階段定理より, L^{2}(G/H) ≃ ⨁_{τ∈Disc(K/H)} L^{2}(G/K, τ) となるので, L^{2}(G/H) の既約分解における離散スペクトラムは, Disc(G/H) = ⋃_{τ∈Disc(K/H)} Disc(G/K, τ) (⊂ Disc(G)) で与えられる. 一方, 群多様体上の Plancherel 定理 ([27]) の台である緩増加表現 (例えば [113] 参照) の構造を見ると, L^{2}(G/H) の連続スペクトラムは, 小さな群 (Levi 部分群) に対する同じ問題を考えたときの離散スペクトラムか

簡約型等質多様体上の調和解析とユニタリ表現論 13

ら決定されることがわかる. 結局, L^{2}(G) の Plancherel 定理 (既知) から L^{2}(G/H) の Plancherel 定理を計算するためには, Disc(K/H) と Disc(G/K, τ) の決定方法がわかればよい. Frobenius の相互律より, Disc(K/H) は有限次元表現にかかわる具体的な計算で決定され, Disc(G/K, τ) も Blattner の公式 (定理 (2.2)(4)) と Kostant の Borel-Weil 定理 ([57]) によりやはり有限次元表現に関連する計算に帰着される (但し, 計算の実行は一般に簡単ではない). ここでは, Disc(G/K, τ) (⊂ Disc(G)) に関して知られている定性的性質のみを述べよう: 定理 3.1. K は実簡約型リー群 G の極大コンパクト部分群, (τ, V_{τ}) は K の有限次元表現とする.

(1) Disc(G/K, τ) は高々有限集合である. さらに ⋃_{τ∈K̂} Disc(G/K, τ) = Disc(G) が成り立つ.

(2) dim V_{τ} = 1 ならば, Disc(G/K, τ) の元は G の (反) 正則離散系列表現である.

(3) τ が K の自明な一次元表現ならば, Disc(G/K, τ) = ∅.

ユニタリ表現に関する Dirac の不等式 (ラプラシアンのある種の非負性に相当する; Parthasarathy [12],[83]) を使うと, (1) における Disc(G/K, τ) の個数は定量的に評価できる. (3) は定理 (2.2)(4) より従う (次節で別の証明に触れる). dim V_{τ} > 1 ((1) の一般の場合), dim V_{τ} = 1 ((2) の場合, [97]), τ = 1 ((3) の場合) と条件を厳しくするにつれて, L^{2}(G/K, τ) に実現可能な離散系列が急激に減少することに注意しよう. なお, dim V_{τ} = 1 ならば Disc(G/K, τ) の元も (反) 正則離散系列も主系列への埋め込みが一種類しかないという共通の性質に視点をおいて (2) を解釈することもできる. 例 3.2. G = Sp(1, n) ⊃ K = Sp(1) × Sp(n) ⊃ T = (S^{1})^{n+1} とし, ルート系が Δ(𝔨_{C}, 𝔱_{C}) = \{±f_{i} ± f_{j}, 2f_{l} : 2 ≤ i < j ≤ n + 1, 1 ≤ l ≤ n + 1\} と表されるように\sqrt{−1}𝔱^{∗} の基底 \{f_{1}, …, f_{n+1}\} を選ぶ. Sp(1) ≃ SU(2) の l + 1 次元既約表現の K への自明な拡張を σ_{l} ∈ K̂ (l ∈ N) と表すと

Disc(G/K, σ_{l}) = {Π(G, λ_{1}f_{1} + λ_{2}f_{2}) : (λ_{1}, λ_{2}) ∈ Z^{2}, λ_{1} > λ_{2} ≥ n, λ_{1} + λ_{2} = l + 1}. さて, 多様体上の大域解析というテーマから見ると, 等質多様体上の調和解析は非常に特殊な場合

を扱っているに過ぎないが, 後者は表現論を用いて結果を鮮明に表せるため前者のモデルとしての役割を果たすことがある. 例えば定理 (3.1)(1),(3) は, 「非コンパクトリーマン対称空間のラプラシアンは点スペクトラムを持たないが, 同伴ベクトル束の切片 (例えば微分形式の空間) に作用するラプラシアンは有限個の点スペクトラムを持ちうる」という良く知られた結果に翻訳される (R-rank G > 1 のときは若干の表現論の議論が必要). また「コンパクトなリーマン多様体の普遍被覆多様体 M が非コンパクトであるという仮定の下で, ラプラシアン Δ_{M} が点スペクトラムを持つことがあるか?」という問題が砂田氏の一連の研究の中で提起されていた ([76]). ここでは例 (3.2) を翻訳してこのよ 14 小林俊行 (東京大学数理科学研究科) うな普遍被覆多様体の例を与えよう ([56]). G/H を簡約型等質多様体とする. H がコンパクトならば, Borel, Harish-Chandra, Mostow-玉河 ([11], [75]) によって, G/H に固有不連続かつ自由に作用する G の離散部分群 Γ であって, Γ\G/H がコンパクト多様体となるものが存在する事が知られている.^{∗3)} 従って, B_{θ} (§1 参照) を用いてリーマン計量を入れた多様体 G/H は, コンパクトなリーマン多様体の被覆多様体の例になる. 例 (3.2) の場合を翻訳すると: 例 3.3. 多様体 S^{2} × R^{4} を Sp(1, 1)/T × Sp(1) と同一視し (Killing 形式 B を捻った B_{θ} で) リーマン計量を定義すると, 非コンパクトリーマン多様体 S^{2} × R^{4} のラプラシアンの連続スペクトラムは [\frac{1}{6}, ∞) であり, 点スペクトラムは \{\frac{1}{12}(n^{2} + 4mn + m^{2} + 3) : n > m > 0, n, m ∈ N\} である.

4. 対称空間上のベクトル束値の離散系列

前節で述べた群多様体の離散系列 (Harish-Chandra) の一般化として Flensted-Jensen, 大島-松木は対称空間の離散系列を構成し, さらにその拡張として Schlichtkrull, 筆者は対称空間上の (有限次元) ベクトル束に値を持つ離散系列を構成した ([20], [69], [21], [79], [91],[48],[51]) (図 4.1).

[群多様体] [対称空間] [対称空間上のベクトル束]
大島-松木の離散系列 ⊂  ⋆
∪  ∪
Harish-Chandra の離散系列 ⊂ Flensted-Jensen 型 ⊂ Schlichtkrull 型
図 4.1

この節では [51] 0 章に基づいて, ⋆ における離散系列の構成の概要を述べる. 最初に, τ が実簡約リー群 H の有限次元ユニタリ表現ならば, H は局所的な直積分解 H ≈ H_{1} × H_{2} を持ち, H_{1} はコンパクト群とアーベル群 R^{d} の直積, τ は H_{2} 上自明な表現となることに注意しよう. 特に, H_{1} がコンパクトかつ H_{2} = 1 ならば前節で扱った場合であり, H_{1} = R^{d} の場合は次の節で特別に扱う. この節では H = H_{1} × H_{2} (H_{1} はコンパクト), rank G/H = rank K/H ∩ K を仮定する. 古典型リー群の等質多様体として表示される次の不定値 Stiefel 多様体はこの設定の典型例である. 例 4.2. G/H_{2} = U(p, q; F)/U(p − m, q; F), F = R, C, H, p ≥ 2m, H_{1} = U(m; F)

上の設定の下では, 簡約型等質多様体 G/H_{2} は G-共変な H_{1}-主束 H_{1} → G/H_{2} → G/H の構造を持つ. H_{1} がコンパクトであることから §3 と同様に G のユニタリ表現の間の包含関係

L^{2}(G/H) = L^{2}(G/H; 1) ↪ L^{2}(G/H_{2}) ≃ ⨁_{τ∈Ĥ_{1}} dim τ · L^{2}(G/H_{1} × H_{2}; τ ⊠ 1),

簡約型等質多様体上の調和解析とユニタリ表現論 15

を得る. この節での主舞台は (非対称) 簡約型等質多様体 G/H_{2} であり, 目標は Disc(G/H_{2}) の元の構成である. Disc(G/H_{2}) は対称空間の離散系列 Disc(G/H) = Disc(G/H, 1) を部分集合として含んでいることに注意しよう. なお, τ ∈ Ĥ_{1} の特定は H_{1}-主束としての構造を見る事に対応するが, ここでは省略する. さて, H ⊂ G ⊃ K の複素化 H_{C} ⊂ G_{C} ⊃ K_{C} の別の実形 H^{r} ⊂ G^{r} ⊃ K^{r} を H^{r} が G^{r} の極大コンパクト部分群になるように選ぶ. G^{r}/H^{r} は G/H の\underline{リーマン双対}と言われる (例 (5.2)). H が直積分解 H = H_{1} × H_{2} を持てば, H^{r} も同様の直積分解 H^{r} = H_{1}^{r} × H_{2}^{r} を持つ. P^{r} = M^{r}A^{r}N^{r} を G^{r} の極小放物型部分群, ρ ∈ (𝔞^{r})^{∗} は 𝔫^{r} のルートの和の半分とする. (δ, V) ∈ M̂^{r}, ν ∈ Â^{r} に対して F = A (実解析函数の層) あるいは B (佐藤の超函数の層) に値を持つ主系列表現を F(G^{r}/P^{r}; δ ⊗ ν) := {F ∈ F(G^{r}; V) : F (gman) = δ(m)^{−1}a^{−ν−ρ}F (g) (man ∈ M^{r}A^{r}N^{r})} と書くと

Ψ: B(G^{r}/P^{r}; δ^{∗} ⊗ (−ν)) × A(G^{r}/P^{r}; δ ⊗ ν) ∋ (F, v) ↦ ∫_{K^{r}}⟨F (k), v(k)⟩ dk ∈ C,

は非退化な G^{r}-不変双線型写像である. H_{2}^{r} が自明に作用するベクトル v ∈ A(G^{r}/P^{r}; δ ⊗ ν) をとり, P_{v}(F)(g) := Ψ(F (g ·), v) = Ψ(F, g · v) と定義すると, \underline{Poisson 変換}の自然な一般化として G^{r}-写像

P_{v}: B(G^{r}/P^{r}; δ^{∗} ⊗ (−ν)) → A(G^{r}/H_{2}^{r}),

が得られる. v が巡回的ならば P_{v} は単射である. X_{j} (1 ≤ j ≤ l) を K^{r} の G^{r}/P^{r} における閉軌道とし, B_{K^{r}}^{j}(δ ⊗ ν) := {F ∈ B(G^{r}/P^{r}; δ ⊗ ν) : supp F ⊂ X_{j} , F は K^{r}-有限ベクトル} とおく. 定理 4.3 ([48], [51]). 上の設定の下で, (a) A(G^{r}/P^{r}; δ ⊗ ν) は H_{2}^{r} が自明に働く巡回ベクトル v を持ち, (b) ⟨ν, α⟩ > 0 (^{∀}α ∈ Σ(𝔫^{r}, 𝔞^{r})) が満たされるならば, P_{v} (B_{K^{r}}^{j}(δ^{∗} ⊗ (−ν))) (1 ≤ j ≤ l) の Flensted-Jensen 双対 (G_{C}/H_{2C} への解析接続) の L^{2}-完備化は G/H_{2} の離散系列である.

H_{1} がコンパクトであるという仮定が効いて, 定理の証明の解析的な部分は [69] でなされた L^{2}-評価と本質的に同じである. 以下, 定理 (4.3) に関連する話題を述べる. まず特別な場合として, 例 4.4 ([20], [21], [69], [46]; 例 (2.8), 例 (2.9) 参照).

1) (群多様体の離散系列) G = G′ × G′, H = diag(G′), H_{1} = 1 の時, 定理 (4.3) により群多様体 G/H ≃ G′ の (Harish-Chandra の) 離散系列表現のすべてを得る. これは, Langlands 予想 (例 (2.8)) における構成とは全く異なる Flensted-Jensen の構成で群多様体の離散系列を得た事に相当する.

2) (対称空間の離散系列) 大島-松木の離散系列の構成は H_{1} = 1 の場合に対応し, 対称空間のすべての離散系列が定理 (4.3) の方法で得られる ([69]).

なお, H_{1} ≠ 1 の場合 G/H_{2} は非対称な等質多様体であるが, この場合には上記の構成では得られ 16 小林俊行 (東京大学数理科学研究科) ない離散系列が現れる場合があり ([63], [54]), 一般には Disc(G/H_{2}) の分類は未解決である. (H_{1} がアーベル群ならば Disc(G/H_{2}) の分類問題には [69] の手法が有効であると思われる. )

定理 (4.3) で得られる離散系列はパラメータによっては 0 となる事がある. 離散系列がどのパラメータに対して 0 でないかを決定するためには B_{K^{r}}^{j}(δ^{∗} ⊗ (−ν)) ≠ 0 となる δ, ν の条件を求めなければならないが, これは §2 の問題 (2.10) で述べた表現論の手法を用いて調べることができる (B_{K^{r}}^{j}(δ^{∗} ⊗ (−ν)) は Zuckerman の導来函手加群と双対になる). さらに, 定理 (4.3) の仮定 (a) も表現論の手法によって, δ と ν の具体的な不等式として表せる.

逆に, 等質多様体上の L^{2}-調和解析から表現論への還元の例として, ユニタリ化の問題に触れよう. 一般的な方針として, アプリオリにはユニタリ内積の存在はわかっていない G の表現を, (定理 (4.3) のように) 等質多様体の離散系列に実現することができれば, この表現は L^{2}-内積によって明らかにユニタリ化可能である. この方針によって, 80 年代前半には対称空間の離散系列表現は新しい既約ユニタリ表現の発見という副産物を生み, また Zuckerman 予想の肯定的証拠を与えた ([89],[1]). Zuckerman 予想の解決された現在 (定理 (2.3)) では対称空間の離散系列表現 (H_{1} = 1 の場合) は, ユニタリ表現論の立場からは, 特定の楕円型軌道に付随するユニタリ表現という形でも解釈される (例 (2.9)). 他方, H_{1} ≠ 1 の場合, 定理 (4.3) で得られる離散系列表現は , Zuckerman 予想 (定理 (2.3)) の仮定を満たさない特異なパラメータを含む事がある. これを表現論への副産物として見れば, 「ある系列の Zuckerman 導来函手加群の中で Wallach set の存在を示した」と言える ([51] 2 章). ここで, Wallach set とは, 自然な錐からはみ出ているにもかかわらずユニタリ化を与えるような特異パラメータの集合のことで, Wallach, Rossi, Vergne, Enright, Parthasarathy, Wolf などによって, 正則離散系列 (例 (2.7)) などの特別な表現の族 (例えば, 最高ウェイト表現) については, その存在が (別の手法で) 研究されていた ([110], [86], [18], [19]).

さて, リーマン対称空間では離散系列の存在に関してスカラー値とベクトル束値とでは目立った違いがあった (§3). すなわち, 常に Disc(G/K) = ∅ である一方, Disc(G/K, τ) (τ ∈ K̂) は空集合とは限らない. この違いは, 定理 (4.3) の仮定において, H_{1} = 1 ならば, δ = 1 であり (b) ⇒ (a) (Helgason, Kostant [31], [59]) が成り立つが,^{∗4)} H_{1} ≠ 1 では, 一般に (a) と (b) の条件は独立である事に反映される. 実際, 球函数の漸近挙動を見ることで, (b) ⇒ (a) を用いて定理 (3.1)(2) の別証明ができる.

図 (4.1) の下段の Flensted-Jensen 型, Schlichtkrull 型は図 (4.1) の上段の部分集合として, 代数的には「Blattner の公式 (定理 (2.2)(4)) の右辺で m = 0 次対称テンソルに付随する K-type が存在する」 (多くの場合 minimal K-type ([101]) になる) 事で特徴づけられ, 解析的には「B_{K^{r}}^{j}(δ ⊗ ν) が

簡約型等質多様体上の調和解析とユニタリ表現論 17

測度クラスの超函数を含む」という性質で特徴づけられる. なお, スカラー値の場合に図 (4.1) の上段と下段が一致していても, ベクトル束値の場合には上段と下段の差が大きく異なることがある.

5. パラエルミート型対称空間上の調和解析

前節では, 簡約型対称空間 G/H の固定部分群 H にコンパクト因子が存在する場合を論じたが, この節では H に非コンパクトアーベル群因子がある場合を扱う.

偶数次元多様体 M^{2n} が\underline{パラ複素構造}(paracomplex structure) を持つとは, M の接バンドル T M がファイバー次元の等しい Whitney 直和 T^{+}M ⊕ T^{−}M に分解され, T^{±}M が完全積分可能なときを言う [64]. パラ複素構造を持つ M 上の擬リーマン計量 g がパラエルミート計量であるとは, M の各点 x に対して T_{x}^{±}M ⊂ T_{x}M が g に関して極大全等方的部分空間であるときをいう. 半単純対称空間 G/H が\underline{パラエルミート対称空間}となる必要十分条件は, 金行-香西によって, H が非コンパクトな中心 C をもつという性質で与えられ ([39] 定理 3.7), この特徴づけにより半単純パラエルミート対称空間は分類される. G/H = SL(p + q, R)/S(GL(p, R) × GL(q, R)), Sp(n, R)/GL(n, R) SO^{∗}(4n)/SU^{∗}(2n) × R, などがその例である. さて, 群準同型 1 → C → H → H/C → 1 は split するので, C の指標 χ は H に自明に拡大される. この指標も同じ記号 χ で表すことにする. 定理 5.1. G/H を半単純パラエルミート対称空間とする. 上の記法の下で次の条件は同値である.

(1) G/H の双対なリーマン対称空間は管状領域 (tube domain) 型のエルミート対称空間である.

(2) H の任意のユニタリ表現 (τ, V_{τ}) と C の任意のユニタリ指標 χ に対して G のユニタリ表現としての同型 L^{2}(G/H, τ ⊗ χ) ≃ L^{2}(G/H, τ) が存在する.

例 5.2. パラエルミート対称空間 G/H = GL(p + q, R)/GL(p, R) × GL(q, R) の双対なリーマン対称空間は U(p, q)/U(p) × U(q) であるから定理の (1) の条件は p = q と同値となる.

証明について触れよう. (1) ⇒ (2) は H がコンパクト群と R^{j} の直積の場合に Lipsman, Martin によって用いられたアイディア ([65], [67]) を拡張することによって得られる. ここでは, 表現論の専門的な言葉を避けて, その代わりにパラエルミート構造という幾何的な言葉でそのアイディアを説明しよう. 仮定より M = G/H はパラ複素構造 T M = T^{+}M ⊕ T^{−}M を持つ. 原点を通り T^{+}M に沿った極大積分多様体を W_{+} とする. G の M = G/H への作用において部分多様体 W_{+} を保つ元からなる G の部分群を P_{+} と書くと, P_{+} は H を部分群として含み W_{+} ≃ P_{+}/H ⊂ G/H ≃ M となる. H から G への誘導表現の途中段階としてまず積分多様体 W_{+} 上の V_{τ} 値関数の作る Hilbert 空間に P_{+} のユニタリ表現を実現する. 同様に τ ⊗ χ からも V_{τ⊗χ} ≃ V_{τ} 値関数の空間に P_{+} のユニ 18 小林俊行 (東京大学数理科学研究科) タリ表現を実現する. (1) の条件が満たされているならば等方線型表現 H → GL(T_{o}W_{+}) は正則な概均質ベクトル空間となり ([87]), その相対不変式を用いて, この２つの P_{+} のユニタリ表現の間のユニタリ同値写像を構成することができる. 逆に, (1) が成り立たなければ τ = 1 のとき対称空間の連続主系列 ([79],[81],[5]) を比較することにより (2) が成り立たないことがわかる.

6. 表現の分岐則と離散系列への応用

この節の題材は主に [54] にある. 「H の自明な表現を G に誘導した表現 Ind(H ↑ G; 1) ≃ L^{2}(G/H) を G の既約表現に分解せよ」という問題が等質多様体 G/H 上の非可換調和解析の基本問題であるとするならば, 誘導表現の Frobenius 双対である「G の既約表現を部分群 H に制限したときの H の既約表現に分解せよ」という問題 (\underline{表現の分岐則}; 物理でいう “breaking symmetry”) もユニタリ表現論の基本問題の一つである. H ⊂ G が実簡約リー群の場合両者の比較を模式的に表すと

L^{2}(G/H) (H から G への誘導表現) G から H への制限
G がコンパクト  Peter-Weyl, Cartan-Helgason の定理有限次元表現の分岐則
G/H が群多様体  Harish-Chandra の Plancherel 定理テンソル積の分解
G/H がリーマン対称空間連続スペクトラムのみの分解離散直和 (Blattner 予想等)
G/H が半単純対称空間大島の Plancherel 定理  ?

特別な表現の制限を既約分解する過程に, 等質多様体上の L^{2}-調和解析が現れることがある. 極端な場合は, 両者が同値な問題になる. 次の２つの命題は, テンソル積の分解 (対称対 G × G ⊃ diag(G) に関して, 表現の制限を既約分解すること) が, ある特別な対称空間上の直線束における非可換調和解析と同等になる例である.

命題 6.1. 実単純リー群 G があるパラエルミート対称空間の自己同型群であると仮定する. このパラエルミート対称空間は等質多様体 G/H と表される. G の部分群 P_{+}, P_{−} を §5 のように定義し, χ_{1}, χ_{2} を H の非コンパクト中心のユニタリ指標を H に拡大した表現とする. このとき, 退化主系列のテンソル積 Ind(P_{+} ↑ G; χ_{1}) ⊗ Ind(P_{−} ↑ G; χ_{2}) は L^{2}(G/H, χ_{1} ⊗ χ_{2}) に同型である.

命題 6.2 ([85]). 実単純リー群 G がある非コンパクトなエルミート対称空間の自己同型群であると仮定する. このエルミート対称空間は等質多様体 G/K と表される. λ_{j} ∈ \sqrt{−1}𝔤^{∗} (j = 1, 2) を integral な十分大きい楕円型の元で 𝔤(λ_{j}) = 𝔨 を満たす元とする. 𝔮(λ_{1}) ≠ 𝔮(λ_{2}) ならば, 正則離散系列と反正則離散系列のテンソル積 Π(G, λ_{1}) ⊗ Π(G, λ_{2}) は L^{2}(G/K, C_{λ_{1}+λ_{2}}) にユニタリ同値である.

簡約型等質多様体上の調和解析とユニタリ表現論 19

前者の L^{2}(G/H, χ_{1} ⊗ χ_{2}) の Plancherel の定理は χ_{1} + χ_{2} = 0 または定理 (5.1) の条件が満たされているならば大島の Plancherel 定理 (未発表; [79],[82]) に帰着する. 後者の L^{2}(G/K, C_{λ+μ}) の Plancherel の定理は λ_{1} + λ_{2} = 0 の場合は Harish-Chandra, Helgason, Gangolli 等により 60 年代に解かれ ([33]), λ_{1}, λ_{2} が一般の場合は示野, Heckman ([97], [30]) によって具体的に求められた (定理 (3.1)(3) 参照). この２つの例からもわかるように, ユニタリ表現 π ∈ Ĝ を G の部分群 G′ に制限しての G′ の既約表現に具体的に分解することは π ∈ Ĝ と (G, G′) が非常に特別な組み合わせでも多くの内容を含む. さらに一般には, π ∈ Ĝ が楕円型軌道に付随する G の既約ユニタリ表現であり, (G, G′) が対称対であっても π_{|G′} の既約分解には多岐にわたる現象が混在する ([22], [54]). この観点から, ユニタリ表現の分岐則を扱う場合には, 広すぎる設定ではなく, 良い枠組みを見つける事がまず重要であると考えられる. 代数的に分岐則を扱えるという利点を強調して, 次の定義を導入する.

定義 6.3 ([54]). G のユニタリ表現 π が\underline{G-admissible} であるとは π が G の既約ユニタリ表現の高々可算な直和に分解されその各々に現れる分解の重複度は有限である場合をいう.

例 6.4. 1) (Harish-Chandra) 実簡約リー群 G の任意の既約ユニタリ表現 π ∈ Ĝ を極大コンパクト部分群 K に制限したとき π_{|K} は K-admissible [26].

2) (Gelfand, Piatecki-Šapiro) Γ が G の余コンパクト部分群ならば L^{2}(G/Γ) は G-admissible [23].

3) (Martens) π ∈ Ĝ は正則離散系列, H ⊃ Z(K) ならば制限 π_{|H} は H-admissible [66].

4) (Howe) π は G = S̃p の Weil 表現, (G, H) は dual reductive pair, H はコンパクト因子を持つならば π_{|H} は H-admissible [35].

上記の admissible という状況においては, 具体的な既約分解の公式は代数的に取り扱うことができるという利点があり, 多くの研究がなされている ([29], [101], [66], [37], [38], [41], [1]). しかし, 例 (6.4) に挙げた設定では仮定になんらかのコンパクト的な性質が潜んでいた. すなわち, (1) では部分群 G′ がコンパクト, (2) では等質多様体 G/Γ がコンパクト, (3),(4) では表現が (コンパクトリー群の表現と同じように) 最高ウェイトを含むという性質^{∗5)} である. この節の前半の主題は, コンパクト的な性質が希薄な仮定の下でも admissible の状況が起こりうる事を発見することである.

(G, G′) を σ ∈ Aut(G) によって定義された簡約対称対とする. σ と可換な G の Cartan involution θ をとり, K = G^{θ} のリー環 𝔨 の部分空間を 𝔨_{±} := {X ∈ 𝔨 : σ(X) = ±X} で定義する. 𝔨_{−} の極大な可換部分代数 𝔱_{−} を含む 𝔨 の Cartan 部分代数を 𝔱 とする. 制限ルート系 Σ(𝔨_{C}, 𝔱_{−C}) の正のルートの集合を決め, それに compatible になるようにルート系 Δ(𝔨_{C}, 𝔱_{C}) の正のルートの集 20 小林俊行 (東京大学数理科学研究科) 合 Δ^{+}(𝔨_{C}, 𝔱_{C}) を選ぶ. 任意の楕円型軌道 (⊂ \sqrt{−1}𝔤^{∗}) は Δ^{+}(𝔨_{C}, 𝔱_{C}) に関する dominant Weyl chamber と一点で交わり, その点を λ ∈ \sqrt{−1}𝔱^{∗} とする. 𝔮(λ) = 𝔩_{C} + 𝔲(λ) とおき, \sqrt{−1}𝔱^{∗} の閉錐を

C_{+}(λ) := { ∑_{β∈Δ(𝔲(λ)∩𝔭,𝔱)} n_{β} β : n_{β} ≥ 0} と定義する.

定理 6.5 [54]. 上の設定の下で, C_{+}(λ) ∩ \sqrt{−1} 𝔱_{−}^{∗} = \{0\} ならば, G のユニタリ表現 Π(G, λ) の制限 Π(G, λ)_{|G′} は G′-admissible である.

また次の定理は, Π(G, λ) の非消滅に関する判定条件を問題 (2.10) の手法 (4), すなわち, K-type の具体的公式によって決定する際の正当化に用いられた ([51] 4 章) ものであるが, Gross-Prasad 予想 [25] に関連した研究において特別な場合が最近 Gross-Wallach によって再発見された (未発表).

定理 6.6 ([51], [54]). 実簡約リー群 G の極大コンパクト部分群 K が K_{1} × K_{2} と (局所的に) 直積に分解されているとする. G の簡約部分群 G′ が K_{1} を含み, integral な楕円型軌道 Ad(G)λ が \sqrt{−1}𝔨_{1}^{∗} と交わるならば, G のユニタリ表現 Π(G, λ) の制限 Π(G, λ)_{|G′} は G′-admissible である.

この２つの定理の証明は Π(G, λ) の代数的性質 (定理 (2.2)) と K-type の評価から容易に行うことができるが, 指標超関数の singularity spectrum ([43]) の評価による代数解析的方法でも説明できる. また, admissible の枠組みの中で分岐則の具体的な公式が様々な場合に実際に求められている ([50],[54],[55]). さて, G′ をリー群 G の部分群とする. 多様体 X に G が作用しており多様体 X′ には G′ が作用しているという設定において, G′-共変写像 f: X′ → X の表現論における対応物は函数空間の引き戻し写像 f^{∗}: Γ(X) → Γ(X′) であり, f^{∗} を通じて G の表現を部分群 G′ に制限するという問題が自然に現れる. 特に, 楕円型軌道に付随したユニタリ表現 Π(G, λ) は局所リーマン対称空間 (例 (2.6)) や対称空間の離散系列 (例 (2.9), §4) と密接に結びついており, Π(G, λ) の部分群へ制限する問題は, 自然な形で多くの応用につながると考えられる. ここでは, 最も簡単な応用のみ述べる. 次の定理は, §3 の等質リーマン多様体のラプラシアンの点スペクトラム (例 (3.3)) と§4 の不定値 Stiefel 多様体の離散系列 (例 (4.2), 定理 (4.3)) という一見異なる 2 つの結果を表現の分岐則 (admissible) を通じて, 相互の関係を明らかにした結果 ([50], [99], [36]) の抽象的な枠組みでもある.

定理 6.7 ([55]). G ⊃ H, G′, H′ = H ∩ G′ は実簡約リー群, P′ は G′ の極小放物型部分群とし, dim G/H = dim G′/H ∩ G′ かつ dim G′/H′ = dim P′/H′ ∩ P′ が成り立てば, 重複度をこめた意味で, 全単射 ⋃_{π∈Disc(G/H)} Disc(π_{|G′}) ≃ Disc(G′/H′) が存在する.

上の定理の設定で, G/H の離散系列表現とその表現を G′ に制限したときの分岐則がわかれば,

簡約型等質多様体上の調和解析とユニタリ表現論 21

等質多様体 G′/H′ の離散系列の構成と分類が得られる事に注意しよう. どのような簡約型等質多様体に離散系列が存在するかという基本問題は対称空間を除いては, 従来, 殆ど知られていなかった. 定理 (6.5), 定理 (6.6), 定理 (6.7) の組み合わせによって\underline{spherical} と呼ばれる等質多様体のクラス^{∗6)} のさまざまな実形についてこの問題の解答を与えることができる ([54]). 例 6.8 (非対称型の簡約型等質多様体の離散系列). Disc(SU(2p − 1, 2q)/Sp(p − 1, q)) ≠ ∅ (∀p, q), Disc(SO(2p − 1, 2q)/U(p − 1, q)) ≠ ∅ ⇔ pq ∈ 2Z, Disc(SO(4, 3)/G_{2}(R)) ≠ ∅.

最後に一般の簡約型等質多様体上の離散系列に関する次の定性的な性質を述べよう. §4 や §6 で得られた新しい離散系列はこの予想の傍証を与えている. 予想 6.9. G/H を簡約型等質多様体とする. Disc(G/H) ≠ ∅ ならばユニタリ同値でない無限個の離散系列が存在するであろう.

注 1) i) Langlands の行列要素の漸近挙動によるもの, ii) Vogan の minimal K-type および Zuckerman の導来函手加群を用いるもの, iii) Beilinson-Bernstein の旗多様体上の D-加群を用いるものである ([62], [47], [101], [8]). なお, (ii) を２つに分けて, 分類法が４種類あるとみなす考え方もある ([96]). 注 2) 実簡約リー群 G が GL(n, R), SU^{∗}(2n), 古典型複素リー群, あるいは実ランクの低い場合には Ĝ は分類されており, 一方 G = SO(p, q), SU(p, q), Sp(p, q), Sp(n, R), SO^{∗}(2n) (p, q, n は一般) などでは Ĝ の分類は未解決である ([4], [103], [6], [108] 及びその文献表参照). 注 3) H が非コンパクトのとき, G/H の不連続群がどの程度豊富にあるか (例えば, Calabi-Markus 現象 [15], [116] や一様格子の存在の判定条件) については, まだ多くが未解決問題である. G/H が簡約型の場合には, 最近, 次のような進展がある ([61], [112], [49], [52], [53], [9], [119]). 注 4) Poisson 変換の言葉に翻訳して maximal globalization をとると, Helgason 予想 (定理) と同等になる ([31],[40],[96]). 注 5) G が非コンパクトな実簡約リー群では, 既約ユニタリ表現は必ずしも最高ウェイトを持たない. なお, 最高ウェイトを持つ既約ユニタリ表現は分類されている. 注 6) 対称空間よりやや広いクラスで, コンパクトな場合には分類されている ([60], [14]).

References

簡約型等質多様体上の調和解析とユニタリ表現論 23

[[1]] J.Adams, Discrete spectrum of the dual reductive pair

(O(p, q), Sp(2m)), Invent.Math. 74 (1984), 449-475. [[2]] J.Adams, D.Barbasch and D.Vogan, The Langlands

Classification and Irreducible Characters for Real Reductive Groups, Progress in Math. 104, vol. 104, Birkhäuser, 1992.

[[3]] M.Atiyah and W.Schmid, A geometric construction of the discrete series for semisimple Lie groups, Invent. Math. 14 (1977), 1-62.

[[4]] M.W.Baldoni-Silva and A.Knapp, Irreducible unitary representations of some groups of real rank two, Lect. Notes. Math. 1243 (1987), 15-36.

[[5]] van den Ban and H.Schlichtkrull, Multiplicities in the Plancherel decomposition for a semisimple symmetric spaces, Contemp. Math. 145 (1993), 163-180.

[[6]] D.Barbasch, The unitary dual for complex classical Lie

groups, Invent. Math. 96 (1989), 103-176. [[7]] L.Barchini, A.Knapp and R.Zierau, Intertwining opera-

tors into Dolbeault cohomology representations, J. Funct. Anal. 106 (1992).

[[8]] A.Beilinson and J.Bernstein, Localisation de 𝔤-modules,

C. R. Acad. Sci. Paris (1981), 15-18. [[9]] Y.Benoist and F.Labourie, Sur les espaces homogenes

modeles de varietes compactes, (to appear).

24 小林俊行 (東京大学数理科学研究科)

[[10]] F.Bien, D-modules and Spherical Representations,

Math. Notes 39, Princeton U.P., 1990. [[11]] A.Borel, Compact Clifford-Klein forms of symmetric

spaces, Topology 2 (1963), 111-122. [[12]] A.Borel and N.Wallach, Continuous Cohomology, Dis-

crete Subgroups, and Representations of Reductive Groups, Ann. Math. Stud. 94, Princeton U.P., 1980.

[[13]] R.Bott, Homogeneous vector bundles, Ann. Math. 66

(1968), 203-248. [[14]] M.Brion, Classification des espaces homogenes spheriques,

Compositio Math. 63-2 (1987), 189-208. [[15]] E.Calabi and L.Markus, Relativistic space forms, Ann.

of Math. 75 (1962), 63-76. [[16]] J.T.Chang, Remarks on localization and standard

modules: The duality theorem on a generalized flag variety, Proc. A.M.S. 117 (1993), 585-591.

[[17]] D.Collingwood, Representations of Rank One Lie

Groups, Research notes in Math. 137, Pitman, 1985. [[18]] T.J.Enright, R.Parthasarathy, N.R.Wallach, and J.A.Wolf,

Unitary derived functor module with small spectrum, Acta.Math. 154 (1985), 105-136.

[[19]] T.J.Enright and J.A.Wolf, Continuation of unitary derived functor modules out of the canonical chamber, Soc. Math. France, Mémoire 15 (1984), 139-156.

[[20]] M.Flensted-Jensen, Discrete series for semisimple

symmetric spaces, Ann. of Math. 111 (1980), 253-311. [[21]] , Analysis on Non-Riemannian Symmetric Spaces,

Conf. Board, 61, A.M.S., 1986. [[22]] I.M.Gelfand and M.I.Graev, Geometry of homoge-

neous spaces, representations of groups in homogeneous spaces, and related questions of integral geometry, Transl. II. Ser., A.M.S. 37 (1964), 351-429.

[[23]] I.M.Gelfand, M.I.Graev and I.Piatecki-Šapiro, Representation Theory and Automorphic Functions, Saunders Math. Books, 1969.

[[24]] S.G.Gindikin and F.I.Karpelevič, Plancherel measure of Riemannian symmetric spaces of non-positive curvature, Soviet Math. Dokl 3 (1962), 962-965.

[[25]] B.H.Gross and D.Prasad, On the decomposition of a representation of SO_{n} when restricted to SO_{n−1}, Canad. J. Math. 44 (1992), 974-1002.

[[26]] Harish-Chandra, Representations of semi-simple Lie groups, I, III, Trans.A.M.S. 75, (1953), 185-243; 76, (1954), 234-253; IV, Amer.J.Math. 77, (1955), 743-777.

[[27]] , Harmonic analysis on real reductive groups, I, J. Funct. Anal., 19, (1975), 104-204; II, Invent, Math., 36, (1976), 1-55; III, Ann. Math., 104, (1976), 117-201.

[[28]] H.Hecht, D.Miličic, W.Schmid and J.A.Wolf, Localization and standard modules for real semisimple Lie groups, Invent.Math. 90 (1987), 297-332.

26 小林俊行 (東京大学数理科学研究科)

[[29]] H.Hecht and W.Schmid, A proof of Blattner’s conjec-

ture, Invent. Math. 31 (1976), 129-154. [[30]] Heckman, Lectures on hypergeometric and spherical

functions, Notes at Luminy (1991). [[31]] S.Helgason, A duality for symmetric spaces with appli-

cations to group representations I, II, Adv. in Math. 5, (1970), 1-154; 22, (1976), 187-219.

[[32]] , Differential Geometry, Lie Groups and Symmetric Spaces, Pure and Appl. Math. 80, vol. 80, Academic Press, 1978.

[[33]] , Groups and Geometric Analysis, Pure and

Appl. Math. 113, vol. 113, Academic Press, 1984. [[34]] 堀田良之, 対称空間上の楕円複体, 数学 22 (1970),

204-216. [[35]] R.Howe, θ-series and invariant theory, Proc. Symp.

Pure Math. 33 (1979), 275-285, A.M.S.. [[36]] R.Howe and E.Tan, Homogeneous functions on light

cones, Bull. A.M.S. 28 (1993), 1-74. [[37]] H.P.Jakobsen, Tensor products, reproducing kernels,

and power series, J. Funct. Anal. 31 (1979), 293-305. [[38]] H.P.Jakobsen and M.Vergne, Restrictions and expan-

sions of holomorphic representations, J. Funct. Anal. 34 (1979), 29-53.

[[39]] S.Kaneyuki and M.Kozai, Paracomplex structures and affine symmetric spaces, Tokyo J. Math. 8 (1985), 81-98.

[[40]] M.Kashiwara, A.Kowata, K.Minemura, K.Okamoto, T.Oshima and M.Tanaka, Eigenfunctions of invariant differential operators on a symmetric space, Ann. of Math. 107 (1978), 1 - 39.

[[41]] M.Kashiwara and M.Vergne, On the Segal-Shale-Weil representations and harmonic polynomials, Invent. Math. 44 (1978), 1-47.

[[42]] , K-types and singular spectrum, Lect. Notes.

in Math. 728 (1979), 177-200. [[43]] M.Kashiwara, T.Kawai and T.Kimura, Foundations of

Algebraic Analysis, Princeton Math. Series 37, 1986. [[44]] A.A.Kirillov, Unitary representations of nilpotent Lie

groups, Russian Math. Surveys 4 (1962), 53-104. [[45]] A.Knapp, Lie Groups, Lie Algebras and Representa-

tion Theory, Math. Notes 34, Princeton U.P., 1988. [[46]] , Representation Theory of Semisimple Groups,

an overview based on examples, Princeton Math. Series 36, 1986.

[[47]] A.Knapp and G.J.Zuckerman, Classification of irreducible tempered representations of semisimple groups, Ann. Math. 116 (1982), 381-501.

[[48]] T.Kobayashi, Construction of discrete series for vector bundles over semisimple symmetric spaces, master thesis I (1987) U. Tokyo; 数理解析研究所講究録 642 (1988), 134-156.

[[49]] , Proper action on a homogeneous space of re-

ductive type, Math. Ann. 285 (1989), 249-263. [[50]] , 半単純対称空間のベクトル束値関数に実現され

るユニタリ表現, 第 28 回実函数論 · 第 27 回函数解析学合同シンポジウム報告集 (1989), 39-54.

[[51]] , Singular Unitary Representations and Discrete Series for Indefinite Stiefel Manifolds U(p, q; F)/U(p−m, q; F), vol. 462, Memoirs A.M.S. 462, 1992.

[[52]] , Discontinuous groups acting on homogeneous spaces of reductive type, Proceedings of ICM-90 Satellite Conference on Representation Theory of Lie Groups and Lie Algebras, Fuji-kawaguchiko, (1992), 59-75, World Scientific.

[[53]] , A necessary condition for the existence of compact Clifford-Klein forms of homogeneous spaces of reductive type, Duke Math. J. 67 (1992), 653-664.

[[54]] , Discrete decomposability of the restriction of A_{𝔮}(λ) with respect to reductive subgroups and its applications, (to appear in Invent. Math.).

[[55]] , The Restriction of A_{𝔮}(λ) to reductive sub-

groups, Proc. Acad. Japan 69 (1993), 262-267. [[56]] T.Kobayashi, K.Ono and T.Sunada, Periodic Schrödinger

operators on a manifold,, Forum Mathematicum 1-1 (1989), 69-79.

簡約型等質多様体上の調和解析とユニタリ表現論 29

[[57]] B.Kostant, Lie algebra cohomology and the generalized

Borel-Weil theorem, Ann. of Math. 74 (1961), 329-387. [[58]] , Orbits, symplectic structures and representa-

tion theory, Proc. U.S.-Japan Sem. on Diff. Geom., Kyoto (1965).

[[59]] , Irreducibility of certain series of representations, Publication of 1971 Summer School in Math., (ed. I.M.Gel’fand), Bolyai-Janos Math.Soc., Budapest.

[[60]] M.Krämer, Sphärische Untergruppen in kompakten zusammenhängenden Liegruppen, Compo. Math. 38-2 (1979), 129-153.

[[61]] R.S.Kulkarni, Proper actions and pseudo-Riemannian

space forms, Advances in Math. 40 (1981), 10-51. [[62]] R.Langlands, On the classification of irreducible repre-

sentations of real algebraic groups, mimeographed notes (1973).

[[63]] J.S.Li, On the discrete series of generalized Stiefel

manifolds, Trans. A.M.S. 340 (1993), 753-766. [[64]] R.Libermann, Sur le structures presque paracomplexes,

C.R. Acad. Sci. Paris 234 (1952), 2517-2519. [[65]] R.Lipsman, On the unitary representation of a semisim-

ple Lie group given by the invariant integral on its Lie algebra, Adv. Math. Suppl. 6, (1979) 143-158; II, Canad. J. Math. 29, (1977) 1217-1222..

[[66]] S.Martens, The characters of the holomorphic discrete

series, Proc.Nat.Acad.Sci. USA 72 (1975), 3275-3276. [[67]] R.Martin, On the decomposition of tensor products

of principal series representations for real-rank one semisimple groups, Trans. A.M.S. 201 (1975), 177-211.

[[68]] T.Matsuki, A description of discrete series for semisimple symmetric spaces II, Advanced Studies in Pure Math. 14 (1988), 531-540.

[[69]] T.Matsuki and T.Oshima, A description of discrete series for semisimple symmetric spaces, Advanced Studies in Pure Math. 4 (1984), 331-390.

[[70]] , 半単純対称空間上の離散系列の存在条件, 数理

解析研究所講究録 642 (1988), 119-133. [[71]] Y.Matsushima and S.Murakami, On vector bundle val-

ued harmonic forms and automorphic forms on symmetric spaces, Ann. Math. 78 (1963), 365-416.

[[72]] H.Matumoto, On the representations of U(m, n) uni-

tarily induced from derived functor modules, Preprint. [[73]] K.Minemura, Invariant differential operators and spher-

ical sections on a homogeneous vector bundle, Tokyo J. Math. 15 (1992), 231-245.

[[74]] G.D.Mostow, Self-adjoint groups, Ann. of Math. 62

(1955), 44-55. [[75]] G.D.Mostow and T.Tamagawa, On the compactness

of arithmetically defined homogeneous spaces, Ann. of Math. 76 (1962), 446-463.

[[76]] 落合卓四郎, リーマン多様体上のラプラシアンのスペク

トラムについて, 数学 39 (1987), 237-242. [[77]] 岡本清郷, Borel-Weil 理論について, 数学 23 (1971),

34-44. [[78]] T.Oshima, Fourier analysis on semisimple symmetric

spaces, Lect. Note Math. 880 (1980), 357-369. [[79]] , 半単純対称空間上の調和解析, 数学 37 (1985),

97-112. [[80]] , Asymptotic behavior of spherical functions on

semisimple symmetric spaces, Advanced Studies in Pure Math. 14 (1988), 561-601.

[[81]] , A realization of semisimple symmetric spaces and construction of boundary value maps, Advanced Studies in Pure Math. 14 (1988), 603-650.

[[82]] , A method of harmonic analysis on semisimple symmetric spaces, Algebraic analysis II (1988), 667-680, Academic Press..

[[83]] R.Parthasarathy, Criteria for the unitarizability of some highest weight modules, Proc. Indian Acad. Sci. 89 (1980), 1-24.

[[84]] F.Peter and H.Weyl, Die Vollständigkeit der primitiven Darstellungen einer geschlossenen kontinuierlichen Gruppe, Math. Ann. 97 (1927), 737-755.

[[85]] J.Repka, Tensor products of holomorphic discrete series representations, Can. J. Math. 31 (1979), 836-844.

[[86]] H.Rossi and M.Vergne, Analytic continuation of the holomorphic discrete series of a semisimple Lie group., Acta Math. 136 (1976), 1 - 59.

[[87]] H. Rubenthaler, Espaces prehomogenes de type parabolique, Lectures on harmonic analysis on Lie groups and related topics (Strasbourg, 1979), Lect. in Math., 14, (1982), 189 - 221, Kinokuniya.

[[88]] S. Salamanca Riba, On the unitary dual of some clas-

sical Lie groups, Compo. Math. 68 (1988), 251-303. [[89]] H.Schlichtkrull, The Langlands parameters of Flen-

sted-Jensen’s discrete series for semisimple symmetric spaces, J.Funct.Anal. 50 (1983), 133-150.

[[90]] , Hyperfunctions and Harmonic Analysis on Symmetric Spaces, Progress in Math. 49, Birkhäuser, 1984.

[[91]] , A series of unitary irreducible representations induced from a symmetric subgroup of a semisimple Lie group, Invent.Math. 68 (1982), 497-516.

[[92]] , Eigenspaces of the Laplacian on hyperbolic spaces: composition series and integral transforms, J. Funct. Anal. 70 (1987), 194-219.

[[93]] W.Schmid, Homogeneous complex manifolds and representations of semisimple Lie groups, Ph.D. Thesis, U.C.Berkeley (1967).

[[94]] , On a conjecture of Langlands, Ann. Math. 93 (1971), 1-42.

[[95]] , Boundary value problems for group invariant differential equations, Asterisque, hors s’erie, Élie Cartan et les mathématiques d’aujourd’hui.

[[96]] , Construction and classification of irreducible Harish-Chandra modules, Harmonic Analysis on Reductive Groups, Progress in Math. 101, Birkhäuser, 1991, pp. 235-275.

[[97]] N.Shimeno, The Plancherel formula for spherical functions with a one-dimensional K-type on a simply connected simple Lie group of Hermitian type, Ph.D. dissertation, Univ. Tokyo (1993).

[[98]] 砂田利一, 基本群とラプラシアン, 紀伊国屋, 1988. [[99]] N.Y.Vilenkin and U.Klimyk, Spectral expansions of

some representations of Lie groups, Ukrain. Math.J. 42 (1990), 116-118.

[[100]] D.Vogan, Irreducible characters of semisimple Lie

groups. I, Duke Math.J. 46 (1979), 61-108. [[101]] , Representations of Real Reductive Lie Groups,

Progress in Math. 15, Birkhäuser, 1981. [[102]] , Unitarizability of certain series of representa-

tions, Ann. of Math. (1984), 141-187. [[103]] , The unitary dual of GL(n) over an archimedean

field, Invent.Math. (1986), 449-505. [[104]] , Unitary Representations of Reductive Lie

Groups, Ann. Math. Stud. 118, Princeton U.P., 1987.

34 小林俊行 (東京大学数理科学研究科)

[[105]] , Irreducibility of discrete series representations for semisimple symmetric spaces, Advanced Studies in Pure Math. 14 (1988), 191-221.

[[106]] , Unipotent representations and cohomological

induction, Preprint. [[107]] , Isolated unitary representations, Preprint. [[108]] , The unitary dual of G_{2}, (to appear in Invent.

Math.). [[109]] Vogan and Zuckerman, Unitary representations with

non-zero cohomology, Comp. Math. 53 (1984), 51-90. [[110]] N.R.Wallach, The analytic continuation of the dis-

crete series. I, II, Trans. A.M.S. 251 (1979), 1 - 17, 19

- 37. [[111]] , On the unitarizability of derived functor mod-

ules, Invent.Math. 78 (1984), 131-141. [[112]] , Two problems in the theory of automor-

phic forms, Open Problems in Representation Theory, pp. 39-40, Katata, 1986.

[[113]] , Real Reductive Groups I, II, Pure and Appl.

Math. 132, vol. 132, Academic Press, 1988, 1992. [[114]] G.Warner, Harmonic Analysis on Semisimple Lie

Groups I, II, Springer Verlag, Berlin, 1972. [[115]] H.Weyl, Theorie der Darstellung kontinuierlicher

Gruppen I, II, III, Math. Z., 23, (1925), 271-309 24, (1925), 328-376, 377-395.

簡約型等質多様体上の調和解析とユニタリ表現論 35

[[116]] J.A.Wolf, The Clifford-Klein space forms of indefinite

metric, Ann. of Math. 75 (1962), 77-80. [[117]] H.Wong, Dolbeault cohomologies and Zuckerman mod-

ules associated with finite rank representations, Ph.D. dissertation, Harvard University (1991).

[[118]] H.Yamashita, Criteria for the finiteness of restriction of U(𝔤)-modules to subalgebras and applications to Harish-Chandra modules, Proc. Japan Acad. 68, (1992) 316-321..

[[119]] R.J.Zimmer, Discrete groups and non-Riemannian

homogeneous spaces, (Preprint). [[120]] G.Zuckerman, Tensor products of finite and infinite

dimensional representations of semisimple Lie groups, Ann. of Math. 106 (1977), 295-308.