O(p, 2) の極小表現と反転の積分表示^{∗}

京都大学・数理解析研究所小林俊行 (Toshiyuki Kobayashi) 京都大学・数理解析研究所真野元 (Gen Mano) Research Institute for Mathematical Sciences, Kyoto University

toshi@kurims.kyoto-u.ac.jp gmano@kurims.kyoto-u.ac.jp

概要

O(p, q) （p + q は偶数）の極小ユニタリ表現 π は ℝ^{p+q−2} の円錐 C 上の二乗可積分関数からなるヒルベルト空間 L^{2}(C) の上で実現することができる（定理 A）。このモデルはメタプレクティック群の Weil 表現（oscillator 表現、 Segal-Shale-Weil 表現ともよばれる）の Schrödinger モデルと多くの類似性をもつ幾何的実現である。 Weil 表現の Schrödinger モデルでは、 Siegel 放物型部分群の反転を与える元は、本質的には Fourier 変換として作用し、さらに、これは複素半群への解析接続である Hermite 半群の境界値として得られることが知られている。これに相当する結果として、この論稿の後半では、 L^{2}(C) に実現した O(p, 2) の極小ユニタリ表現について、「反転」元がどのようなユニタリ作用素で表されるか、また O(p + 2, ℂ) のある複素半群への解析接続がどのような形で作用するかを具体的に決定する。これらの積分公式の核関数は変形ベッセル関数によって表示される（定理 D、定理 B）。これらの結果の特別な場合として、古典的に知られている Fourier-Bessel 変換の再帰公式や Weber の積分公式に群論的な新しい意味が与えられる（定理 C）。

目次

1  はじめに  2
2  錐上の二乗可積分関数  4

∗ 京都大学数理解析研究所における研究集会「表現論および等質空間上の調和解析」 2004 年 8 月 9 日〜8

月 12 日（研究代表者：井上順子氏）における講演記録

3  O(p, q) の極小表現の Schrödinger モデル  6
4  O(p, 2) の極小表現に対する積分公式  9
5  反転作用素に対する積分公式  12

1 はじめに

この解説では、不定値直交群 O(p, q) (p + q は偶数) の極小表現 π の L^{2} モデルを扱う。特に、 q = 2 の場合の極小表現は、そのリー代数 𝔬(p, 2) の（あるいは O(p, 2) の連結成分 SO_{0}(p, 2) の）最高ウェイト表現と最低ウェイト表現の直和である。この表現について、リー群 O(p, 2) のユニタリ作用素および、複素半群の表現を与える縮小作用素の積分公式を説明する。

動機を説明するために、シンプレクティック群 Sp(n, ℝ) の二重被覆群であるメタプレクティック群{ \atop Sp(n, ℝ)} の Segal-Shale-Weil 表現 ϖ を思い出すことにしよう。この表現は様々な美しい側面があり、歴史的にも多くの研究がなされているが、ここでは特に ϖ をヒルベルト空間 L^{2}(ℝ^{n}) に実現する Schrödinger モデルを取り上げる。 Schrödinger モデルの特徴を手短かにまとめると：

1) 表現空間・内積は簡単である；ただの L^{2}(ℝ^{n}) である。

2) 群全体{ \atop Sp(n, ℝ)} は関数空間 L^{2}(ℝ^{n}) に作用するが、多様体 ℝ^{n} に作用するのは Siegel 放物型部分群 P だけである。

3) ϖ を P に制限しても既約である。 P の L^{2}(ℝ^{n}) への作用は、単に、平行移動とアーベル群のユニタリ指標による乗法により与えられる。

4) リー環 𝔰𝔭(n, ℝ) の微分作用 dϖ は高々 2 階の微分作用素で与えられる。

5) ある特別な元 w_{0} が存在し（P に対する「反転」元）、対応する L^{2}(ℝ^{n}) の変換 ϖ(w_{0}) は本質的に Fourier 変換である。

Segal-Shale-Weil 表現は{ \atop Sp(n, ℝ)} の二つの既約ユニタリ表現に分解されて、それらは Joseph の意味で「極小表現」と呼ばれる。 Segal-Shale-Weil 表現以外の極小表現については特に解析的な立場ではまだ未知の部分が多いが、 1990 年代以降極小表現の代数的研究はかなり進んできた（例えば [16]）。

不定値直交群 O(p, q) (p, q ≥ 3) に関しては、 p + q > 8 が奇数なら極小表現が存在しないことが Vogan によって指摘されている [17]。 p + q が偶数の場合には、 Kostant[12] が p = q = 4 の場合に極小表現を構成したのが最初で、続いて、 Binegar-Zierau[1] が Kostant の構成法を一般の p, q(≥ 2) に拡張した。同じ表現の別な実現のモデルも多数発見されている：例えば、 SL(2, ℝ) の自明な表現の θ-lift として Huang-Zhu [6]、共形幾何（[7] の解説参照）の観点から山辺作用素の解空間として [10]、など。さらに、この表現は、 Kobayashi-Ørsted の第３論文 [11] では、 ℝ^{p+q−2} 上の符号 (p − 1, q − 1) の二次形式の零点として定まる円錐 C の上の L^{2} 関数のなすヒルベルト空間上に実現できることが証明された。^{*1}

第 2 節と第 3 節では (D 型の群である)O(p, q)(p + q は偶数) の極小表現のこの実現と、 (C 型の群である){ \atop Sp(n, ℝ)} の Segal-Shale-Weil 表現の Schrödinger モデルとを比較し、その似ている点を拾い上げながら先にあげた特徴 1)〜4) に沿って解説する。例えば、擬ユークリッド運動群 O(p − 1, q − 1) ⋉ ℝ^{p+q−2} は自然に L^{2}(C) に作用する。このとき、 O(p − 1, q − 1) ⋉ ℝ^{p+q−2} を含む極大放物型部分群\overline{P^{max}} は Siegel 放物型部分群に相当する役割を担う。このとき、\overline{P^{max}} に属さない元は L^{2}(C) にどのようなユニタリ作用素として作用するのだろうか？

第 4 節と第 5 節は q = 2 の場合についてこの問題を扱う。このとき、錐 C は二つの連結成分 C_{+} と C_{−} （未来錐と過去錐）に分かれる。そして未来錐に台を持つ関数からなる空間上には連結群 SO_{0}(p, 2) のユニタリ最高ウェイト表現を実現することができる。

この表現をより詳しく調べるために、極大コンパクト部分群の中心のリー環の生成元 \sqrt{−1}Z が定める微分作用素、すなわち、自己共役作用素

dπ(Z) = \frac{r}{4} \frac{∂^{2}}{∂r^{2}} + \frac{p − 2}{4} \frac{∂}{∂r} + \frac{Δ_{S^{p−2}}}{4r} − r

に注目し、 dπ(Z) によって生成される L^{2}(C_{+}) 上の Hilbert-Schmidt 作用素の（複素解析的）半群

π(e^{tZ}) = exp(tdπ(Z)) (Re t ≥ 0)

を具体的に計算する。ただし、 C_{+} を極座標によって ℝ_{+} × S^{p−2} と同一視した。 π(e^{tZ}) の作用素ノルムは e^{− \frac{p−2}{2} Re t} であることがわかるので、 Re t > 0 という仮定の下で π(e^{tZ}) は縮小写像である。この半群は、 t ∈ \sqrt{−1}ℝ ならば e^{tZ} ∈ G であることから G の複素化 G_{ℂ} = O(p + 2, ℂ) の（G を境界とする）複素部分多様体への表現 π の解析接続を与えているといえる。

*1 Dvorsky-Sahi [2, p.206] では p ≠ q の場合には O(p, q) の極小表現を L^{2}(C) の形で実現することはで

きないと主張しているが、定理 A で述べるようにこの主張は正しくない。

実リー群 G の表現を G の複素化 G_{ℂ} における複素領域にまで解析接続するという問題意識は、 Gelfand-Gindikin プログラムと呼ばれ、 G = SL(2, ℝ) の場合に Gelfand-Gindikin [4] で提起され、より一般の Hermite リー群に対し、 Olshanskiǐ [13], Stanton [15] らが、最高ウェイト表現に対して複素半群への拡張定理を抽象的な形で示している。

定理Ｂ（第４節）では、この Gelfand-Gindikin プログラムを具体的な積分表示を与える形で実行する。そこでの主結果は、 L^{2}(C_{+}) 上の作用素 π(e^{tZ}) が、核関数

K^{+}(ζ, ζ′; t) := \frac{2e^{−\sqrt{2}(|ζ|+|ζ′|) coth \frac{t}{2}}}{π^{\frac{p−2}{2}} sinh^{\frac{p}{2}} \frac{t}{2}} \sqrt{2⟨ζ, ζ′⟩}^{− \frac{p−4}{2}} I_{\frac{p−4}{2}} (\frac{2\sqrt{2⟨ζ, ζ′⟩}}{sinh \frac{t}{2}})

に対する C_{+} の積分変換で具体的に与えられるという主張である。ただし、 I_{ν}(z) = \sqrt{−1}^{−ν}J_{ν}(\sqrt{−1}z) は変形ベッセル関数である。

定理Ｂで与えた L^{2}(C_{+}) 上の半群 {π(e^{tZ}) : Re t > 0} はガウス核を用いて与えられる L^{2}(ℝ^{n}) 上の Hermite 半群の類似物と考えられる（Segal-Shale-Weil 表現との関係については Howe [5] を参照；また [3] も参照）。つまり、以下の類似が成り立つ：

表現  Segal-Shale-Weil 表現  O(p, 2) の極小表現
核関数  (sinh t)^{− \frac{1}{2}} e^{− \frac{π}{sinh t} (|x|^{2} cosh t−2⟨x,y⟩+|y|^{2} cosh t)}  K^{+}(ζ, ζ′; t)
半群の生成元  −π|x|^{2} + \frac{1}{4π} ∑_{j=1}^{n} \frac{∂^{2}}{∂x_{j}^{2}}  dπ(Z)

ここで、 ⟨x, y⟩ は ℝ^{n} の通常の内積で、 |x| := \sqrt{⟨x, x⟩} はノルムである。

さらに、反転元 w_{0} が e^{π\sqrt{−1}Z} で与えられることに注目して、縮小作用素 π(e^{tZ}) が t が π\sqrt{−1} に近づいたときの「境界値」を考えると、ユニタリ作用素 π(w_{0}) の、積分公式を得ることができる（定理Ｄ (1)）。 Schrödinger モデルにおけるメタプレクティック群{ \atop Sp(n, ℝ)} の Weil 表現の場合には、そのような作用素 ϖ(w_{0}) は本質的に L^{2}(ℝ^{n}) の Fourier 変換にほかならないが（上記の特徴 5) を参照のこと）、不定値直交群 O(p, 2) の場合には、 Fourier-Bessel 変換が π(w_{0}) の記述に現れることがわかる（定理Ｄ (2)）。

なお、 O(p, q) (p, q ≥ 3) の場合にも π(w_{0}) を積分表示できる。これについては別の機会に述べたい。

2 錐上の二乗可積分関数

この節では、 O(p − 1, q − 1) の作用による引き戻しと ℝ^{p+q−2} の 1 次元ユニタリ表現による乗法によって得られる、半直積群 O(p − 1, q − 1) ⋉ ℝ^{p+q−2} のヒルベルト空間 L^{2}(C) 上への既約ユニタリ表現 π を記述する。この節の結果は旧知である。第３節では、この表現 π が O(p, q), (p + q ∈ 2ℕ) の極小表現に拡張することができることを説明する（定理Ａ参照）。

ℝ^{p−1,q−1} を、ユークリッド空間 ℝ^{p+q−2} に標準的な不定値計量

ds^{2} = dζ_{1}^{2} + ⋯ + dζ_{p−1}^{2} − dζ_{p}^{2} − ⋯ − dζ_{p+q−2}^{2}  (2.1)

が入った擬リーマン多様体とする。すると、 ℝ^{p−1,q−1} の等長変換群 Isom(ℝ^{p−1,q−1}) （すなわち擬ユークリッド運動群）は半直積群 O(p − 1, q − 1) ⋉ ℝ^{p+q−2} に同型である。

次に、錐 C を

C := {(ζ_{1}, ⋯, ζ_{p+q−2}) ∈ ℝ^{p+q−2} : ζ_{1}^{2} + ⋯ + ζ_{p−1}^{2} − ζ_{p}^{2} − ⋯ − ζ_{p+q−2}^{2} = 0} \ {0}

で定める。錐 C は p + q − 3 次元で不定値直交群 O(p − 1, q − 1) が推移的に作用する。極座標

ℝ_{+} × S^{p−2} × S^{q−2} → C, (r, ω, η) ↦ (rω, rη)  (2.2)

に関して、 C 上の測度 dμ を

dμ = \frac{1}{2}r^{p+q−5}drdωdη

で定義する。これは O(p − 1, q − 1) 不変な測度である。なぜなら、 d(ζ_{1}^{2} + ⋯ + ζ_{p−1}^{2} − ζ_{p}^{2} − ⋯ − ζ_{p+q−2}^{2}) ∧ θ = dζ_{1} ∧ ⋯ ∧ dζ_{p+q−2}.

を満たす任意の (p + q − 3) 次の微分形式 θ に対して θ|_{C} = dμ

となっているからである。

従って、引き戻しによって、ヒルベルト空間 L^{2}(C, dμ) ≡ L^{2}(C) 上に定義された O(p − 1, q − 1) の表現 π はユニタリになる。

続いて、アーベル群 ℝ^{p+q−2} を L^{2}(C) に π(b) : L^{2}(C) → L^{2}(C), ψ(ζ) ↦ e^{2\sqrt{−1}(b_{1}ζ_{1}+···+b_{p+q−2}ζ_{p+q−2})}ψ(ζ)

として作用させる。ここで b = (b_{1}, ⋯, b_{p+q−2}) ∈ ℝ^{p+q−2} である。 π(b) は明らかにユニタリである。

O(p−1, q−1) と ℝ^{p+q−2} の L^{2}(C) への上記の作用は半直積群 O(p−1, q−1)⋉ℝ^{p+q−2} の表現を定めることが示される（それを同じ記号 π で書くことにする）。さらに、この表現は既約である。まとめると（[11], Proposition 3.3 参照）：

命題 2.1. (π, L^{2}(C)) は半直積群 O(p − 1, q − 1) ⋉ ℝ^{p+q−2} の既約ユニタリ表現である。

3 O(p, q) の極小表現の Schrödinger モデル

一般的に、群 G の既約表現は、部分群 G′ に制限したときに、既約にはならない。換言すれば、部分群 G′ の既約表現が群 G の（同じ表現空間の）既約表現に拡張されることは極めて稀である。ところが、命題 2.1 全体で構成された O(p − 1, q − 1) ⋉ ℝ^{p+q−2} の既約ユニタリ表現が、次の包含関係：

O(p − 1, q − 1) ⋉ ℝ^{p+q−2} ⊂ O(p, q)  (3.1)

において、部分群から全体 O(p, q) に拡張できるのである。

定理 A ([11], Theorem 4.9, [8]). p + q ≥ 6 は偶数とし、 p, q ≥ 2 とする。このとき、半直積群 O(p − 1, q − 1) ⋉ ℝ^{p+q−2} の既約ユニタリ表現 (π, L^{2}(C)) は O(p, q) の既約ユニタリ表現に拡張される。

上の定理で G := O(p, q) に拡張された表現を同じ記号 π で表すことにする。この表現は p + q ≥ 8 のとき（Joseph が普遍包絡環を用いて定義した意味での）極小表現になっている。 π の Gelfand-Kirillov 次元は p + q − 3 であり、それは G の全ての既約無限次元ユニタリ表現の Gelfand-Kirillov 次元の中で最小の値である。

この表現 π は

min(p, q) = 2 のとき最高ウェイト表現と最低ウェイト表現の直和
p = q のとき  K-fixed vector をもつ表現（球表現）

となる。 p, q ≥ 3 かつ p ≠ q の場合には最高ウェイト表現でもなく K-fixed vector ももたない。

定理Ａの第二のポイントは、メタプレクティック群{ \atop Sp(n, ℝ)} の Segal-Shale-Weil 表現に対する Schrödinger モデルによく似た、群 G の極小表現に対するヒルベルト空間 L^{2}(C) 上のモデルを与えているということである。 Dvorsky と Sahi は [2, 14] で、メタプレクティック群以外のいくつかの群（例えば、半単純 Jordan 代数に付随した Koecher-Tits 群で O(p, q) 以外のもの）の極小表現に対して類似の結果を発表している。^{*2} なお、 [2, 14] の証明法では、 π が最高ウェイトをもつあるいは K-fixed vector を持つ表現（球表現）であるという仮定が本質的である。定理 A の証明法は [2, 14] とは全く異なり Fourier-Laplace 変換を直接計算するもので、最高ウェイト表現でもなく、 K-fixed vector を持たない（つまり球表現ではない）場合に対しても適用できる。このように、より一般の場合に対しても極小表現が L^{2}(C) という形の関数空間上に実現できることが示された。

*2 彼らの証明は解析的な部分に関してこのままでは不完全であることが多くの専門家によって指摘されてい

る。著者の一人による修正が出るとのことである。

定理Ａについて、群 G およびリー環 𝔤 が L^{2}(C) に作用しているのかを見てみよう。まず、記法を定め、包含関係 (3.1) を説明する。 e_{0}, ⋯, e_{p+q−1} を ℝ^{p+q} の標準基底と

し、 E_{i,j} を行列要素とする。また

ε_{j} := \begin{cases}1 & (1 ≤ j ≤ p − 1) \\ −1 & (p ≤ j ≤ p + q − 2), \end{cases}
\overline{N_{j}} := E_{j,0} + E_{j,p+q−1} − ε_{j}E_{0,j} + ε_{j}E_{p+q−1,j} (1 ≤ j ≤ p + q − 2),
N_{j} := E_{j,0} − E_{j,p+q−1} − ε_{j}E_{0,j} − ε_{j}E_{p+q−1,j} (1 ≤ j ≤ p + q − 2),
E := E_{0,p+q−1} + E_{p+q−1,0}

と定める。 𝔤 の部分環を

\overline{𝔫^{max}} := ∑_{j=1}^{p+q−2} ℝ\overline{N_{j}}, 𝔫^{max} := ∑_{j=1}^{p+q−2} ℝN_{j}, 𝔞 := ℝE,

で定め、 G の部分群を以下のように定義する：

M_{+}^{max} := {g ∈ G : g · e_{0} = e_{0}, g · e_{p+q−1} = e_{p+q−1}} ≃ O(p − 1, q − 1),
M^{max} := M_{+}^{max} ∪ {−I_{p+q}} · M_{+}^{max} ≃ O(p − 1, q − 1) × ℤ_{2},
A := exp(𝔞),
N^{max} := exp(𝔫^{max}),
\overline{N^{max}} := exp(\overline{𝔫^{max}}).

このとき、次の全単射を通じて

\overline{N^{max}} →^{∼} ℝ^{p+q−2}, exp( ∑_{j=1}^{p+q−2} b_{j}\overline{N_{j}}) ↦ (b_{1}, ⋯, b_{p+q−2})

部分群 M_{+}^{max}\overline{N^{max}} は半直積群 O(p, q) ⋉ ℝ^{p+q−2} と同型であることがわかる。したがって、自然な包含関係 M_{+}^{max}\overline{N^{max}} ⊂ G は冒頭に述べた包含関係 (3.1) に他ならない。 (3.1) の別の意味は、 O(p − 1, q − 1) ⋉ ℝ^{p+q−2} が擬リーマンユークリッド空間 ℝ^{p−1,q−1} の等長変換群であるのに対して、 O(p, q) は共形構造を保つ ℝ^{p−1,q−1} の Möbius 変換群になっていることである。続いて、極大放物型部分群

\overline{P^{max}} := M^{max}A\overline{N^{max}}

を定義する。\overline{P^{max}} はメタプレクティック群{ \atop Sp(n, ℝ)} の Siegel 放物型部分群と類似した役割を果たす。包含関係

M_{+}^{max}\overline{N^{max}} ⊂ \overline{P^{max}} ⊂ G

に関して、ユニタリ表現 π を M_{+}^{max}\overline{N^{max}} から\overline{P^{max}} に拡張することは、

π(−I_{p+q})ψ := (−1)^{\frac{p−q}{2}} ψ
π(e^{tE})ψ(ζ) := e^{− \frac{p+q−4}{2} t}ψ(e^{−t}ζ), t ∈ ℝ

と定義することにより簡単に達成できる。ここで群\overline{P^{max}} は

M_{+}^{max}, \overline{N^{max}}, −I_{p+q}, e^{tE}(t ∈ ℝ)

で生成されることを思い出そう。

ユニタリ表現 π が\overline{P^{max}} から G へどのように拡張されるかを記述するために、 Gelfand-Naimark 分解

𝔤 = \overline{𝔫^{max}} ⊕ 𝔞 ⊕ 𝔪^{max} ⊕ 𝔫^{max} = \overline{𝔭^{max}} ⊕ 𝔫^{max}

を用いる。すると、 G の表現 π は、既に知っている\overline{P^{max}} の作用に加えて X ∈ 𝔫^{max} の微分表現 dπ(X) を与えれば決定される。そのために、 E_{ζ} と □_{ζ} をそれぞれ Euler 作用素、 Laplace 作用素とする、つまり、

E_{ζ} := ζ_{1} \frac{∂}{∂ζ_{1}} + ⋯ + ζ_{p+q−2} \frac{∂}{∂ζ_{p+q−2}} ,
□_{ζ} := \frac{∂^{2}}{∂ζ_{1}^{2}} + ⋯ + \frac{∂^{2}}{∂ζ_{p−1}^{2}} − \frac{∂^{2}}{∂ζ_{p}^{2}} − ⋯ − \frac{∂^{2}}{∂ζ_{p+q−2}^{2}} .

X ∈ 𝔫^{max} を基底を用いて X = ∑_{j=1}^{p+q−2} b_{j}N_{j}(b_{j} ∈ ℝ) と表すと、微分表現 dπ(X) は、 [11, Lemma 3.2] で次のように与えられている：

dπ( ∑_{j=1}^{p+q−2} b_{j}N_{j}) = \sqrt{−1}((−\frac{p + q}{2} − E_{ζ}) ∑_{j=1}^{p+q−2} b_{j} \frac{∂}{∂ζ_{j}} + \frac{1}{2}( ∑_{j=1}^{p+q−2} b_{j}ε_{j}ζ_{j})□_{ζ})). (3.2)

ここで、 dπ(X) は、 L^{2}(C) の Schwartz 超関数の空間 S′(ℝ^{p+q−2}) への埋め込み

L^{2}(C) ↪ S′(ℝ^{p+q−2}) ψ ↦ ψdμ

によって、 S′(ℝ^{p+q−2}) に作用する微分作用素としてみなしている。

微分作用素 (3.2) は二階の作用素である。このことは部分群 N^{max} は錐 C には作用せず、関数空間 L^{2}(C) にしか作用しないことを反映している。

以上により、 G の L^{2}(C) への作用は、 𝔤 = \overline{𝔭^{max}} + 𝔫^{max} の分解に応じて部分群\overline{P^{max}} の作用

微分表現 dπ(X)(X ∈ 𝔫^{max})

を与えることによって特徴付けることができた（これが G の表現を定めることは自明ではない；証明は [11] 参照）。

第５節では、 q = 2 の場合にリー環 𝔫^{max} の微分作用 dπ のかわりに、より直接的に群 G の L^{2}(C) への作用を、積分公式を用いて書き下す。

4 O(p, 2) の極小表現に対する積分公式

以下、常に q = 2 と仮定する。この場合、錐 C は自然に二つの連結成分 C = C_{+} ∪ C_{−}

に分離する。ここで、 C_{±} := {(ζ_{1}, ⋯, ζ_{p}) ∈ C : ±ζ_{p} > 0} である。極座標 (2.2) も

ℝ_{+} × S^{p−2} → C_{+}, (r, ω) ↦ (rω, r),
ℝ_{+} × S^{p−2} → C_{−}, (r, ω) ↦ (rω, −r)

と一層簡単な形になる。この座標系では、不変測度は dμ = \frac{1}{2}r^{p−3}drdω という形になり、その L^{2} 空間 L^{2}(C) は

L^{2}(C) = L^{2}(C_{+}) ⊕ L^{2}(C_{−})

と直和分解する。この直和分解は、 G から G_{0} := SO_{0}(p, 2) （G の単位元成分）への分岐則 G ↓ G_{0} に対応する。

K を G の極大コンパクト群とする。すると、 K ≃ O(p) × O(2) であり、 K_{0} := K ∩ G_{0}(≃ SO(p) × SO(2))

は G_{0} の極大コンパクト群になる。 L^{2}(C_{+}) の K_{0} 有限ベクトルの空間を L^{2}(C_{+})_{K_{0}} で書く。 L^{2}(C_{+})_{K_{0}} は L^{2}(C_{+}) の稠密な空間であり、リー環 𝔤 が微分作用素として作用する。

𝔷(𝔨) を K のリー環 𝔨 の中心とすると、 𝔷(𝔨) は p > 2 ならば一次元である。 𝔷(𝔨) ⊗_{ℝ} ℂ の生成元 Z として

Z := \sqrt{−1}(E_{p,p+1} − E_{p+1,p}) ∈ \sqrt{−1}𝔷(𝔨)

を取ると、 L^{2}(C_{+})_{K_{0}} の dπ_{+}(Z) の固有値は

\{−(j + \frac{p − 2}{2}) : j = 0, 1, 2 ⋯ \}

で与えられるので、上に有界、すなわち、 (π_{+}, L^{2}(C_{+})) は G_{0} の最高ウェイト加群である。同様に、 (π_{−}, L^{2}(C_{−})) は G_{0} の最低ウェイト加群である。

t ∈ ℂ に対して線形写像 π_{+}(e^{tZ}) : L^{2}(C_{+})_{K_{0}} → L^{2}(C_{+})_{K_{0}} を

π_{+}(e^{tZ}) := ∑_{n=0}^{∞} \frac{1}{n!}(dπ_{+}(tZ))^{n}

で定める。上記の dπ_{+}(Z) の固有値のリストから、 Re t ≥ 0 ならば、 π_{+}(e^{tZ}) は L^{2}(C_{+}) の連続作用素にまで拡張されることがわかる。従って、集合 {π_{+}(e^{tZ}) : Re t ≥ 0} は複素解析的半群をなし、この半群の生成元は (3.2) などを用いることにより、 L^{2}(C_{+}) の自己共役作用素

dπ_{+}(Z) = \frac{r}{4} \frac{∂^{2}}{∂r^{2}} + \frac{p − 2}{4} \frac{∂}{∂r} + \frac{Δ_{S^{p−2}}}{4r} − r  (4.1)

で与えられることが示される。ここで、 Δ_{S^{p−2}} は球面 S^{p−2} 上の Laplace-Beltrami 作用素を表す。

複素領域 D を

D := \{t ∈ ℂ : Re t ≥ 0\} \ 2π\sqrt{−1}ℤ

と定義し、 D において作用素 exp(tdπ_{+}(Z)) = π_{+}(e^{tZ}), t ∈ D を具体的に積分変換の形で与えよう。 ⟨·, ·⟩ で ℝ^{p} の標準的な内積を表すことにして、ノルム |ζ| を |ζ| := \sqrt{⟨ζ, ζ⟩} で定める。 C_{+} × C_{+} × D 上の核関数 K^{+}(ζ, ζ′; t) を以下の式で定義する：

K^{+}(ζ, ζ′; t) := \frac{2e^{−\sqrt{2}(|ζ|+|ζ′|) coth \frac{t}{2}}}{π^{\frac{p−2}{2}} sinh^{\frac{p}{2}} \frac{t}{2}} \sqrt{2⟨ζ, ζ′⟩}^{− \frac{p−4}{2}} I_{\frac{p−4}{2}} (\frac{2\sqrt{2⟨ζ, ζ′⟩}}{sinh \frac{t}{2}}).  (4.2)

ここで、 I_{ν}(z) は第１種変形ベッセル関数（[18] 参照）：

I_{ν}(z) = \sqrt{−1}^{−ν}J_{ν}(\sqrt{−1}z).

t ∉ 2π\sqrt{−1}ℤ であり、 ⟨ζ, ζ′⟩ > 0 であるという仮定から、核関数の分母に出てくる sinh \frac{t}{2} は 0 ではないことに注意する。 L(C_{+}) に実現された SO_{0}(p, 2) の極小ユニタリ表現を（複素解析的）半群 π_{+}(e^{tZ}) に拡張したとき、その作用素は積分公式として次で与えられる：定理 B (複素半群の積分公式). t ∈ D であるとき、作用素 π_{+}(e^{tZ}) : L^{2}(C_{+}) → L^{2}(C_{+}) は次の積分変換で与えられる：

(π_{+}(e^{tZ})u)(ζ) = ∫_{C_{+}} K^{+}(ζ, ζ′; t)u(ζ′)dμ(ζ′), u ∈ L^{2}(C_{+}).  (4.3)

積分 (4.3) の収束についてコメントしておこう；もし t ∈ D が D の内点であるとき、すなわち Re t > 0 をみたすならば、固定された各 t に対して、 K^{+}(ζ, ζ′; t) ∈ L^{2}(C_{+} × C_{+}) であるので、 π_{+}(e^{tZ}) は L^{2}(C_{+}) における Hilbert-Schmidt 作用素になる。 t が D の境界にあるときは、 (4.3) の収束はもう少し微妙である。しかし、 t ∈ \sqrt{−1}ℝ \ 2π\sqrt{−1}ℤ ならば、積分 (4.3) は K_{0} 有限ベクトル u ∈ L^{2}(C_{+})_{K_{0}} に対して絶対収束して、 C_{+} 上の L^{2} 関数を定めることが証明できる。

定理 B は任意の関数 u ∈ L^{2}(C_{+}) に関する積分公式であるが、 u が特別な形をしているときにさらに具体的な公式を与えよう。すなわち、 u がある f ∈ L^{2}((0, ∞), r^{p−3}dr) と ϕ ∈ H^{l}(ℝ^{p−1}) によって、

u(rω, r) = f(r)ϕ(ω)  (4.4)

のように変数分離されている場合について定理Ｂの公式 (4.3) を書き直してみよう。ただし、 H^{l}(ℝ^{p−1}) は S^{p−2} 上の次数 l(l = 0, 1, ⋯) の球面調和関数の空間、つまり、

H^{l}(ℝ^{p−1}) = {ϕ ∈ C^{∞}(S^{p−2}) : Δ_{S^{p−2}}ϕ = −l(l + p − 3)ϕ}

をあらわすものとする。各 l に対して、 ℝ_{+} × ℝ_{+} × D 上の核関数 K_{l}^{+}(r, r′; t) を

K_{l}^{+}(r, r′; t) := \frac{2e^{−2(r+r′) coth \frac{t}{2}}}{sinh \frac{t}{2}} (rr′)^{− \frac{p−3}{2}} I_{p−3+2l}(\frac{4\sqrt{rr′}}{sinh \frac{t}{2}} )  (4.5)

で導入する。

次の定理のポイントは、もし u が (4.4) のように変数分離されていれば、作用素 π_{+}(e^{tZ}) は、一変数の関数 f(r) の積分だけに本質的に還元されることである、すなわち、

定理 C. もし、 u が u(rω, r) = f(r)ϕ(ω), ϕ ∈ H^{l}(ℝ^{p−1}), なる形をしていれば

(π_{+}(e^{tZ})u)(rω, r) = ϕ(ω) ∫_{0}^{∞} K_{l}^{+}(r, r′; t)f(r′)r^{′p−3}dr′  (4.6)

が成り立つ。

注意 1. π_{+} が半群の準同型写像である、すなわち

π_{+}(e^{t_{1}Z})π_{+}(e^{t_{2}Z}) = π_{+}(e^{(t_{1}+t_{2})Z}) (t_{1}, t_{2} ∈ D)

という代数的性質は、定理Ｃによって、核関数に対する積分方程式

∫_{0}^{∞} K_{l}^{+}(r, s; t_{1})K_{l}^{+}(s, r′; t_{2})s^{p−3}ds = K_{l}^{+}(r, r′; t_{1} + t_{2})  (4.7)

と同等である。これは、 Weber の積分（Weber’s second exponential integral; [18], §13.31(1) 参照）と呼ばれる古典的な公式

∫_{0}^{∞} e^{−ρx^{2}}J_{ν}(αx)J_{ν}(βx)xdx = \frac{1}{2ρ^{2}} exp(−\frac{α^{2} + β^{2}}{4ρ^{2}} )I_{ν}(\frac{αβ}{2ρ^{2}} )

に対応する。

5 反転作用素に対する積分公式

G_{0} の位数２の「反転」元 w_{0} を

w_{0} := (\begin{matrix}I_{p} & 0 \\ 0 & −I_{2} \end{matrix})

で定義する。すると、 w_{0} は、随伴作用で M^{max}A を不変に保ち

Ad(w_{0})𝔫^{max} = \overline{𝔫^{max}}  (5.1)

を満たす。したがって、群 G は\overline{P^{max}} と w_{0} によって生成される。 g ∈ \overline{P^{max}} に対応するユニタリ作用素 π(g) はすでに第２節で与えていた。

この節の目標は L^{2}(C_{+}) のユニタリ作用素 π_{+}(w_{0}) の積分公式を明示的に与えることである。

反転元 w_{0} は 𝔨 の中心元 Z を用いて w_{0} = e^{π\sqrt{−1}}Z と表せることに注目し、 t = π\sqrt{−1} を (4.2) と (4.5) に代入する。すなわち、以下の核関数を定義する：

K^{+}(ζ, ζ′) := K^{+}(ζ, ζ′; π\sqrt{−1}) = \frac{2}{(−1)^{\frac{p−2}{2}} π^{\frac{p−2}{2}}} \sqrt{2⟨ζ, ζ′⟩}^{− \frac{p−4}{2}} J_{\frac{p−4}{2}} (2\sqrt{2⟨ζ, ζ′⟩}),
K_{l}^{+}(r, r′) := K_{l}^{+}(r, r′; π\sqrt{−1}) = 2(−1)^{− \frac{p−2}{2} +l}(rr′)^{− \frac{p−3}{2}} J_{p−3+2l}(4\sqrt{rr′}).

すると、定理ＢとＣの特別な場合として、以下の結果が得られる。

定理 D. 1) ユニタリ作用素 π_{+}(w_{0}) : L^{2}(C_{+}) → L^{2}(C_{+}) は

T : L^{2}(C_{+}) → L^{2}(C_{+}), u ↦ ∫_{C_{+}} K^{+}(ζ, ζ′)u(ζ′)dμ(ζ′)  (5.2)

で定義される積分変換に一致する。

2) もし、 u が球面調和関数 ϕ ∈ H^{l}(ℝ^{p−1}) (l = 0, 1, ⋯), によって、 u(rω, r) = f(r)ϕ(ω) なる形に変数分離されているとき、積分 (5.2) は、一変数の積分：

T_{l} : L^{2}(C_{+}) → L^{2}(C_{+}), u(rω, r) ↦ ϕ(ω)(T_{l}f)(r)  (5.3)

として表される。ここで、作用素 T_{l} : L^{2}((0, ∞), r^{p−3}dr) → L^{2}((0, ∞), r^{p−3}dr) は、

(T_{l}f)(r) := ∫_{0}^{∞} K_{l}^{+}(r, r′)f(r′)r^{′p−3}dr′  (5.4)

で定義される。

T_{l} は、核関数 K_{l}^{+}(r, r′) の形から本質的には Fourier-Bessel 変換であることに注意する。

同じような積分公式が L^{2}(C_{−})（C_{−} は過去錐）上のユニタリ作用素 π_{−}(w_{0}) や、L^{2}(C) ≡ L^{2}(C_{+}) ⊕ L^{2}(C_{−}) 上のユニタリ作用素 π(w_{0}) についても証明できる。

最後に、定理Ｄから直接導かれる系を紹介してこの解説を終わりにすることにする。 w_{0}^{2} = I_{p+2} から π_{+}(w_{0})^{2} = id が得られるので、

系 E （逆公式と Plancherel の公式） . L^{2}((0, ∞), r^{p−3}dr) の積分作用素 T （(5.2) 参照）は位数 2 である、すなわち、 T の逆作用素は単に

T^{−1} = T

で与えられる。さらに、 T はユニタリである： ∥T u∥_{L^{2}(C_{+})} = ∥u∥_{L^{2}(C_{+})}, u ∈ L^{2}(C_{+}).

系 F （Fourier-Bessel 変換に対する逆公式, Plancherel の公式） . l = 0, 1, 2, ⋯ とする。 L^{2}((0, ∞), r^{p−3}dr) 上の積分作用素 T_{l}((5.4) 参照) は位数 2 のユニタリ作用素である。したがって、

T_{l}^{−1} = T_{l},
∥T_{l}f∥_{L^{2}((0,∞),r^{p−3}dr)} = ∥f∥_{L^{2}((0,∞),r^{p−3}dr)}, f ∈ L^{2}((0, ∞), r^{p−3}dr)

である。

注意 2. 系Ｆ中の主張 T_{l}^{−1} = T_{l} は、積分公式

f(r)r^{\frac{p−3}{2}} = 4 ∫_{0}^{∞}(∫_{0}^{∞} f(r′)r^{′ \frac{p−3}{2}} J_{p−3+2l}(4\sqrt{r′r′′})dr′)J_{p−3+2l}(4\sqrt{rr′′})dr′′ と同等である。これは、 Fourier-Bessel 変換の再帰公式（[18], §14.3(3) 参照）

F (x) = ∫_{0}^{∞}(∫_{0}^{∞} F (y)J_{ν}(yξ)ydy)J_{ν}(ξx)ξdξ.

に相当する。

注意 3. Segal-Shale-Weil 表現の場合には、 T に対応する作用素は実質的に Fourier 変換 F であり、系Ｅ（逆変換と Plancherel の公式）に相当するのは次のよく知られた事実である：

F^{4} = id,

F はユニタリ作用素。

（メタプレクティック群{ \atop Sp(n, ℝ)} において、 w_{0} に対応する元は位数 4 であることに注意する）。

参考文献

[1] B. Binegar and R. Zierau, Unitarization of a singular representation of SO(p, q), Comm. Math. Phys., 138 (1991), 245–258.

[2] A. Dvorsky and S. Sahi, Explicit Hilbert spaces for certain unipotent representations II, Invent. Math., 138 (1999), 203–224.

[3] B. Folland, Harmonic Analysis in Phase Space, Annals of Mathematics Studies, 122. Princeton University Press, Princeton, NJ, 1989.

[4] I. M. Gelfand and S. G. Gindikin, Complex manifolds whose skeltons are real semisimple groups, and the holomorphic discrete series, Funct. Anal. Appl., 11 (1977), 19–27.

[5] R. Howe, The oscillator semigroup, Amer. Math. Soc., Proc. Symp. Pure Math., 48 (1988), 61-132.

[6] J.-S. Huang and C.-B. Zhu, On certain small representations of indefinite orthogonal groups, Representation Theory, 1 (1997), 190–206.

[7] T. Kobayashi, Conformal geometry and global solutions to the Yamabe equations on classical pseudo-Riemannian manifolds, Proceedings of the 22nd Winter School “Geometry and Physics” (Srni, 2002). Rend. Circ. Mat. Palermo (2) Suppl. 71 (2003), 15–40.

[8] 小林俊行, O(p, q) の極小ユニタリ表現のシュレディンガーモデル, 数理解析研究所講究録 1342 （IV 型対称空間上の保型形式の研究, ed. 織田孝幸氏） (2003), 107–116.

[9] T. Kobayashi and G. Mano, Integral formulas for the minimal representation of O(p, 2), Acta Appl. Math., to appear.

[10] T. Kobayashi and B. Ørsted, Analysis on the minimal representation of O(p, q) I. Realization via conformal geometry, Adv. Math., 180 (2003), 486–512.

[11] T. Kobayashi and B. Ørsted, Analysis on the minimal representation of O(p, q) III. Ultrahyperbolic equations on ℝ^{p−1,q−1}, Adv. Math., 180 (2003), 551–595.

[12] B. Kostant, The vanishing scalar curvature and the minimal unitary representation of SO(4, 4), eds. Connes et al, Operator Algebras, Unitary Representations, Enveloping Algebras, and Invariant Theory, Progress in Math., 92 , Birkhäuser, 1990 Boston, 85–124.

[13] G. I. Olshanskiǐ, Invariant cones in Lie algebras, Lie semigroups and the holomorphic discrete series, Funct. Anal. Appl., 15 (1981), 275–285.

[14] S. Sahi, Explicit Hilbert spaces for certain unipotent representations, Invent. Math., 110 (1992), 409–418.

[15] R. J. Stanton, Analytic extension of the holomorphic discrete series, Amer. J. Math., 10 (1986), 1411–1424.

[16] P. Torasso, Méthode des orbites de Kirillov-Duflo et représentations minimales des groupes simples sur un corps local de caractéristique nulle, Duke Math. J. 90 (1997), 261–377.

[17] D. Vogan Jr., Singular unitary representations, Springer Lecture Notes in Mathematics 880 (1980), 506–535.

[18] G. N. Watson, A Treatise on the Theory of Bessel Functions, Cambridge, 1922.