ポントリャーギン著『連続群論』

小林俊行

1. 著者ポントリャーギンについて

著者ポントリャーギン (Lev Semenovich Pontryagin, 1908-1988) は、ロシア帝政時代の末期に地方公務員の家庭に生まれた。母親は裁縫の内職をして家計を助けており、子弟をレベルの高い伝統校に通わせる経済的な余裕はなかったらしい。

悲劇は 14 歳のときにおこった。爆発事故が原因でポントリャーギンは失明した。

このときから、ポントリャーギンの母親は息子の「目」となることを決意する。

ロシアの小作農の娘として生まれ、貧しい暮らしをしていた彼女は、もちろん、数学記号も外国語も知らなかった。彼女は、息子に外国語文献を読んで聞かせるために外国語を学習したという。また、数学記号については、たとえば、 ∪, ∩, ⊃, ⊂ などの記号を「しっぽが上, 下, 左, 右」というように表現して読み書きを手伝っていたということである。

ポントリャーギンはモスクワ大学在籍中の 19 歳頃から、位相幾何の分野で数学者としてデビューする。 25、 6 歳のときには、ヒルベルトの第 5 問題を可換群の場合に解決する。しかも、その手法はポントリャーギンの双対定理と現在呼ばれている結果を用いるもので、当時としては画期的なアイディアであった。

本書『連続群論』は彼が 30 歳のときに、自らの研究を中心にしてまとめた著作である。ただちにアメリカのプリンストン大学出版局から英訳本が発行され、世界中に大きな影響を与えた。

ポントリャーギンは, 位相群論の分野だけではなく, ホモトピー論などの位相幾何にも多くの仕事を残している。ポントリャーギン類とよばれる特性類を導入したのもその一つである。

ポントリャーギンは、 40 代の半ばころに『連続群論』の初版を大幅に拡充した。邦訳されたのは, この第 2 版からであり, 他にも英語とドイツ語の翻

Typeset by AMS-TEX

訳が出版されている。時をほぼ同じくして、彼は応用解析の方向に大きく転向し、特に、最適制御の理論で先導的な役割を果たした。

ポントリャーギンは、第１回のスターリン勲章 (1941 年) を始め、レーニン勲章や労働赤旗勲章など幾度も国家的栄誉を受けている。旧ソビエト連邦における賞は政治的な側面もあるかもしれないが、多くのロシア人たちは、失明のハンディを乗り越えた民族の英雄として, 数学者ポントリャーギンを誇りに思っていたことであろう。

ところで、 1968 年というと, アメリカのアポロ計画で人類が月に初めて到着する前年であり, 米ソは国家の威信をかけて宇宙開発競争でしのぎをけずっていたころである。モスクワ数学会は、この年に 60 歳になったポントリャーギンを讃える記事を掲載し、人類初の宇宙飛行士であるガガーリンや女性初の宇宙飛行士テレシコワと一緒に, 制御理論の研究者としてのポントリャーギンが国際宇宙飛行士学会の名誉会員に選ばれたことを、とりわけ誇らしく紹介している。

ポントリャーギンの数学的な影響は, 彼が 1988 年に亡くなったあとも続いている。アメリカ数学会のデータベース MathSci で検索すると, ポントリャーギンの名前を冠した論文や書籍は最近 10 年間で出版されたものだけでも 100 編を越す。 1998 年には, ポントリャーギンの生誕 90 年を記念した国際研究集会がモスクワで開催されている。

2. 連続群とは

本書の題目にある連続群とは、位相群やリー群をあわせた古称である。

リー群は位相群の特別な場合であるが、リー群では微分が使えるため、リー環論という純代数的手法を含めて多くの研究方法があり、一つの大きな分野となっている。ポントリャーギンの『連続群論』では、大きく分けて、前半は位相群論、後半はリー群論を論じている。

位相群とリー群の概念について、その由来や近代的な定義を具体例とともに説明しよう。 2.1. 位相群の大雑把な説明

群には有限個の元からなる有限群もあれば, 無限個の元からなる無限群もある。無限群に対しては, 自然な位相を与えることができる場合が多い。例えば, 実数 ℝ には加法 (群構造) とともに収束の概念 (位相) もある。大まかにいえば, 位相と群構造を兼ね備えた対象が位相群である。 2.2. ユークリッド運動群

加法群 ℝ より複雑な連続群も, 紀元前のギリシャの数学に「存在」していた。平面幾何の合同という概念は, 平面を動かして重ね合わせるという操作 (合同変換) に基づいている。この合同変換は, 平行移動や回転や裏返しという操作である。図形 α, β, γ の合同に関する推移律や反射律

α ≡ β, β ≡ γ ⇒ α ≡ γ
α ≡ β ⇒ β ≡ α

は, 「合同変換の合成や逆変換も再び合同変換である」という事実に基づいている。すなわち, 合同変換全体は群になる。これを平面のユークリッド運動群とよぶ。

平行移動する方向や距離, あるいは, 回転の中心や角度などは連続的に選ぶことができる。連続パラメータは独立に 3 つ選ぶことができるので (なぜでしょうか？ ), 平面のユークリッド運動群は 3 次元の連続群の例である。もっとも, 当時の数学では数や図形が研究対象であり, 変換群そのものが数学の対象として認識されるのは 19 世紀を待たねばならない。 2.3. リー群とリー環の芽生え

ポントリャーギンの『連続群論』 (初版) がロシア語で出版されたのは今から約 60 年前の 1938 年である。連続群の理論は, さらに遡ること約 60 年あまり前, 1870 年代のリー (Sophus Lie 1842-1899) の無限小変換の研究から始まる。

リーは, 代数方程式に対してガロア群の理論が有効であったことにヒントを得て、微分方程式に対する変換群の構想をもち、微分方程式を不変にするような連続パラメータつきの変換の研究を開始した。やがて、微分方程式への応用にこだわらず、むしろ連続変換群そのものの数学的な価値を見出しはじめた。

クライン (Felix Klein, 1849-1925) が、エルランゲン大学の就任講演で「幾何学を変換群の立場から見直そう」という、いわゆるエルランゲン・プログラムを提唱したのは 1872 年, 彼が 23 歳のときである。若き日のクラインとリーは特に数学的交流が多く, お互いに影響も大きかったようである。

リーは連続パラメータをもつ変換を微分することによって無限小変換（ベクトル場）を導入し、無限小変換の代数構造 (リー環の括弧積)

[X, Y] = XY − Y X

と連続変換群の局所構造が対応していることを発見した。現在の言葉でいうと, リー群とリー環の対応を確立したわけである。

リーの連続変換群論はキリング (Wilhelm Killing, 1847-1923) やカルタン (Élie Cartan, 1869-1951) らによって引き継がれ, リー環の代数的研究が大いに発展した。一方, 今からちょうど 100 年前の 1900 年には, ヒルベルト (David Hilbert, 1862-1943) が 20 世紀の数学の進歩に役立つと考えた 23 個の問題を提起した。その一つとして、リーの変換群の理論の基礎づけを世に問うた (後述するヒルベルトの第 5 問題)。著者のポントリャーギンが生まれる前夜の時代背景はこのようなものであった。一方、近傍系による位相空間の定義、ユークリッド近傍の貼り合わせによる多様体の定義、位相群の公理的な定義、多様体としてリー群を大域的にとらえる、といった近代的な概念はまだ知られていなかった。これらは、ポントリャーギンが子供から青年になるころに現れた概念である。 2.4. 抽象化の時代・・・変換群 = 群 + 作用

さて, 19 世紀のリーの理論では, 群自身と変換の中に現れるパラメータは明確に区別されていなかった。例えば平面 ℝ^{2} の回転

(1) f_{θ}(x, y) = (x cos θ − y sin θ, x sin θ + y cos θ)

は, 連続パラメータ θ をもつ変換の族である。まず角度を θ 回転させ, 次に角度 θ′ 回転させれば, 最初から角度を θ + θ′ だけ回転させたものに等しいという代数構造をもつ。この代数構造は, 式で書けば三角関数の加法定理に他ならない。

この代数構造を近代的な抽象数学で言い換えれば, ２つの群の間の写像

(2)  ℝ → GL(2, ℝ), θ ↦ f_{θ}

が群準同型写像である, すなわち関係式

f_{θ+θ′} = f_{θ} ∘ f_{θ′}

を満たすということになる。また, 任意の整数 n に対して

f_{θ+2nπ}(x, y) = f_{θ}(x, y)

が成り立つので, 2πℤ を法とする商群 ℝ/2πℤ からの準同型写像も導かれる:

(2′) ℝ/2πℤ → GL(2, ℝ), θ mod 2π ↦ f_{θ}

(2) や (2′) という抽象的な形式の中では、 ℝ や ℝ/2πℤ といった位相群そのものと, 平面 ℝ^{2} への変換群としての作用とを切り離して考えることができる点が重要である。

抽象数学の勢いが高まりつつある 1930 年代を反映して, 種々の空間への変換群としての作用を捨象し, 位相群の構造そのものを中心テーマに研究しようというのが, 本書の基本姿勢である。 2.5. 位相群の公理的定義

さて, その位相群の公理的な定義は, シュライヤー (Otto Schreier, 1901-1929) によって導入された。ハウスドルフ (Felix Hausdorff, 1868-1942) が著書『集合論概要』 (1914 年）で近傍系による位相空間を定義し、それが数学全体に浸透しつつあった 1925 年のことである。

定義 (位相群). 集合 G が次の３つの条件を満たすときに G を位相群という。

1) G は群である。

2) G は位相空間である。

3) (両立条件) G の群演算は連続である。

位相群の定義における両立条件 (3) は特に重要である。これがなければ, 位相群論は位相空間論と群論とが化合して新しい数学的対象となることができない。両立条件 (3) は, G = ℝ の場合,

lim_{n→∞} a_{n} ± lim_{n→∞} b_{n} = lim_{n→∞}(a_{n} ± b_{n})

に対応する条件である。

以下に位相群の簡単な例をあげよう。例 (イ) 実数全体のなす加法群 ℝ. 例 (ロ) トーラス群 𝕋 := {z ∈ ℂ : |z| = 1}. 例 (ハ) 整数全体のなす加法群 ℤ. 例 (ニ) p 進整数 ℤ_{p} := proj lim_{n→∞} ℤ/p^{n}ℤ.

例 (ホ) 無限次元ヒルベルト空間 H. 例 (ヘ) 直交行列全体 O(n) (直交群). 例 (ト) 可逆行列全体 GL(n, ℝ) (一般線型群). 例 (チ) n 次元ユークリッド運動群 O(n) ⋉ ℝ^{n}. 例 (リ) p 進体 ℚ_{p} 上の一般線型群 GL(n, ℚ_{p}). 例 (ヌ) H 上のユニタリ作用素全体 U(H).

上の例をもう少し詳しく見ると · (イ) ∼ (ホ) は可換位相群である · (ロ) と (ニ) と (ヘ) はコンパクト群である · (ト) ∼ (ヌ) はコンパクトでも可換でもない · (ホ) と (ヌ) 以外は局所コンパクト群である · (ハ) は離散群であるというように、位相群にもさまざまな種類がある。 2.6. リー群の定義

さて, 位相群では「連続」という概念を扱うことができた。「連続」だけでなく「微分」を扱うことができる特別な位相群をリー群という。位相群の定義に沿ってリー群の定義を述べよう。

定義 (リー群). 集合 G が次の３つの条件を満たすときに G をリー群という。

1) G は群である。

2) G は実解析的多様体である。

3) (両立条件) G の群演算は実解析的である。

例えば, ℝ はリー群である。両立条件 (3) は, 群演算

ℝ × ℝ → ℝ, (a, b) ↦ a ± b

が (a, b) の 2 変数関数として実解析的であることに対応する。

リー群は位相群であり, 特に局所コンパクト群でもある。前述の位相群の例を見直してみると, · (イ) ∼ (ハ), (ヘ) ∼ (チ) はリー群である · ℤ_{p} と GL(n, ℚ_{p}) はいずれも局所コンパクト群であるが, リー群ではない · 無限次元ヒルベルト空間は局所コンパクトでないので, リー群でもない

ことがわかる。

3. 位相群とリー群の違い

本書『連続群論』のモチーフは, 位相群論を公理的に再構築することによって全体像を得て、その全体像の中で個々の古典的な連続群の位置づけが明らかになるべきである (それが可能になるくらいまで, 位相群論の一般論を深めたい) という思想である。これは、時代的な流行とともに「連続群 (環、体) にわずかの公理を付け加えれば、かなり具体的なものに限られるだろう」と提唱していたコルモゴロフ (Andrei Kolmogorov, 1903-1987) による影響も大きいようである。

リー群は位相群の特別な場合である。それでは, リー群は位相群の全体像の中で, どのように位置づけられるのであろうか？ 3.1 ヒルベルトの第 5 問題と再定式化

1900 年に発表されたヒルベルトの第 5 問題とは

問題 3.1. 変換パラメータの微分可能性を仮定せずに, リーの連続変換群の理論はどこまで到達できるか?

というものであり, この段階では, 変換群と位相群の差があいまいであった。

フォン・ノイマン (John von Neumann, 1903-1957) は, 1933 年にヒルベルトの第 5 問題を変換群として解釈すると反例があることを発見した。一方, 位相群論の問題として定式化すれば, 肯定的に解ける場合があることを証明した。後者の問題意識は次の形で述べられる。

問題 3.1′. 位相群の中でリー群を特徴づけよ。

簡単な例を見てみよう。 ℝ も ℚ_{p} も位相群であるが, 前者はリー群であり, 後者はリー群ではない。ところで、両者の位相には, 決定的ともいえる差がある: ℝ は連結であり, ℚ_{p} の任意の連結成分は 1 点だけからなる。

そこで, 楽観的には, 位相群とリー群の差異は, 位相空間としての性質だけではないかという期待がもてる。 3.2. ヒルベルトの第 5 問題の解決

結論を先に述べると, 正にそのとおりであることが, 1952 年にモンゴメリ (Deane Montgomery, 1909-1992) とジッピン (Leo Zippin) によって証明された。これが, 「ヒルベルトの第 5 問題の肯定的解決」として通常呼ばれている次の定理である。

定理 3.2. 位相群 G に関する次の３つの条件は同値である：

i) G はリー群の構造をもつ。 ii) G は位相多様体の構造をもつ。 iii) G は局所コンパクト、局所連結、有限次元位相空間である。

(i) を正確に述べると、「G には実解析的多様体 (特に微分多様体) の構造が入り, それに関して G はリー群の公理を満たす」ということである。さらに、このような実解析構造や微分構造は一意的であることも示される。

(i) ⇒ (ii) ⇒(iii) の証明は容易であり、 (ii) や (iii) は（群とは無関係に）位相空間だけの条件である。従って、「位相群がリー群になるかどうかは位相だけで決まってしまう」という主張が, 定理 3.2 の意味するところである。 3.3. 本書とヒルベルトの第 5 問題

本書のハイライト部分は, コンパクト群および局所コンパクト可換群の構造定理（第６章、第８章）である。この構造定理は、コンパクトまたは可換な場合におけるヒルベルトの第 5 問題の解決を与えるだけでなく、さらに深い理論になっている。その内容については、次の節でもう少し詳しく触れることにしよう。

なお、大幅に拡充された第２版やそれ以降の改訂版でも、本書の骨組みは変わっていない。特に、最新版においても初版と同じく、定理 3.2 は可換群およびコンパクト群の場合にのみ扱われている。

さて、位相群のかわりに位相環や位相体でも同じような問題を考えることができる。

次の定理は、ポントリャーギン自身が 22 歳のときに証明した結果であり、「位相体」についてのヒルベルトの第 5 問題に対する解答であるとも解釈できる。

定理 3.3. 連結で局所コンパクトな（非可換）位相体は実数体 ℝ, 複素数体 ℂ, ハミルトンの四元数体 ℍ のいずれかに限る。

この定理は、本書の第 4 章の主結果である。さらに、同じ章で、連結とは限らない局所コンパクトな位相体の構造定理 (p 進体 ℚ_{p} などが自然に現れる) も証明されている。

本書のモチーフ通り、位相群や位相体を公理的に再構築して全体像を得て、その全体像の中で個々の古典的な例の位置づけを明らかにしているのである。 3.4. ヒルベルトの第 5 問題の解決の後

それでは, 定理 3.2 には群構造が本質的に必要なのだろうか？もっと一般に, 「位相空間が微分多様体になるかどうかは, 位相だけで決まってしまうのだろうか？」言い換えると, 「位相多様体と微分可能多様体に差はあるのか？」

ヒルベルトの第 5 問題が 1952 年に解決されてまもなく、微分位相幾何学の新しい成果が相次いだ。たとえば、 1956 年にミルナー (John Milnor, 1931-) が発表したエキゾティック球面のように異なる微分構造を許す位相多様体や、逆にいかなる微分構造も許さない位相多様体が存在することが証明された。特に、ヒルベルトの第 5 問題の解決は, 微分位相幾何的な性質ではなく、群構造の強い制約があって初めて成り立つ定理だということがわかったのである。

さて, p 進体 ℚ_{p} や GL(n, ℚ_{p}) などの代数群は, イデール群やアデール環など整数論で用いられる基礎概念でもある。ヒルベルトの第 5 問題は位相群の中でリー群を特徴づける問題であり, ℚ_{p} を切り捨て, ℝ を浮かび上がらせるという風に, 差異を強調する方向で進んだ。しかし, ヒルベルトの第 5 問題が解決された後は、むしろ ℚ_{p} と ℝ の類似性を強調するような理論が発展している。たとえば, セール (Jean-Pierre Serre, 1926-) は 1964 年にハーバード大学の講義で p 進体と実数体 ℝ を同列に扱ってリー群とリー環の対応を拡張した。また、現在も盛んに研究されている GL(n, ℝ) などの簡約リー群の無限次元表現論では, p 進代数群の表現論とのアイディアのやりとりがしばしば行われているのである。さらに、局所コンパクトでさえない「無限次元簡約リー群」も最近再び注目され始めている。

このように, ヒルベルトの第 5 問題は解決に半世紀以上も費やされたが、解決された直後から, ある意味でその定理を打ち消すような新局面が次々と現れた。数学が停滞することなく発展し続けた健全な姿を物語るものであろう。

4. 『連続群論』の内容の紹介

本書『連続群論』は初学者も読めるようになっている。筆者自身の体験を交えて概要を紹介し、その後で、本書のハイライト部分を説明しよう。 4.1. 『連続群論』の成立

本書のロシア語初版が発行された 1938 年当時に戻ろう。この時代は, 位相群論は次々と新しい数学を巻き込んでいた。

1920 年代には, ワイルは多様体として大域的にリー群をとらえ, コンパクトなリー群の基本群などの位相的な性質や有限次元既約表現の指標公式を求めるという画期的な成果を次々とあげた。

1930 年代になると, リー群と位相群の中間に位置する局所コンパクト群に対しても研究が進展した。ハールは, 1933 年には局所コンパクト群上の不変測度 (ハール測度) を構成した。これは実数 ℝ 上のルベーグ測度を一般化するものである。また, ヴェイユ (André Weil, 1906-1998) は, ハール測度を用いた局所コンパクト群上の解析を『位相群上の積分とその応用』という本にまとめて 1940 年に出版するが, 本人の随筆によると, その草稿を書いていたのは 1935-1936 年ごろである。

これらの理論の進展とあいまって, コンパクト群に対しては 1933 年にフォン・ノイマンが, 可換群に対しては 1934 年にポントリャーギンがそれぞれヒルベルトの第 5 問題を肯定的に解決したのである。そこに現れた手法と成果の集大成が本書 (1938 年初版) である。

1954 年の第 2 版では, コンパクトリー群の分類、半単純リー環論、ルート系とディンキン図形など, 特にリー群論に関して初版になかった項目が大幅に拡充されている。増補されているテーマの取捨選択を見ると、野心的な初版よりも、バランスのとれた教科書的な色彩が強くなっているように思う。 4.2. 『連続群論』の目次

以上の内容がどのように組み立てられているかを目次で確認してみよう。第３章からが本論になる。

第１章群第２章位相空間第３章位相群第４章位相体第５章コンパクト位相群の線型表現第６章局所コンパクト・アーベル群第７章リー群の概念第８章コンパクト群の構造第９章局所同型群第１０章リー群とリー代数第１１章コンパクトリー群の構造

4.3. 初学者が読むにあたって

本書はかなり本格的な専門書であるが、完読するための予備知識はわずかでよい。初学者が他の本を参照せずに読める本であるということを特筆しておきたい。

具体的には, 大学の教養課程で習う程度の線型代数と若干の解析 (ε-δ 論法, 陰関数の定理, 微分方程式の解の存在など) しか仮定されておらず, それ以外の必要なことはきちんと定式化され、しかも殆どの場合には厳密な証明が与えられている。

まず、本書の準備段階の第 1 章と第 2 章は、それぞれが「群論」「位相空間論」の入門書として通用するくらい丁寧に初心者向けに記述されている。

第 2 章の位相空間論は、とりわけ見事に書かれており, わずか 50 ページほどの中に、近傍系, 種々の分離公理, 位相の濃度, 種々のコンパクト性, 距離空間, 連結性, 次元論の基礎事項と関連する定理が厳密に流れよく解説されている。なお、次元論は、著者のポントリャーギン自身も発展に寄与している。

本論の第 3 章以降も、位相群、リー群、リー環、等質空間などの主テーマはもちろんのこと、基本群や被覆空間, 多様体, ヒルベルト空間, 積分方程式や自己共役作用素のスペクトル展開 (特別な場合), 測度論 (ハール測度の構成), p 進体などの現代数学の基礎概念もきちんと解説されている。

ここまでに挙げた基礎概念だけでも、現代の教科書風にゆったりと書けば、とても２冊に収まらないであろうが、後述するように、本書のハイライト部分はこれらの基礎概念を土台にして、さらに展開されるのである。

本書の章や小節の組み立ては、論理的につながるようによく整理されている。本文の論理は厳密であり、かなり抽象的なスタイルで書かれている。なお、例は豊富にあるが, 証明のアイディアを例示するというよりは、定理の意味や応用を例示するものが多く、やはり抽象度がかなり高い。

このように、現代風の親切に書かれた書物に較べると, 本書の議論は密でありとっつきにくく感じるかも知れない。しかし、読み手にゆったりとした気持ちさえあれば, 実は、親切に書かれていることがわかると思う。

4.4. 学生時代の思い出

筆者が本書を知ったのは, 東大に入学して間もない初夏のことである。たまたま、上級生向きの数学科のガイダンスにもぐりこんでいると, 伊原康隆先生 (1938-, 現在は数理解析研究所) が「時間をうんとかけて本格的な古典を読んでみなさい。 1 日にたくさん読もうとしてはいけません」とおっしゃりながら『連続群論』を勧められていた。なるほどと思い, すぐさま本書を購入したが, 実際に読んだのは線型代数と解析を習い終わった 2 年生のころであった。予備知識といえるようなものは何ももっていなかったので, かえって第 1 章の 1 ページ目から没頭できたように思う。大学１年生のころは、どちらかというと手計算をたくさん行うような古典的な解析が好きであった筆者にとっては、初めて、抽象的な論理思考をする機会になった。特に第 5, 6, 8 章は読みごたえと迫力があり, 1 ページに 1 日以上かけてあれこれ考えた日々があったと記憶している。

改行もなくびっしりと抽象的な論理がつまっている本書を読むとき、「各小節の最初の数行を読んで本を閉じ、静かにゆっくり考え、再び本を開いてみる」というようにすると、なぜかわかりやすかったという記憶がある。その後、『連続群論』以外の本を読むときはあまりそういう読み方をしなかった。当時の筆者はポントリャーギンは目が見えない数学者であるということを想像だにしていなかったが、ひょっとすると、無意識のうちに著者の思考回路に近づけられて、字面を追わない読み方をしていたのかもしれない。

筆者は、ちょうど同じころに友人の中田隆夫氏とミルナーの『モース理論』（志賀浩二訳）を読んでいた。当時の筆者には予備知識を補いながら読む必要があったが、ミルナーの明快な語り口と鋭い切れ味によって, 自動車で軽快にドライブを楽しんでいる感じがした。

対照的に、ポントリャーギンの『連続群論』は、山道を一歩一歩丹念に踏みしめて歩いている気がした。うつむき加減で登っていると、頂上に到着するまで全体像がわかりにくいのである。しかし、この山道は念入りに整備されている。登り疲れることはあるかもしれないが、滑ったり、迷子になる心配はない。ちょっと見晴らしの良いところで一息ついたときに, 「ふもとから出発したわりには, けっこう高いところまで行き着いたなあ」と思えるのである。なお、その当時の印象では, 本書の第 8 章位までの抽象度の高い部分が登り坂の多い山道とすると, それ以降の章は抽象度も高くなくゆるやかに書かれており, まるで高原を散策しているかのように感じた。 4.5. 本書のハイライト部分について

『連続群論』の第５章〜第８章では、局所コンパクト可換群、および、コンパクト群の場合に、位相群の構造を精密に調べることを主眼としている。この部分が本書のハイライト部分である。

さて、抽象的な位相群の構造を調べるにはどうすれば良いだろうか？無から有を生じさせるための手段として、有限次元ベクトル空間への表現を考えるのである。すなわち、位相群 G から、一般線型群への連続な準同型写像

π: G → GL(n, ℂ)

を考える。 GL(n, ℂ) は 2n^{2} 次元のユークリッド空間の開集合とみなせるから、解析的な座標系があり、リー群である。写像 π を通して未知の位相群 G の構造を調べようというのがここでの基本戦略である。

もっとも好ましい場合は、 π が単射の場合であり、次の重要な定理が成り立つ。

定理 4.5 (フォン・ノイマン). 群 G が GL(n, ℂ) の閉集合ならば、 G はリー群である。

さて、一般の位相群に対しては π が単射になることを望めない。次善の状況として、こういった π が「たくさん」あれば, それらを介して G の構造が詳しく調べられると期待される。

ここでの、「たくさんある」というのは、「相異なる２点を分離する π が存在する」というような意味であるが、それをより鮮明に表すのが以下の定理である：Ａ：ペーター-ワイルの定理Ｂ：指標群の双対定理本書の第５，６章では、それぞれ、コンパクト群の場合にＡを, 局所コンパクト可換群の場合にＢを証明している。それぞれについて、本書における役割と本書で省かれている視点をかいつまんで、 §4.6 と§4.7 で順に説明しよう。 4.6. ぺータ−-ワイルの定理

ペーター-ワイルの定理は, さまざまな捉え方がある。その 1 つの捉え方は、「群 G 上の任意の関数を群に内在する良い関数の有限線型結合で近似する定理」という解釈である。「内在する良い関数」とは, G = ℝ ならば調和振動子 e^{iξx} であり, G = 𝕋 ならば単項式 z^{n} (n は整数) である。これらの線型結合による近似の理論は ℝ や 𝕋 のフーリエ解析の理論に他ならない。

ワイル (Hermann Weyl, 1885-1955) は、調和振動子 e^{iξx} が実数のなす加法群 ℝ の 1 次元表現

χ_{ξ} : ℝ → GL(1, ℂ), x ↦ e^{iξx}

に由来すると解釈する。１次元表現は簡単すぎる概念なので、かえって誰もが気づかずにいた解釈であった。しかし、この視点によって, (可換とは限らない) 群上にフーリエ解析の理論を一般化する足がかりができたのである。このようにして、ペーター-ワイルの定理が 1927 年に発表され、現在の非可換調和解析の第一歩が踏み出された。

本書では, ペーター-ワイルの定理の証明のために, まずコンパクト群上に自然な測度を構成し, 次にその測度に関して積分を行い、積分方程式論を準備する。ペーター-ワイルの定理の表現論的側面は最小限にとどめるかわりに、第 8 章で一般のコンパクト群の構造の理論への最短路をめざす。その構造の理論とは, 大まかにいえば,

定理 4.6. 任意のコンパクト群は、ある意味でいくらでも精密にリー群によって近似できる。

という美しい結果である。その証明にペーター-ワイルの定理（の一部）が用いられるのである。

コンパクトな位相群である p 進整数 ℤ_{p} が、有限群 (特に、 0 次元のリー群でもある) ℤ/p^{n}ℤ の射影極限として定義されていることを思い出すと、この定理の雰囲気をおわかりいただけると思う。

その構造定理から、コンパクト群に対するヒルベルトの第 5 問題がただちに解決でき、第８章のクライマックスを迎える。

なお、コンパクト群に対するペーター-ワイルの定理は、その後、ゲルファント学派やハリッシュ・チャンドラ (1923-1983) や大島利雄先生 (1948-) らによって、非コンパクトな半単純リー群やその対称空間に拡張された。 SL(n, ℝ) のような非コンパクト群では、無限次元表現や連続スペクトラムが現れ、解析的な手法が重要になる。これらの拡張では、本書とは逆に、表現論の具体的な側面を強調する形で行われている。 4.7. 双対定理

本書のハイライトのもう一つの話題は、第６章の局所コンパクト可換群の構造定理と指標群の双対定理である。

その雰囲気を説明しよう。 G を局所コンパクトな可換群とする。トーラス群への連続準同型写像

(3)  f : G → 𝕋

全体のなす集合を G^{∗} と書く。

トーラス群 𝕋 における積を用いて G^{∗} に可換群の構造をいれることができる。すなわち、 f_{1}, f_{2} ∈ G^{∗} に対して、積 f_{1}f_{2} を

(f_{1}f_{2})(g) := f_{1}(g)f_{2}(g) (g ∈ G)

と定めるのである。 G^{∗} を指標群という。さらに、広義一様収束の位相を入れると、指標群 G^{∗} は局所コンパクト群になることがわかる。 G から G^{∗} を対応させ、さらにそれをもう一度繰り返すと、自然に

(4)  G → G^{∗∗}

という群準同型が得られる。 (4) が単射であるというのが、 G の一次元表現が「たくさん」あるということに対応している。局所コンパクト可換群の双対定理（いわゆるポントリャーギンの双対定理) は次のように記述できる：

定理 4.7 (双対定理). (4) は位相群としての同型

G ≃ G^{∗∗}

になっている。

ベクトル空間にも似た現象があることを思い出そう。例えば、 V を ℂ 上のベクトル空間とし、 V の双対ベクトル空間 V^{∗} を線型写像

(5)  f : V → ℂ

全体のなす集合として定義する。 V が有限次元ならば、よく知られているように「V^{∗∗} はもとの空間 V に自然に同型」になるが、定理 4.7 はこの事実に類似している。この「双対性」は、無限次元ベクトル空間の場合、反射的あるいは回帰的という概念に対応している。

ちなみに、ポントリャーギンの双対定理から数年後に、ゲルファント (Israil Gelfand, 1913-) が位相環 (可換ノルム環) の構造理論でモスクワ大学に博士論文を提出する (1938 年)。可換ノルム環の極大イデアルを点と思って自然な位相を導入することにより、適当な仮定の下で、与えられた環がこの位相空間の関数環として復元できるということを証明したのである。可換ノルム環のアイディアは、後にグロタンディク (Alexander Grothendieck, 1928-) のスキーム理論につながっていく。

逆に、ゲルファントのノルム環の理論をさかのぼると、その画期的な定式化の背後に、数年前に証明されたポントリャーギンの双対定理が色濃く反映しているように筆者には思われる。前者は位相環の１次元表現の全体を考え、後者は位相群の１次元表現の全体を考えて、それぞれ双対性を問うのである。位相群の準同型写像 (3) を (5) と素朴に組合わせて群環の１次元表現を考えると、ゲルファントの定式化が浮かび上がる。逆にノルム環の理論から可換群の双対定理の別証明が導かれる。なお、ゲルファントのノルム環の理論は「複素バナッハ体は ℂ に限る」という構造定理を基礎としているが、それはポントリャーギンの位相体の構造定理 (定理 3.3) と同じ線上にあると考えられる。

ポントリャーギンの双対定理に戻ろう。そこでは、指標群 G^{∗} がもとの群 G のすべての情報をもっていることがわかる。従って、 G の構造を調べるためには、 G と G^{∗} のいずれを調べても良いので、研究手段が広がるという利点が生まれる。

双対定理を実感するために、指標群の例

(6)  ℝ^{∗} ≃ ℝ, 𝕋^{∗} ≃ ℤ, ℤ^{∗} ≃ 𝕋

を見てみよう。確かに、 G = ℝ, 𝕋, ℤ の３つの場合に、 G^{∗∗} が G に同型となっていることがわかる。

例えば 𝕋 と ℤ の双対性は、フーリエ級数の双対性

a_{n}(f) = \frac{1}{2π} ∫_{0}^{2π} f(θ)e^{−inθ} dθ
f(θ) = ∑_{n∈ℤ} a_{n}(f)e^{inθ}

にも現れている。指標群の双対定理を用いることによって、フーリエ級数の理論は、一般の局所コンパクトな可換群に対して定式化することができる。

さて、（6) の中で、コンパクト群 𝕋 の指標群が ℤ という離散群になっている点に着目しよう。これは偶然ではなく、可換群の指標群に対しては一般に、

コンパクト群 ↔ 離散群

という双対性が成り立つ。離散群というのは位相を考えていない代数的な群ともみなせるから、双対定理の原理によって、コンパクト可換群の情報がすべて代数的な情報に移行することがわかる。ここに、位相から代数という異質なものの等価性が導かれ、ポントリャーギンの双対定理の真骨頂が発揮される。

本書の第 6 章では、ファン・カンペン (Egbertos van Kampen, 1908-42) による一般化を取り入れて双対定理 (定理 4.7) を証明している。それは, 群の構造定理と双対定理が手を取り合って高まっていく形で行われる。その応用例として可換群に対するヒルベルトの第 5 問題が肯定的に解決される。その理論の創始者の手によるだけに, 特に生き生きと書かれていて面白い章である。

なお、ここで述べた可換群に対する双対定理はその後非可換な場合に拡張されている。まず、コンパクト群に対して淡中忠郎先生 (1908-1986) は、丁度『連続群論』の初版が出版された 1938 年に淡中の双対定理を発表されている。 G が非可換の場合には, 既約ユニタリ表現の全体 G^{∗} はもはや群ではないが、そこに現れるテンソル積や直和などの代数構造は、グロタンディクによる淡中圏の概念に昇華されている。

さらに、可換群の双対定理はコンパクト群の淡中双対定理と統合されて、辰馬の双対定理として局所コンパクト群の双対定理に一般化された。

筆者は、辰馬伸彦先生 (1930-) に双対定理の研究を手がけられたころの様子をお聞きしたことがある。湯川秀樹先生 (1907-1981) が「粒子の衝突したあとの状態の分布の観察から系の対称性がわかるか？」すなわち数学的に言えば「ユニタリ表現のテンソル積の既約分解の様子からその群が特徴付けられるか？」と雑談で話されていたのを 1959 年の数学会（京大）の折に吉沢尚明先生 (1923-) を通じて耳にされ、難しいと思われていた双対定理の一般化を手がけてみる一つのきっかけにされたということである。 4.8. 変換群や表現論の視点

最後に本書には書かれていないことに触れて、逆に本書の目指した方向を浮き彫りにしたい。

そもそも、群とは、変換における具体的な作用を捨象し、その合成法則のみを群演算として抽象して得られた概念であった。

逆に、「ある特定の群がどのような空間にどのような変換として作用するか？」という問題は、群の本来の姿を探ることであり、また群論の重要な課題でもある。その特別な場合が、表現論である。

リー群や等質空間の構造を用いて表現を精密に調べるという方向は, 本書では最小限に抑えられているが、最近ではむしろ積極的に行われており、多くの方面に美しい理論が生まれている。

種々の空間への具体的な作用に注目することによって、群やその表現論が媒介となり、異なる分野の数学を巻き込んだり、異なる分野から生まれた概念に相互のつながりを与えたり、新しい手法を生む手がかりにもなっているのである。

一例として、有限次元表現を考えてみると、 · イ) 代数幾何や複素多様体論に基づいたボレル-ヴェイユ-ボット理論 · ロ) 古典的な調和解析に結びついたペーター-ワイルの定理 · ハ) リー環の代数構造だけで記述できるカルタン-ワイルの最高ウェイト理論

などが、抽象的に同型な既約表現を通して、互いに関連しあっているのである。なお、現在では、これらのいずれもが半単純リー群の無限次元表現の理論に発展している。

本書が書かれた時点でも、既にカルタン-ワイルの理論は花開いており、実は、第 5,10,11 章ではそれらを説明する一歩手前まで書かれているのであるが、ポントリャーギンはそこまで踏み込まない。

本書のスタンスは, これとは正反対の方向である。すなわち, 群の構造を明らかにするという目標の一手段として、表現の抽象理論を研究しているのである。具体性を含んだ表現の理論は扱わないかわりに, 位相群の構造定理において, 可算公理の仮定がどの程度本質的なものかといった検討に工夫と努力が注がれている。言い換えれば、具体的な変換や表現は捨象し, あくまで位相群の構造の理論を追求するという姿勢が貫かれている。

ポントリャーギンの頑くななまでの姿勢は、本書において数学的に成功している。位相群の基礎理論に集中して書かれているため、本書の構成が明快なものになり、分量も適度にまとまっている。本書『連続群論』が多くの世代によって読み継がれてきた一因は、この一貫した姿勢にもあるのだろう。

なお、邦訳では、訳者による文献の追加と訳注が整備されていて便利である。

（こばやしとしゆき／東京大学・ハーバード大学）