
4.4Lie群作用4.4Lie群作用群是用于描述对称性的数学语言从这个角度看,Lie群所描述的是“一族光滑依赖于(有限个)参数的对称”,这是Lie群在几何、分析、物理等各领域应用广泛的根本原因.本节就从“Lie群作为光滑流形的对称群”的角度,展开初步的讨论4.4.1光滑作用光滑作用设M为一个光滑流形.那么M上“最大的对称群”就是M到自身的微分同胚群Diff(M).但它不是一个Lie群,因为它“太大了”:其维数是无穷的,即它是包含无穷多参数的对称6另一方面,前面已经见过参数最少的“光滑族对称”:完备向量场生成的流ot,只有一个参数tER,并把R实现为M的一个光滑族对称群.类比于该情形,“Lie群G是光滑流形M的对称群”的数学表述就应该是“G中每个元素都对应于Dif(M)的元素,且该对应保持群运算(并满足特定光滑性要求)”定义4:4.1.(Lie群作用)设G是一个Lie群而M是一个光滑流形(1)称任意群同态T:G→Diff(M)为G在M上的一个作用换句话说,所谓“G在M上的一个作用”,指的是:对于gEG,都指定一个微分同胚T(g):M→M,且该指定满足T(9192) = T(91) o T(92),Vg1, 92 E G.(2)若T:G→Diff(M)是G在M上的一个作用G,且赋值映射ev:G× M →M, (g,m) →T(g)(m)是光滑的,则称该作用是光滑作用。品注意此处定义群作用的光滑性跟前文中定义流的光滑性,方式是一致的,绕开了在Dif(M)定义拓扑与光滑结构这个复杂的问题.为了简洁起见,。下文在不引起混淆地情况下,总是记T(g)(m)为g·m.。如无例外说明,本书后文也只考虑光滑作用,6粗略地看,可以将Diff(M)当作是一个“无穷维Lie群”(基于Coo拓扑的特殊性,其局部模型空间是Fréchet空间),此时不难“看出”其Lie代数不是别人,正是熟悉的P(TM),即M上全体光滑向量场组成Lie代数:几何上看,切向量是参数曲线的变化率”(见习题),而注33.5中已指出,Df(M)中过Id的曲线(即M上的一族光滑依赖于t且满足pO=Id的微分同胚pt:M→M),其在在任意时刻的变化率都是M上的一个向量场。“微分同胚群-光滑向量场代数”这个无穷维Lie群-Lie代数对应有很多跟有限维类似的性质,比如在习题3中也看到,正如有限维情形Lie代数是单参数群可交换的障碍一样,T(TM)是Dif(M)中单参数群可交换的障碍此外,这个对应还有很多很有意思的“子对应”,例如命题4.2.13揭示了“F(TG)中由左不变向量场(等价于它们生成的流)组成的子代数对应于Dif(M)中由右平移组成的子群(等价于G本身)”,而Riemann几何中的“Killing向量场-等距同构群对应”以及辛几何中的(无穷维)“辛/Hamilton向量场-辛/Hamilton微分同胚群对应”都是意义深远的。不过,如果深究一下,也可以发现这个无穷维对应远远不如有限维情形那么好,比如,并非每个向量场(即Lie代数T(TM)中的元素)都对应于Diff(M)的某个单参数子群:即使限制在紧流形或者紧致向量场情形,使得这样一个对应确实存在,在单位元附近的“指数映射”也未必是(无穷维)局部微分同胚。116
4.4 Lie 群作用 4.4 Lie 群作用 群是用于描述对称性的数学语言. 从这个角度看,Lie 群所描述的是“一族光滑依赖 于 (有限个) 参数的对称”,这是 Lie 群在几何、分析、物理等各领域应用广泛的根本原 因. 本节就从“Lie 群作为光滑流形的对称群”的角度,展开初步的讨论. 4.4.1 光滑作用 ¶ 光滑作用 设 M 为一个光滑流形. 那么 M 上“最大的对称群”就是 M 到自身的微分同胚群 Diff(M). 但它不是一个 Lie 群,因为它“太大了”:其维数是无穷的,即它是包含无穷 多参数的对称. 6 另一方面,前面已经见过参数最少的“光滑族对称”:完备向量场生 成的流 φt,只有一个参数 t ∈ R,并把 R 实现为 M 的一个光滑族对称群. 类比于该情 形,“Lie 群 G 是光滑流形 M 的对称群”的数学表述就应该是“G 中每个元素都对应于 Diff(M) 的元素,且该对应保持群运算 (并满足特定光滑性要求)”: 定义 4.4.1. (Lie 群作用) ♣ 设 G 是一个 Lie 群而 M 是一个光滑流形. (1) 称任意群同态 τ : G → Diff(M) 为 G 在 M 上的一个 作用. 换句话说, 所 谓“G 在 M 上的一个 作用”,指的是:对于 g ∈ G, 都指定一个微分同胚 τ (g) : M → M,且该指定满足 τ (g1g2) = τ (g1) ◦ τ (g2), ∀g1, g2 ∈ G. (2) 若 τ : G → Diff(M) 是 G 在 M 上的一个作用 G,且赋值映射 ev : G × M → M, (g, m) 7→ τ (g)(m) 是光滑的,则称该作用是 光滑作用. 注意此处定义群作用的光滑性跟前文中定义流的光滑性,方式是一致的,绕开了在 Diff(M) 定义拓扑与光滑结构这个复杂的问题. 为了简洁起见, 下文在不引起混淆地情况下,总是记 τ (g)(m) 为 g · m. 如无例外说明,本书后文也只考虑光滑作用. 6粗略地看,可以将 Diff(M) 当作是一个“无穷维 Lie 群”(基于 C∞ 拓扑的特殊性,其局部模型空间是 Fréchet 空间),此时不难“看出”其 Lie 代数不是别人,正是熟悉的 Γ ∞(TM), 即 M 上全体光滑向量场组成 Lie 代 数:几何上看,切向量是参数曲线的“变化率”(见习题),而注3.3.5中已指出,Diff(M) 中过 Id 的曲线 (即 M 上的一族光滑依赖于 t 且满足 ρ0 = Id 的微分同胚 ρt : M → M),其在在任意时刻的变化率都是 M 上的一个 向量场. “微分同胚群-光滑向量场代数”这个无穷维 Lie 群-Lie 代数对应有很多跟有限维类似的性质,比 如在习题 3 中也看到,正如有限维情形 Lie 代数是单参数群可交换的障碍一样,Γ ∞(TM) 是 Diiff(M) 中 单参数群可交换的障碍. 此外,这个对应还有很多很有意思的“子对应”,例如命题4.2.13揭示了“Γ ∞(T G) 中由左不变向量场 (等价于它们生成的流) 组成的子代数对应于 Diiff(M) 中由右平移组成的子群 (等价于 G 本 身)”,而 Riemann 几何中的“Killing 向量场-等距同构群对应”以及辛几何中的 (无穷维)“辛/Hamilton 向 量场-辛/Hamilton 微分同胚群对应”都是意义深远的。不过,如果深究一下,也可以发现这个无穷维对应 远远不如有限维情形那么好,比如,并非每个向量场(即 Lie 代数 Γ ∞(TM) 中的元素)都对应于 Diff(M) 的某个单参数子群;即使限制在紧流形或者紧致向量场情形,使得这样一个对应确实存在,在单位元附近的 “指数映射”也未必是 (无穷维) 局部微分同胚. 116

4.4Lie群作用。若光滑流形M上赋予了光滑G作用T,则将“M和-”简称为一个G-流形此外,若M子集S在群作用下不变,即g.sES, VgEG,sES,则称S为一个G不变集合注4.4.2.上面定义给出的是Lie群G在光滑流形M上的左作用.类似地,也可以定义G在M上的右作用为一个反同态↑:G→Dif(M),即满足个(g192) = (g2) o (g1), Vg1, 92 E G.不难在左作用和右作用之间进行转化,例如对于任意左作用T,通过令(g)(m)=T(g-1)(m)就得到一个右作用下述命题是显然的:命题4.4.3.(子”作用)设Lie群G光滑地作用在流形M上(1)若H是G的Lie子群,则G作用限制到H后是H在M上的光滑作用。(2)若M的光滑子流形S是G不变子集,则G作用限制到S后是G在S上的光滑作用。f光滑作用的例子例4.4.4.对于任意0ES1=R/2元Z,令re:2→2,(l,2,3)=(coso-sino,r sin+22coso,3)S2的以a3轴为旋转轴且“从a3正向看过去为逆时针旋转”的旋转变换.则每个ro都是微分同胚,且rerr2=re1+2.故→re是S在S?上的一个光滑作用.例4.4.5.任意线性Lie群可以通过线性变换典范地作用在相应维数的欧氏空间上。例如,GL(n,R)在Rn上的典范线性作用为VXeGL(n,R) w X: Rn →Rn,UXu.这也是GL(n,R)的子群被称为线性Lie群的原因.例4.4.6.将上述Rn上的GL(n,R)作用限制在特殊正交群SO(n)上,就得到SO(n)在Rn上的一个光滑作用.在该作用下,Sn-1是一个不变子集,因而自动得到SO(n)在Sn-1上的一个光滑作用:【事实上,进一步可以得到上述Sl在S?上的旋转作用:只需把S2上的SO(3)作用限制到子群SO(2)×{el~Sl即可.)例4.4.7.任何Lie群G都能够以左乘、右乘逆元以及共轭这三种方式作用在它自身之上.例如,G在G自身的共轭作用是由gEGwc(g):G-→G,aHgrg-1.给出的.更一般地,G的任意Lie子群H能够以左乘,右乘以及共轭方式作用在G上例4.4.8.在例4.2.10中出现的伴随表示Ad:G→GL(g)是一个群作用.事实上,李群的“表示”是一类特殊的群作用:若Lie群G作用在线性空间V上,且T(G)CGL(V),117
4.4 Lie 群作用 若光滑流形 M 上赋予了光滑 G 作用 τ,则将“M 和 τ”简称为一个 G-流形. 此外,若 M 子集 S 在群作用下不变,即 g · s ∈ S, ∀g ∈ G, s ∈ S, 则称 S 为一个 G 不变集合. 注 4.4.2. 上面定义给出的是 Lie 群 G 在光滑流形 M 上的左作用. 类似地,也可以定 义 G 在 M 上的 右作用为一个反同态 ✿✿✿✿✿✿ τˆ : G → Diff(M), 即满足 τˆ(g1g2) = ˆτ (g2) ◦ τˆ(g1), ∀g1, g2 ∈ G. 不难在左作用和右作用之间进行转化,例如对于任意左作用 τ,通过令 τˆ(g)(m) = τ (g −1 )(m) 就得到一个右作用 τˆ. 下述命题是显然的: 命题 4.4.3. (“子”作用) ♠ 设 Lie 群 G 光滑地作用在流形 M 上. (1) 若 H 是 G 的 Lie 子群,则 G 作用限制到 H 后是 H 在 M 上的光滑作用。 (2) 若 M 的光滑子流形 S 是 G 不变子集,则 G 作用限制到 S 后是 G 在 S 上 的光滑作用。 ¶ 光滑作用的例子 例 4.4.4. 对于任意 θ ∈ S 1 = R/2πZ,令 rθ : S 2 → S 2 , (x 1 , x2 , x3 ) = (x 1 cos θ − x 2 sin θ, x1 sin θ + x 2 cos θ, x3 ) S 2 的以 x 3 轴为旋转轴且“从 x 3 正向看过去为逆时针旋转”的旋转变换. 则每个 rθ 都 是微分同胚,且 rθ1 rθ2 = rθ1+θ2 . 故 θ 7→ rθ 是 S 1 在 S 2 上的一个光滑作用. 例 4.4.5. 任意线性 Lie 群可以通过线性变换典范地作用在相应维数的欧氏空间上。例 如,GL(n, R) 在 R n 上的典范线性作用为 ∀X ∈ GL(n, R) ⇝ X : R n → R n , v 7→ Xv. 这也是 GL(n, R) 的子群被称为线性 Lie 群的原因. 例 4.4.6. 将上述 R n 上的 GL(n, R) 作用限制在特殊正交群 SO(n) 上,就得到 SO(n) 在 R n 上的一个光滑作用. 在该作用下,S n−1 是一个不变子集,因而自动得到 SO(n) 在 S n−1 上的一个光滑作用. 【事实上,进一步可以得到上述 S 1 在 S 2 上的旋转作用:只 需把 S 2 上的 SO(3) 作用限制到子群 SO(2) × {e} ' S 1 即可.】 例 4.4.7. 任何 Lie 群 G 都能够以左乘、右乘逆元以及共轭这三种方式作用在它自身 之上. 例如,G 在 G 自身的共轭作用是由 g ∈ G ⇝ c(g) : G → G, x 7→ gxg−1 . 给出的. 更一般地, G 的任意 Lie 子群 H 能够以左乘、右乘以及共轭方式作用在 G 上. 例 4.4.8. 在例4.2.10中出现的伴随表示 Ad : G → GL(g) 是一个群作用. 事实上,李群 的“表示”是一类特殊的群作用:若 Lie 群 G 作用在线性空间 V 上,且 τ (G) ⊂ GL(V ), 117

4.4Lie群作用则称该作用为G的一个表示.“Lie群表示论”一方面利用Lie群研究连续族的线性对称,另一方面利用线性代数研究Lie群本身的结构,是一个优美且重要的数学分支。例4.4.9.设X是M上的一个完备向量场,那么它生成的流p: R-→ Diff(M),t→ Pt =X是R在M上的一个光滑作用.反之,任给R在M上的光滑作用p:R→Diff(M),令dX(m)= Pt(m)dtt=其中m(t):=pt(m),就得到M上的一个光滑向量场X,使得该R作用正好就是X生成的流群作用的线性化于是Lie群G在M上的光滑作用是一个“光滑的”群同态T:G→Dif(M)既然Lie群同态会诱导出相应的Lie代数之间的同态,那么自然的问题是T是否也会诱导出某个Lie代数同态dT:g→To(TM)?如果这个映射dt存在,那么它可以被视为是Lie群作用的线性化事实上,不难找到这个映射dT.例4.4.9事实上已经揭示了群G为R时如何找到所求的向量场,而这也为一般情形提供了思路:对于一般的Lie群G作用,以及任意XEg,可以先得到G中的单参数子群exp(tX)(它可被视为“藏在G中的一个R”);G中的这个单参数子群通过群同态T可以给出Dif(M)中的单参数子群T(exp(tX)),从而用例4.4.9的方法就可以给出所需要的向量场:定义4.4.10.(诱导向量场)假设Lie群 G光滑地作用在 M 上.对于任意的 X Eg以及任意mEM,令dlXM(m)=exp(tx).m.dtlt=向量场XM是被称为Lie代数元素X在该群作用下的诱导向量场品注意向量场X的从mEM出发的积分曲线就是m(t)=exp(tX)·m,因为由定义可知m(0)=m,以及ddm(t) =(exptX.m) =(expsXoexptX·m)=Xm(m(t))dtdsls换句话说,XM生成的流就单参数Lie群exp(tX)在群作用下的像集合pt=T(exp(tX))于是,从Lie群G在光滑流形M上的任意光滑作用T开始,可以得到一个映射dT : g→P(M), X→XM.线性映射dT可以被视作是映射T:G→Diff(M)的微分,不过跟之前熟悉的情况稍有不同的是,dr并不是一个Lie代数同态,而是一个Lie代数的反同态:它被称为Lie代数g在光滑流形M上的无穷小作用118
4.4 Lie 群作用 则称该作用为 G 的一个表示. “Lie 群表示论”一方面利用 Lie 群研究连续族的线性对 称,另一方面利用线性代数研究 Lie 群本身的结构,是一个优美且重要的数学分支。 例 4.4.9. 设 X 是 M 上的一个完备向量场,那么它生成的流 ρ : R → Diff(M), t 7→ ρt = φ X t 是 R 在 M 上的一个光滑作用. 反之, 任给 R 在 M 上的光滑作用 ρ : R → Diff(M), 令 X(m) = d dt t=0 ρt(m) 其中 γm(t) := ρt(m), 就得到 M 上的一个光滑向量场 X, 使得该 R 作用正好就是 X 生 成的流. ¶ 群作用的线性化 于是 Lie 群 G 在 M 上的光滑作用是一个“光滑的”群同态 τ : G → Diff(M). 既 然 Lie 群同态会诱导出相应的 Lie 代数之间的同态,那么自然的问题是 τ 是否也会诱导 出某个 Lie 代数同态 dτ : g → Γ∞(TM)? 如果这个映射 dτ 存在,那么它可以被视为是 Lie 群作用的线性化. 事实上,不难找到这个映射 dτ . 例4.4.9事实上已经揭示了群 G 为 R 时如何找到 所求的向量场,而这也为一般情形提供了思路:对于一般的 Lie 群 G 作用,以及任意 X ∈ g,可以先得到 G 中的单参数子群 exp(tX)(它可被视为“藏在 G 中的一个 R”);G 中的 这个单参数子群通过群同态 τ 可以给出 Diff(M) 中的单参数子群 τ (exp(tX)),从而用 例4.4.9的方法就可以给出所需要的向量场: 定义 4.4.10. (诱导向量场) ♣ 假设 Lie 群 G 光滑地作用在 M 上. 对于任意的 X ∈ g 以及任意 m ∈ M,令 XM(m) = d dt t=0 exp(tX) · m. 向量场 XM 是被称为 Lie 代数元素 X 在该群作用下的诱导向量场. 注意向量场 XM 的从 m ∈ M 出发的积分曲线就是 γm(t) = exp(tX) · m, 因为由定 义可知 γm(0) = m,以及 γ˙m(t) = d dt(exp tX · m) = d ds s=0 (exp sX ◦ exp tX · m) = XM(γm(t)). 换句话说,XM 生成的流就单参数 Lie 群 exp(tX) 在群作用下的像集合 ρt = τ (exp(tX)). 于是,从 Lie 群 G 在光滑流形 M 上的任意光滑作用 τ 开始,可以得到一个映射 dτ : g → Γ ∞(M), X 7→ XM. 线性映射 dτ 可以被视作是映射 τ : G → Diff(M) 的微分,不过跟之前熟悉的情况稍有 不同的是,dτ 并不是一个 Lie 代数同态,而是一个 Lie 代数的✿✿✿✿✿✿✿ 反同态. 它被称为 Lie 代 数 g 在光滑流形 M 上的无穷小作用. 118

4.4Lie群作用4.4.2轨道与商空间轨道与稳定化子对于给定的群作用,下面两个概念是最自然的:定义4.4.11,(轨道与稳定化子)设G是Lie群,T:G→Dif(M)是G在M上的一个光滑作用,mEM(1)称M的子集G-m=(g·mIgEG)cM为该群作用下点mEM所在的轨道(2)称G的子群Gm=(gEGlg-m=m)<G为该群作用下点㎡的稳定化子(也叫做该群作用在点m处的迷向子群).例4.4.12对于例4.4.4中S1在S2上的旋转作用而言,。南极点和北极点的轨道是它们自身,其它点的轨道是所在的纬度圆;。南极点和北极点的稳定化子是Si,其它点的稳定化子是{e)轨道和稳定化子都有良好的结构:命题4.4.13.(轨道与稳定化子的线性化)设T:G一→Diff(M)是一个光滑作用,mEM.那么(1)轨道G·m是M的浸入子流形,且它在m处的切空间是Tm(G·m) = [XM(m) I X Eg).(2)稳定化子 Gm是 G的一个闭 Lie子群,且它的 Lie代数是gm =[X Eg / XM(m) = 0)证明这里仅证明(2).【(1)的证明见例4.4.20之后.】因为Gm=eu1(m),所以Gm在G中是闭子集它还是G的一个子群,因为T是一个群同态.由Cartan闭子群定理,Gm是G的一个闭Lie子群.此外,Gm的Lie代数是gm=(X Eg / exp(tX) EGm,VtER)由于对于任意Xegm,均有exp(tX)·m=m,所以在t=0处取微分,就得到gm C X E g / X(m) =0].反过来,若XM(m)=0,则(t)=m(tER)是向量场X的一条经过m的积分曲线于是exp(tX)·m=(t)=m,即对所有的teR,均有exp(tX)EGm.故XEgm.119
4.4 Lie 群作用 4.4.2 轨道与商空间 ¶ 轨道与稳定化子 对于给定的群作用,下面两个概念是最自然的: 定义 4.4.11. (轨道与稳定化子) ♣ 设 G 是 Lie 群,τ : G → Diff(M) 是 G 在 M 上的一个光滑作用,m ∈ M. (1) 称 M 的子集 G · m = {g · m | g ∈ G} ⊂ M 为该群作用下点 m ∈ M 所在的轨道. (2) 称 G 的子群 Gm = {g ∈ G | g · m = m} < G 为该群作用下点 m 的稳定化子 (也叫做该群作用在点 m 处的 迷向子群). 例 4.4.12. 对于例4.4.4中 S 1 在 S 2 上的旋转作用而言, 南极点和北极点的轨道是它们自身,其它点的轨道是所在的纬度圆; 南极点和北极点的稳定化子是 S 1,其它点的稳定化子是 {e}. 轨道和稳定化子都有良好的结构: 命题 4.4.13. (轨道与稳定化子的线性化) ♠ 设 τ : G → Diff(M) 是一个光滑作用, m ∈ M. 那么 (1) 轨道 G · m 是 M 的浸入子流形,且它在 m 处的切空间是 Tm(G · m) = {XM(m) | X ∈ g}. (2) 稳定化子 Gm 是 G 的一个闭 Lie 子群,且它的 Lie 代数是 gm = {X ∈ g | XM(m) = 0}. 证明 这里仅证明 (2). 【(1) 的证明见例4.4.20之后.】因为 Gm = ev−1 m (m),所以 Gm 在 G 中是闭子集. 它还是 G 的一个子群,因为 τ 是一个群同态. 由 Cartan 闭子群定理, Gm 是 G 的一个闭 Lie 子群. 此外,Gm 的 Lie 代数是 gm = {X ∈ g | exp(tX) ∈ Gm, ∀t ∈ R}. 由于对于任意 X ∈ gm,均有 exp(tX) · m = m,所以在 t = 0 处取微分, 就得到 gm ⊂ {X ∈ g | XM(m) = 0}. 反过来, 若 XM(m) = 0, 则 γ(t) ≡ m(t ∈ R)是向量场 XM 的一条经过 m 的积分曲线. 于是 exp(tX) · m = γ(t) = m, 即对所有的 t ∈ R,均有 exp(tX) ∈ Gm. 故 X ∈ gm. □ 119

4.4Lie群作用轨道空间假设G光滑地作用在M上.考虑M上的等价关系r~ygEG使得g·a=y.显然每个等价类就是该群作用的一条轨道。记全体等价类即全体轨道的集合为M/G:=M/~,并称之为轨道空间.例如,如果群作用是传递的,那么M/G只包含一个元素商空间M/G上自然赋有商拓扑。一般而言该拓扑可能很糟糕,比如不是Hausdorff的.例4.4.14.考虑乘法群R>0,它在R上有一个自然的乘法作用.该作用共有三条轨道即全体正数组成的轨道,记为+;全体负数组成的轨道,记为一,和0这一个元素组成的轨道,仍记为0.于是全体轨道的集合为{十0-}在商拓扑下,轨道空间开集是以下集合:T = {(+1, {-1, {+.-1, {+,0, -1,0)显然,在该拓扑下,轨道空间不是Hausdorff的例4.4.15.考虑例4.4.4中所给出的S1在S2上的群作用,则S2/S1~[-1,1],是Hausdorff空间,但不是光滑流形例4.4.16.考虑S1在柱面S1×R上自然的旋转群作用,则S1×R/Sl~R.自由作用为了商空间有更好的结构,需要考虑特殊的群作用定义4.4.17(自由作用)设Lie群G光滑作用在流形M上.如果对任意的mEM,均有Gm=[e],则称该作用是自由的2例如对任意的子群HCG.H在G上通过左乘/右乘定义的自然作用是自由的下面这个定理是群作用理论中根本的定理之一:如果给Lie群作用加一点点要求,例如群的紧性,那么轨道空间就是Hausdorff的;如果进一步要求作用是自由的,那么商空间还是光滑流形!定理4.4.18.(紧Lie群作用)假设G是紧Lie群,光滑地作用在M上,那么(1)(a).每条轨道G·m都是M上的嵌入闭子流形,并且满足Tm(G-m) = (XM(m) / X Eg).(b).轨道空间M/G是Hausdorff的.(2)如果该作用是自由的,那么(a)轨道空间M/G是一个(dimM-dimG)维光滑流形(b).商映射元:M→M/G是一个港没O120
4.4 Lie 群作用 ¶ 轨道空间 假设 G 光滑地作用在 M 上. 考虑 M 上的等价关系 x ∼ y ⇐⇒ ∃g ∈ G使得g · x = y. 显然每个等价类就是该群作用的一条轨道。记全体等价类即全体轨道的集合为 M/G := M/ ∼, 并称之为轨道空间. 例如,如果群作用是传递的, 那么 M/G 只包含一个元素. 商空间 M/G 上自然赋有商拓扑. 一般而言该拓扑可能很糟糕, 比如不是 Hausdorff 的. 例 4.4.14. 考虑乘法群 R>0,它在 R 上有一个自然的乘法作用. 该作用共有三条轨道, 即全体正数组成的轨道,记为 +;全体负数组成的轨道,记为 −,和 0 这一个元素组成 的轨道,仍记为 0. 于是全体轨道的集合为 {+, 0, −}. 在商拓扑下,轨道空间开集是以下 集合: T = {{+}, {−}, {+.−}, {+, 0, −}, ∅}. 显然,在该拓扑下,轨道空间不是 Hausdorff 的. 例 4.4.15. 考虑例4.4.4中所给出的 S 1 在 S 2 上的群作用,则 S 2/S1 ' [−1, 1],是 Hausdorff 空间,但不是光滑流形. 例 4.4.16. 考虑 S 1 在柱面 S 1 × R 上自然的旋转群作用,则 S 1 × R/S1 ' R. ¶ 自由作用 为了商空间有更好的结构,需要考虑特殊的群作用. 定义 4.4.17. (自由作用) ♣ 设 Lie 群 G 光滑作用在流形 M 上. 如果对任意的 m ∈ M,均有 Gm = {e},则 称该作用是自由的. 例如, 对任意的子群 H ⊂ G, H 在 G 上通过左乘/右乘定义的自然作用是自由的. 下面这个定理是群作用理论中根本的定理之一:如果给 Lie 群作用加一点点要求,例 如群的紧性,那么轨道空间就是 Hausdorff 的;如果进一步要求作用是自由的,那么商 空间还是光滑流形! 定理 4.4.18. (紧 Lie 群作用) ♥ 假设 G 是紧 Lie 群,光滑地作用在 M 上, 那么 (1) (a). 每条轨道 G · m 都是 M 上的嵌入闭子流形,并且满足 Tm(G · m) = {XM(m) | X ∈ g}. (b). 轨道空间 M/G 是 Hausdorff 的. (2) 如果该作用是自由的, 那么 (a). 轨道空间 M/G 是一个 (dim M − dim G) 维光滑流形. (b). 商映射 π : M → M/G 是一个淹没. 120

4.4Lie群作用注4.4.19.如果Lie群G不是紧的,但是它在M上的群作用是逆紧的,即映射a:G×M-→M×M, (g,m)→(gm,m)是逆紧映射,则定理依然成立(此处我们再一次看到:映射逆紧是空间紧性条件的替代品.).不难证明,紧Lie群的任意光滑群作用都是逆紧的显然G到自身的左乘、右乘作用是逆紧的(因为此时α是同胚).此外,若一例4.4.20.个G作用是逆紧的,则将它限制到G的任何闭Lie子群后也是逆紧的.特别地,若H是G的闭子群,则H在G上的右作用是自由的且逆紧的,从而商空间G/H是一个光滑流形.作为应用,下面给出命题4.4.13(1)的证明证明【命题4.4.13(1)的证明】假设G光滑地作用在M上,则由命题4.4.13(2)可知Gm是G的闭Lie子群,从而由例4.4.20,Gm在G上的右作用的商空间G/Gm是光滑流形.考虑映射F:G/Gm→M,gGm→gm由稳定化子Gm的定义可知F是单射,且其像集恰为G·m.此外,由gF(hGm) = g-(h·m)=(gh)·m= F(ghGm)可知TgoF=FLg,其中L为G在G/Gm上自然的左作用.两边求微分后可得(dT)h-m o(dF)hGm = (dF)ghGm (dLg)hGm由于Tg和L。都是流形的微分同胚,它们的微分都是线性同构,于是F是常秩映射:但F是单射,所以它是单射浸入,从而它的像G·m是M的浸入子流形.最后求Tm(Gm),由定理2.4.6可知任意XM(m)是G·m在点m处的切向量.另一方面,计算维数可知dimG -m = dimG/Gm = dim G - dim Gm = dim g - dim gm = dim Im(dt),口于是结论成立传递作用与齐性空间最后考虑一类非常特殊但在几何中很重要的群作用:定义4.4.21.(传递作用与齐性空间)设Lie群G光滑作用在流形M上如果该作用只有一条轨道,即M=G,m,则称该作用是传递的,并称M为一个齐性空间品由定义,显然每个Lie群都是齐性空间,但反之不然。注意对于一个给定的齐性空间M,传递地作用在M上的Lie群G不必是唯一的根据命题4.4.13(1)的证明,映射F:G/Gm→M,gGm→g·m是单射浸入事实上,若G是紧Lie群,或者G在M上的作用是逆紧作用,则F是嵌121
4.4 Lie 群作用 注 4.4.19. 如果 Lie 群 G 不是紧的, 但是它在 M 上的群作用是逆紧的,即映射 α : G × M → M × M, (g, m) 7→ (g · m, m) 是逆紧映射,则定理依然成立 (此处我们再一次看到:映射逆紧是空间紧性条件的替代品.). 不难证 明,紧 Lie 群的任意光滑群作用都是逆紧的. 例 4.4.20. 显然 G 到自身的左乘、右乘作用是逆紧的 (因为此时 α 是同胚). 此外,若一 个 G 作用是逆紧的,则将它限制到 G 的任何闭 Lie 子群后也是逆紧的. 特别地,若 H 是 G 的闭子群,则 H 在 G 上的右作用是自由的且逆紧的,从而商空间 G/H 是一个光 滑流形. 作为应用,下面给出命题4.4.13(1) 的证明. 证明 【命题4.4.13(1) 的证明】假设 G 光滑地作用在 M 上,则由命题4.4.13(2) 可知 Gm 是 G 的闭 Lie 子群,从而由例4.4.20,Gm 在 G 上的右作用的商空间 G/Gm 是光滑流 形. 考虑映射 F : G/Gm → M, gGm 7→ g · m. 由稳定化子 Gm 的定义可知 F 是单射,且其像集恰为 G · m. 此外, 由 g · F(hGm) = g · (h · m) = (gh) · m = F(ghGm) 可知 τg ◦ F = F ◦ Lˆ g,其中 Lˆ 为 G 在 G/Gm 上自然的左作用. 两边求微分后可得 (dτ )h·m ◦ (dF)hGm = (dF)ghGm ◦ (dLˆ g)hGm. 由于 τg 和 Lˆ g 都是流形的微分同胚,它们的微分都是线性同构,于是 F 是常秩映射. 但 F 是单射,所以它是单射浸入,从而它的像 G · m 是 M 的浸入子流形. 最后求 Tm(G · m),由定理2.4.6可知任意 XM(m) 是 G · m 在点 m 处的切向量. 另 一方面,计算维数可知 dim G · m = dim G/Gm = dim G − dim Gm = dim g − dim gm = dim Im(dτ ), 于是结论成立. □ ¶ 传递作用与齐性空间 最后考虑一类非常特殊但在几何中很重要的群作用: 定义 4.4.21. (传递作用与齐性空间) ♣ 设 Lie 群 G 光滑作用在流形 M 上. 如果该作用只有一条轨道, 即 M = G · m,则 称该作用是传递的,并称 M 为一个齐性空间. 由定义,显然每个 Lie 群都是齐性空间,但反之不然。注意对于一个给定的齐性空 间 M, 传递地作用在 M 上的 Lie 群 G 不必是唯一的. 根据命题4.4.13(1) 的证明,映射 F : G/Gm → M, gGm 7→ g · m 是单射浸入. 事实上,若 G 是紧 Lie 群,或者 G 在 M 上的作用是逆紧作用,则 F 是嵌 121

4.4Lie群作用入.特别地,若G传递地作用在M上,且G紧或者该作用逆紧,则对于任意mEG,映射F给出了一个微分同胚M~G/Gm.所以,齐性空间都是Lie群在自身的闭子群作用下的商空间,由定义可知,齐性空间具有大量可控的“将一点的邻域映为任意一点的邻域”的几何对称性(对比一下,连通流形M总是可以用微分同胚将一点的邻域映为任意一点的邻域,但微分同胚群太大,不可控,对于理解M的结构帮助不大),可以借用Lie群的优美性质去研究,是一类几何上非常好的光滑流形例4.4.22.设k0)上,a b2=a2+6cz+ddC这个作用是传递的,且可验证iEH的稳定化子是SO(2).于是H是齐性空间,且H ~ SL(2,R)/SO(2)122
4.4 Lie 群作用 入. 特别地,若 G 传递地作用在 M 上,且 G 紧或者该作用逆紧,则对于任意 m ∈ G, 映射 F 给出了一个微分同胚. M ' G/Gm. 所以,齐性空间都是 Lie 群在自身的闭子群作用下的商空间. 由定义可知, 齐性空间具有大量可控的“将一点的邻域映为任意一点的邻域”的几 何对称性 (对比一下,连通流形 M 总是可以用微分同胚将一点的邻域映为任意一点的邻域,但微分同胚 群太大,不可控,对于理解 M 的结构帮助不大),可以借用 Lie 群的优美性质去研究,是一类几 何上非常好的光滑流形. 例 4.4.22. 设 k 0} 上, Ñ a b c dé · z = az + b cz + d . 这个作用是传递的, 且可验证 i ∈ H 的稳定化子是 SO(2). 于是 H 是齐性空间,且 H ' SL(2, R)/SO(2). 122