泛函分析3-3 内积空间-内积空间的正交系

第三章 第三节 内积空间的正交系

正交系与标准正交系

定义
设 \(\{z_\alpha\}_{\alpha\in I}\) 是内积空间 \(X\) 中由非零元素组成的集合。若当 \(\alpha\neq\beta\) 时，\((z_\alpha,z_\beta)=0\)，则称 \(\{z_\alpha\}_{\alpha\in I}\) 是 \(X\) 中的一个正交系。若再有 \(\|z_\alpha\|=1\) 对每个 \(\alpha\in I\) 成立，则称 \(\{z_\alpha\}_{\alpha\in I}\) 是一个标准正交系。

定理1
设 \(\{e_1,e_2,\dots,e_k\}\) 是内积空间 \(X\) 中的正交系，则 \(\{e_1,e_2,\dots,e_k\}\) 是线性无关的。如果 \(X\) 是 \(k\) 维的，且 \(\{e_1,e_2,\dots,e_k\}\) 是标准正交系，则任何的 \(z\in X\) 都可以表示为

\[z=\sum_{n=1}^k (z,e_n)e_n. \tag{3.3.1} \]

证明
(1) 对于 \(\{e_1,e_2,\dots,e_k\}\) 考虑方程

\[a_1e_1+a_2e_2+\cdots+a_ke_k=0. \]

两边都对 \(e_m\)（\(m=1,2,\dots,k\)）作内积，由于 \(\{e_1,e_2,\dots,e_k\}\) 是正交系，我们有

\[0=\Big(\sum_{n=1}^k a_ne_n,e_m\Big)=\sum_{n=1}^k a_n(e_n,e_m)=a_m(e_m,e_m)=a_m. \]

这说明 \(\{e_1,e_2,\dots,e_k\}\) 是线性无关的。

(2) 设 \(X\) 是 \(k\) 维内积空间，且 \(\{e_1,e_2,\dots,e_k\}\) 是标准正交系。因为 \(\{e_1,e_2,\dots,e_k\}\) 是线性无关的，则对于任何的 \(z\in X\) 都可以表示为 \(\{e_1,e_2,\dots,e_k\}\) 的线性组合，即

\[z=\sum_{n=1}^k A_ne_n. \]

两边对 \(e_m\)（\(m=1,2,\dots,k\)）作内积，有

\[(z,e_m)=\Big(\sum_{n=1}^k A_ne_n,e_m\Big)=\sum_{n=1}^k A_n(e_n,e_m)=A_m. \]

命题得证。

注：从定理的证明中可以看到，如果空间中的一个元素 \(z\) 能表示成一个标准正交系 \(\{e_1,e_2,\dots,e_k\}\) 的线性组合，则 \(e_n\) 前的系数一定是 \(a_n=(z,e_n)\)（\(z\) 在 \(e_n\) 上的投影）。这显示出正交系比一般的线性无关集在元素的分解上的方便之处，这也是我们更关注正交分解的重要原因。进一步有：

命题1
设 \(\{z_\alpha\}_{\alpha\in I}\) 是内积空间 \(X\) 中的一个正交系，则 \(\{z_\alpha\}_{\alpha\in I}\) 是线性无关的。

证明
在无穷维空间，根据线性无关集的定义（称 \(M\) 是线性无关的，如果 \(M\) 中的任何非空有限子集都是线性无关的），由定理1知内积空间中的任意正交系都是线性无关的。

例1
在 \(L^2[-1,1]\) 中，定义内积为

\[(x,y)=\int_{-1}^1 x(t)\overline{y(t)}\,dt, \]

其中 \(x=x(t),y=y(t)\in L^2[-1,1]\)。容易验证

\[\{1,\cos \pi t,\sin \pi t,\dots,\cos k\pi t,\sin k\pi t,\dots\} \]

是 \(L^2[-1,1]\) 中的正交系。

Legendre 方程

\[-(1-x^2)y''+2xy'=\lambda y,\quad -1<x<1,\qquad y(1)<\infty,\quad y(-1)<\infty. \]

特征值为

\[\lambda_n=n(n+1)\quad (n=1,2,\dots), \]

特征函数为

\[P_n(x)=\frac{1}{2^n n!}\frac{d^n}{dx^n}(x^2-1)^n, \]

我们称 \(P_n\) 为 Legendre 多项式，通过分部积分可以验证它们满足

\[\int_{-1}^1 P_n(x)P_m(x)\,dx=0\quad (m\neq n). \]

即 Legendre 多项式也是 \(L^2[-1,1]\) 上的正交系。

最佳逼近与正交投影

定理2
设 \(\{e_k\}_{k=1}^n\) 是内积空间 \(X\) 中的标准正交系，\(z\in X\)，\(a_1,a_2,\dots,a_n\) 是 \(n\) 个数，当且仅当 \(a_k=(z,e_k)\)（\(k=1,2,\dots,n\)）时

\[\left\|z-\sum_{k=1}^n a_ke_k\right\| \tag{3.3.2} \]

取得最小值。

证明
由于 \(\{e_k\}\) 是标准正交系，对每一个 \(e_i\)，

\[\Big(z-\sum_{k=1}^n (z,e_k)e_k,e_i\Big)=(z,e_i)-(z,e_i)=0\qquad (i=1,2,\dots,n), \tag{3.3.3} \]

即 \(z-\sum_{k=1}^n (z,e_k)e_k\) 和 \(e_i\)（\(i=1,2,\dots,n\)）正交。应用勾股定理，有

\[\begin{aligned} \left\|z-\sum_{k=1}^n a_ke_k\right\|^2 &=\left\|z-\sum_{k=1}^n (z,e_k)e_k+\sum_{k=1}^n\big((z,e_k)-a_k\big)e_k\right\|^2\\ &=\left\|z-\sum_{k=1}^n (z,e_k)e_k\right\|^2+\left\|\sum_{k=1}^n\big((z,e_k)-a_k\big)e_k\right\|^2\\ &=\left\|z-\sum_{k=1}^n (z,e_k)e_k\right\|^2+\sum_{k=1}^n |(z,e_k)-a_k|^2. \end{aligned} \]

所以当且仅当 \(a_k=(z,e_k)\)（\(k=1,2,\dots,n\)）时，\(\left\|z-\sum_{k=1}^n a_ke_k\right\|\) 取最小值。

注：从证明中看到 \(z-\sum_{k=1}^n (z,e_k)e_k\) 和 \(\{e_1,e_2,\dots,e_n\}\) 张成的子空间 \(M\) 正交。\(z\) 在 \(M\) 中的最佳逼近点是 \(z_0\)，称为 \(z\) 在 \(M\) 上的正交投影，其中 \(z_0=\sum_{k=1}^n (z,e_k)e_k\)。

正交投影和 Fourier 级数

命题2
在线性空间 \(L^2[-\pi,\pi]\) 中定义内积

\[(x,y)=\int_{-\pi}^{\pi}x(t)\overline{y(t)}\,dt, \tag{3.3.5} \]

则三角函数系

\[\left\{\frac{1}{\sqrt{2\pi}},\frac{1}{\sqrt{\pi}}\cos t,\frac{1}{\sqrt{\pi}}\sin t,\dots,\frac{1}{\sqrt{\pi}}\cos kt,\frac{1}{\sqrt{\pi}}\sin kt,\dots\right\} \tag{3.3.6} \]

是 \(L^2[-\pi,\pi]\) 中的标准正交系（直接计算可证）。后面可以看到，事实上它们是一组标准正交基（见定理6）。

Fourier 展开的系数为

\[a_0=\frac{1}{\pi}\int_{-\pi}^{\pi}x(t)\,dt=\sqrt{\frac{2}{\pi}}\Big(x,\frac{1}{\sqrt{2\pi}}\Big), \]

\[a_k=\frac{1}{\pi}\int_{-\pi}^{\pi}x(t)\cos kt\,dt=\frac{1}{\sqrt{\pi}}(x,\cos kt),\qquad b_k=\frac{1}{\pi}\int_{-\pi}^{\pi}x(t)\sin kt\,dt=\frac{1}{\sqrt{\pi}}(x,\sin kt). \]

于是 Fourier 展开可以写成

\[x(t)\sim \Big(x,\frac{1}{\sqrt{2\pi}}\Big)\frac{1}{\sqrt{2\pi}}+\sum_{k=1}^{\infty}\left[(x,\tfrac{1}{\sqrt{\pi}}\cos kt)\tfrac{1}{\sqrt{\pi}}\cos kt+(x,\tfrac{1}{\sqrt{\pi}}\sin kt)\tfrac{1}{\sqrt{\pi}}\sin kt\right]. \tag{3.3.7} \]

即 \(x\) 可以按其在每个坐标上的正交投影 \((x,e_k)\)（\(k=1,2,\dots\)）进行分解

\[x(t)\sim \sum_{k=1}^{\infty}(x,e_k)e_k. \tag{3.3.8} \]

定义1
设 \(\{e_n\}_{n\geq 1}\) 是内积空间 \(X\) 中的标准正交系。对于 \(x\in X\)，我们称 \(\sum_{n=1}^{\infty}(x,e_n)e_n\) 为 \(x\) 关于 \(\{e_n\}\) 的 Fourier 级数，\((x,e_n)\) 为 \(x\) 关于 \(\{e_n\}\) 的 Fourier 系数。

注：Fourier 级数给出了内积空间中 \(x\) 在标准正交系下的“坐标分解” \(\sum_{n=1}^{\infty}(x,e_n)e_n\)，其中 \(\{e_n\}_{n\ge 1}\) 是任意给定的一组标准正交系，并不一定是例 3.3.6 中的三角函数系。Fourier 系数 \((x,e_n)\) 是 \(x\) 在 \(\{e_n\}\) 上的正交投影。

Bessel 不等式以及 Fourier 级数的收敛性

定理3
设 \(\{e_k\}_{k\ge 1}\) 是内积空间 \(X\) 中的标准正交列，则对于任意的 \(x\in X\)，有

\[\sum_{k=1}^{\infty}|(x,e_k)|^2\leq \|x\|^2. \tag{3.3.9} \]

证明
对于任意的 \(n\)，

\[\left\|x-\sum_{k=1}^n (x,e_k)e_k\right\|^2 = \left(x-\sum_{k=1}^n (x,e_k)e_k,\ x-\sum_{k=1}^n (x,e_k)e_k\right) = \|x\|^2-\sum_{k=1}^n |(x,e_k)|^2\ge 0. \]

于是 \(\sum_{k=1}^n |(x,e_k)|^2\le \|x\|^2\)。令 \(n\to\infty\)，即得结论。

命题3
设 \(\{e_n\}_{n\ge 1}\) 是内积空间 \(X\) 中的标准正交列，则对于任意的 \(x\in X\)，有 \((x,e_n)\to 0\)（\(n\to\infty\)）。

证明
由式 \((3.3.9)\) 和正项级数收敛的必要条件知，对于任意的 \(x\in X\)，有 \((x,e_n)\to 0\)。

推论1 （Riemann–Lebesgue 引理）
若 \(x(t)\in L^2[-\pi,\pi]\)，那么

\[\lim_{n\to\infty}\int_{-\pi}^{\pi}x(t)\sin nt\,dt=0,\qquad \lim_{n\to\infty}\int_{-\pi}^{\pi}x(t)\cos nt\,dt=0. \tag{3.3.10} \]

证明
由命题2，我们知道 \(\{\sin nt\}\)，\(\{\cos nt\}\) 是 \(L^2[-\pi,\pi]\) 的标准正交列，又由命题3可知，\(x(t)\) 的 Fourier 系数趋于零，推论得证。

推论2
设 \(\{e_\alpha\}_{\alpha\in I}\) 是内积空间 \(X\) 中的标准正交系，则对于每个 \(x\in X\)，\(x\) 关于这个标准正交系的 Fourier 系数 \(\{(x,e_\alpha):\alpha\in I\}\) 最多有可数个不为零。

证明
留给读者。

定理4
设 \(H\) 是 Hilbert 空间，\(\{e_n\}\) 是 \(H\) 中的标准正交列，\(\{a_n\}\) 是一个数列，则级数 \(\sum_{n=1}^{\infty}a_ne_n\) 收敛的充要条件为

\[\sum_{n=1}^{\infty}|a_n|^2<\infty. \]

并且在上述条件下，有

\[\left\|\sum_{n=1}^{\infty}a_ne_n\right\|^2=\sum_{n=1}^{\infty}|a_n|^2. \]

证明
必要性：假设 \(\sum_{n=1}^{\infty}a_ne_n\) 收敛于 \(x\)，则对任意 \(m\in\mathbb N\)，注意到内积的连续性，有

\[(x,e_m)=\Big(\sum_{n=1}^{\infty}a_ne_n,e_m\Big) = \lim_{k\to\infty}\Big(\sum_{n=1}^k a_ne_n,e_m\Big) = a_m. \]

由 Bessel 不等式 \((3.3.9)\)，有

\[\sum_{n=1}^{\infty}|a_n|^2=\sum_{n=1}^{\infty}|(x,e_n)|^2\le \|x\|^2<\infty. \]

充分性：假设 \(\sum_{n=1}^{\infty}|a_n|^2<\infty\)。对任意 \(k\)，记 \(x_k=\sum_{n=1}^k a_ne_n\)。对于任意的 \(j,k\in\mathbb N\)，\(k>j\)，由于 \(\{e_n\}\) 是标准正交列，

\[\|x_k-x_j\|^2=\left\|\sum_{n=j+1}^k a_ne_n\right\|^2=\sum_{n=j+1}^k |a_n|^2. \]

由于 \(\sum |a_n|^2\) 收敛，上式说明 \(\{x_k\}\) 是 \(H\) 中的 Cauchy 列，因此级数 \(\sum_{n=1}^{\infty}a_ne_n\) 在空间 \(H\) 中收敛。进一步，由范数的连续性和 \(\{e_n\}\) 是标准正交列，我们有

\[\left\|\sum_{n=1}^{\infty}a_ne_n\right\|^2 = \lim_{k\to\infty}\left\|\sum_{n=1}^k a_ne_n\right\|^2 = \lim_{k\to\infty}\sum_{n=1}^k |a_n|^2 = \sum_{n=1}^{\infty}|a_n|^2. \]

推论3
在 Hilbert 空间 \(H\) 中，级数 \(\sum a_ne_n\) 收敛的充要条件为数列 \(\{a_n\}\in l^2\)。

定理5
设 \(H\) 是 Hilbert 空间，\(\{e_n\}\) 是 \(H\) 中的标准正交列，则对于任意的 \(x\in H\)，\(x\) 的 Fourier 级数 \(\sum_{n=1}^{\infty}(x,e_n)e_n\) 都收敛。

证明
由定理3（Bessel 不等式）知，Fourier 系数是平方可和的，并且其和小于或等于 \(\|x\|^2\)。结合定理4，定理可证。