如果向量空间
V
{\displaystyle V}
被赋予了内积且是完备的,那么就可以定义正交和其它相关的概念(比如线性算子的自伴随性)了。正交投影是指值域
U
{\displaystyle U}
和零空间
W
{\displaystyle W}
相互正交的投影,也就是说,对于任意
u
∈
U
{\displaystyle u\in U}
,
w
∈
W
{\displaystyle w\in W}
,它们的内积
(
u
|
w
)
{\displaystyle (u|w)}
都等于0。一个投影是正交投影,当且仅当它是自伴算子,以下为证明:如果投影
P
{\displaystyle P}
是自伴算子,那么
∀
u
=
P
(
v
)
∈
U
,
{\displaystyle \forall u=P(v)\in U,}
w
∈
W
:
{\displaystyle w\in W:}
(
u
|
w
)
=
(
P
(
v
)
|
w
)
=
(
v
|
P
∗
(
w
)
)
=
(
v
|
P
(
w
)
)
=
(
v
|
0
)
=
0
,
{\displaystyle (u|w)=\left(P(v)|w\right)=\left(v|P^{*}(w)\right)=\left(v|P(w)\right)=\left(v|0\right)=0,}
其中
P
∗
{\displaystyle P^{*}}
表示
P
{\displaystyle P}
的伴随算子。
所以
P
{\displaystyle P}
是正交投影。相反的,如果
P
{\displaystyle P}
是正交投影,由于
∀
v
∈
V
:
v
−
P
(
v
)
∈
W
,
{\displaystyle \forall v\in V:\,v-P(v)\in W,}
因此我们有
∀
v
1
,
v
2
∈
V
:
0
=
(
P
(
v
1
)
|
(
v
2
−
P
(
v
2
)
)
)
=
(
v
1
|
(
P
∗
−
P
∗
P
)
(
v
2
)
)
.
{\displaystyle \forall v_{1},\,v_{2}\in V:0=\left(P(v_{1})|(v_{2}-P(v_{2}))\right)=\left(v_{1}|(P^{*}-P^{*}P)(v_{2})\right).}
鉴于
v
1
,
v
2
{\displaystyle v_{1},\,v_{2}}
是任意选取的,必然有
P
∗
−
P
∗
P
=
0
{\displaystyle P^{*}-P^{*}P=0}
或
P
∗
=
P
∗
P
,
{\displaystyle P^{*}=P^{*}P,}
由于
P
∗
P
{\displaystyle P^{*}P}
一定是自伴算子,因此可知
P
∗
{\displaystyle P^{*}}
与
P
{\displaystyle P}
也是自伴算子。
这意味着正交投影的矩阵有特殊的性质。如果投影是在实向量空间中,那么它对应的矩阵是对称矩阵:
P
=
P
T
{\displaystyle P=P^{T}}
。如果投影是在虚向量空间中,那么它的矩阵则是埃尔米特矩阵:
P
=
P
∗
{\displaystyle P=P^{*}}
例子
编辑
正交投影的最简单的情况是到(过原点)直线上的正交投影。如果 u 是这条直线的单位方向向量,则投影给出为
P
u
=
u
u
∗
{\displaystyle P_{u}=uu^{*}\ }
这个算子保留 u 不变(
P
u
(
u
)
=
u
u
∗
u
=
u
‖
u
‖
2
=
u
{\displaystyle P_{u}(u)=uu^{*}u=u\|u\|^{2}=u}
),并且它作用在所有正交于 u 的向量上都是0(如果
(
u
|
v
)
=
0
{\displaystyle (u|v)=0}
,那么
P
u
(
v
)
=
u
u
∗
v
=
u
(
u
|
v
)
=
0
{\displaystyle P_{u}(v)=uu^{*}v=u(u|v)=0}
),证明它的确是到包含 u 的直线上的正交投影[2]。
这个公式可以推广至到在任意维的子空间上的正交投影。设 u1, …, uk 是子空间 U 的一组正交基,并设 A 为一个n×k 的矩阵,它的列向量是 u1, …, uk。那么投影:
P
A
=
A
A
T
{\displaystyle P_{A}=AA^{T}\ }
[3]
也是正交的。矩阵 AT 是在 U 的正交补变为零的偏等距同构,而 A 是把 U 嵌入底层向量空间的等距同构。PA 的值域因此是 A 的“终空间”(final space)。ATA 是在 U 上的恒等算子也是明显的。
正交条件也可以去除。如果 u1, …, uk 是(不必须正交)基,而 A 是有这些向量作为列的矩阵,则投影是
P
A
=
A
(
A
T
A
)
−
1
A
T
{\displaystyle P_{A}=A(A^{T}A)^{-1}A^{T}\,}
。[4]
矩阵 AT 仍把 U 嵌入到低层向量空间中但一般不再是等距的。矩阵 (ATA)−1 是恢复规范的“规范化因子”。例如,秩-1 算子 uuT 不是投影,如果 ||u|| ≠ 1。在除以 uTu = \|u\|2 之后,我们得获得了到 u 所生成的子空间的投影 u(uTu)−1uT。
所有这些公式对于复数内积空间也成立,假如用共轭转置替代转置。
斜投影
编辑
术语斜投影有时用来提及非正交投影。这些投影也用来在二维绘图中表示空间图形(参见斜投影),尽管不如正交投影常用。
斜投影用它们的值域和零空间来定义。有给定值域和零空间的投影的矩阵表示的公式可如下这样找到。设向量 u1, …, uk 形成了投影的值域的基,并把这些向量组合到 n×k 矩阵 A 中。值域和零空间是互补空间,所以零空间有维度 n − k。它推出零空间的正交补有维度 k。设 v1, …, vk 形成这个投影的零空间的正交补的基,并把这些向量组合到矩阵 B 中。则投影定义为
P
=
A
(
B
T
A
)
−
1
B
T
{\displaystyle P=A(B^{T}A)^{-1}B^{T}\,}
。
这个表达式一般化上面给出的正交投影公式。[5]