本讲的主要内容有：
- 投影的概念
- 为什么要进行投影操作
- 最小二乘法的介绍
投影（Projection）
首先再二维平面中直观的看一下投影的概念：
假设有三个数据点（1，1）、（2，2）、（3，2），我们要找到一条直线尽可能地描述这三个点的位置，
设最优直线 ：
b
=
C
+
D
t
b = C+ Dt
b=C+Dt
也就是：
{
C
+
D
=
1
C
+
2
D
=
2
C
+
3
D
=
2
\left\{\begin{matrix} C+D=1\\ C+2D=2\\ C+3D=2 \end{matrix}\right.
⎩⎨⎧C+D=1C+2D=2C+3D=2
我们将其写成矩阵乘的形式：
(
1
1
2
2
3
1
)
(
C
D
)
=
(
1
2
3
)
\begin{pmatrix} 1 & 1\\ 2 & 2\\ 3 & 1 \end{pmatrix}\begin{pmatrix} C\\ D \end{pmatrix}=\begin{pmatrix} 1\\ 2\\ 3 \end{pmatrix}
⎝⎛123121⎠⎞(CD)=⎝⎛123⎠⎞
非常显然，这是没有解的，联系这一节我们讲的，也就是对于无解的
A
x
=
b
Ax=b
Ax=b 找到最优的的“解”
所以，根据结论，直接将原来的方程转化为：
A
T
A
x
^
=
A
T
b
A^{T}A\hat{x} = A^{T}b
ATAx^=ATb
这个方程是有解并且最优的。
以上~
版权声明：本文内容由互联网用户自发贡献，该文观点仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容， 请发送邮件至 举报，一经查实，本站将立刻删除。
文章由极客之音整理，本文链接：https://www.bmabk.com/index.php/post/116739.html
