线性代数与数据学习-吉尔伯特·斯特朗 pdf下载

作者：吉尔伯特·斯特朗（Gilbert Strang），美国享有盛誉的数学家、教育家，在有限元理论、变分法、小波分析和线性代数等方面皆有研究贡献。他对数学教育做出了许多贡献，出版了十几部数学教科书和专著。曾任麻省理工学院数学系 MathWorks 讲座教授。主要讲授“线性代数导论”“计算科学与工程”等开放式课程，获得广泛好评，是美国数学开放教学的领军人物。曾任美国数学联合政策委员会主席、美国数学委员会主席、美国国家科学基金会(NSF)数学顾问小组主席、国际工业与应用数学理事会(ICIAM)理事、阿贝尔奖委员会委员等职务。2009年当选美国国家科学院院士。在麻省理工学院任教61年后，他开设的MIT 18.06课程（线性代数）在OCW（开放式课程）平台上浏览量超过1000万次。   

译者

余志平，清华大学集成电路学院教授、博士生导师，IEEE Life Fellow（国际电气与电子工程学会终身会士）。曾任清华大学微电子学研究所副所长、清华大学微电子学冠名教授（由Pericom、Novellus公司赞助）。在斯坦福大学攻读博士学位及其后工作期间，为多家集成电路企业（如HP、Intel、台积电）提供咨询并参与研究项目。参与组织的熊猫集成电路设计系统获1993年国家科技进步一等奖。专业领域是集成电路计算机辅助设计（ICCAD），主要集中在半导体器件模拟。在 CMOS 射频电路设计与纳电子学研究领域深耕多年，发表学术论文多篇，合著中英文专著三部。

李铁夫，清华大学集成电路学院副研究员、院长助理，北京量子信息科学研究院兼聘研究员，日本理化学研究所客座研究员。 2003 年、2009 年分别于清华大学电子工程系和微电子学研究所获得学士、博士学位。主要研究领域为超导量子计算、微纳机电系统和量子接口器件，在国际知名期刊和会议上发表论文60余篇。

马辉，清华大学数学科学系教授、博士生导师。2000年于北京大学数学科学学院获得理学博士学位，先后在清华大学、美国马萨诸塞州州立大学Amherst分校作博士后研究。2004年6月起在清华大学任教。主要研究领域为微分几何，特别在拉格朗日子流形的几何与拓扑、超曲面的几何等方面做出了富有意义的研究成果。

全面为机器学习提供数学基础：从线性代数的核心知识，到大规模矩阵计算，到低秩近似和特殊矩阵，再到统计基础和优化算法。

•延续Strang教材的一贯风格：内容丰富，深入浅出，透过技术外壳，直指本质内核。

•解释构建神经网络的基础知识和核心思想。

•包含丰富的应用背景介绍、参考文献及网络资源。

•每章含有练习和编程习题。

目录

第 1章线性代数的重点 .................................................................................................. 1 

1.1使用 A的列向量实现 Ax的相乘 ........................................................................ 1 

1.2矩阵与矩阵相乘：AB......................................................................................... 8 

1.3 4个基本子空间 .................................................................................................12 

1.4消元法与 A = LU .............................................................................................18 

1.5正交矩阵与子空间..............................................................................................26 

1.6特征值和特征向量..............................................................................................32 

1.7对称正定矩阵 ....................................................................................................40 

1.8奇异值分解中的奇异值和奇异向量 ......................................................................51 

1.9主成分和低秩矩阵 .......................................................................................63 

1.10 Rayleigh商和广义特征值 .................................................................................72 

1.11向量、函数和矩阵的范数 ..................................................................................78 

1.12矩阵和张量的分解：非负性和稀疏性 .................................................................86

第 2章大规模矩阵的计算 ..............................................................................................98 

2.1数值线性代数 ....................................................................................................99 

2.2小二乘：4种方法......................................................................................... 107 

2.3列空间的 3种基 .............................................................................................. 119 

2.4随机线性代数 .................................................................................................. 125

第 3章低秩与压缩传感 ............................................................................................... 135 

3.1 A的变化导致 A.1的改变 ............................................................................... 135 

3.2交错特征值与低秩信号 ..................................................................................... 143 

3.3快速衰减的奇异值............................................................................................ 152 

3.4对 .2 + .1的拆分算法...................................................................................... 156 

3.5压缩传感与矩阵补全 ........................................................................................ 166

第 4章特殊矩阵 ......................................................................................................... 172 

4.1傅里叶变换：离散与连续.................................................................................. 172 

4.2移位矩阵与循环矩阵 ........................................................................................ 180 

4.3克罗内克积 A . B.......................................................................................... 187 

4.4出自克罗内克和的正弦、余弦变换 .................................................................... 193 

4.5 

Toeplitz矩阵与移位不变滤波器 ........................................................................ 196 

4.

6图、拉普拉斯算子及基尔霍夫定律 .................................................................... 201 

4.7采用谱方法与 

k-均值的聚类 ............................................................................. 207 

4.8完成秩为 

1的矩阵 ........................................................................................... 215 

4.

9正交的普鲁斯特问题 ........................................................................................ 217 

4.10距离矩阵 

....................................................................................................... 218

第 5章概率与统计 ...................................................................................................... 221 

5.

1均值、方差和概率............................................................................................ 221 

5.2概率分布 

......................................................................................................... 231 

5.

3矩、累积量以及统计不等式 .............................................................................. 238 

5.

4协方差矩阵与联合概率 ..................................................................................... 246 

5.

5多元高斯分布和加权小二乘法........................................................................ 255 

5.6马尔可夫链

...................................................................................................... 260

第 6章化............................................................................................................. 269 

6.

1小值问题：凸性与牛顿法 .............................................................................. 271 

6.2拉格朗日乘子 

=成本函数的导数 ...................................................................... 278 

6.

3线性规划、博弈论和对偶性 .............................................................................. 283 

6.

4指向小值的梯度下降 ..................................................................................... 288 

6.

5随机梯度下降法与 ADAM................................................................................ 301

第 7章数据学习 ......................................................................................................... 311 

7.

1深度神经网络的构建 ........................................................................................ 314 

7.2卷积神经网络 

.................................................................................................. 324 

7.

3反向传播与链式法则 ........................................................................................ 333 

7.

4超参数：至关重要的决定.................................................................................. 342 

7.

5机器学习的世界 ............................................................................................... 347

有关机器学习的书.......................................................................................................... 350

附录 A采用 SVD的图像压缩 .................................................................................... 351

附录 B数值线性代数的代码和算法 .............................................................................. 353

附录 C基本因式分解中的参数计算 .............................................................................. 355

作者索引 ....................................................................................................................... 357

索引.............................................................................................................................. 362

符号索引 ....................................................................................................................... 372