線性代數(原書第6版·中文版)

[美]吉爾伯特·斯特朗(Gilbert Strang)著 劉余 黃曄輝 楊晶 譯

  • 線性代數(原書第6版·中文版)-preview-1
  • 線性代數(原書第6版·中文版)-preview-2
  • 線性代數(原書第6版·中文版)-preview-3
線性代數(原書第6版·中文版)-preview-1

商品描述

"《線性代數》(原書第6版·中文版)由麻省理工大學科學計算和信號處理領域教授Gilbert Strang所著,以線性方程組為核心框架,將抽象概念(如向量空間、特征值)與實際應用(如網絡圖、機器學習)結合,被MIT等600余所高校采用。2022年修訂後推出了第6版。修訂後的第6版修改了對線性代數應用的闡述,從傳統應用領域轉向了更與時俱進的**化問題以及機器學習;力圖把線性代數的理論和時代前沿脈搏相連通。 本書概念清楚,層次合理,實用性強,可以作為普通高等學校線性代數的本科生入門教材,也可以作為對線性代數的實際引用感興趣的工程師的書案參考資料。"

作者簡介

"吉爾伯特·斯特朗(Gilbert Strang)麻省理工學院數學系教授,美國國家科學院院士,享有盛譽的數學家、教育家。在麻省理工學院執教60余年,擔任“線性代數導論”“計算科學與工程”等公開課程主講人,相關視頻公開課程全球累計播放量達數千萬次。曾擔任美國數學聯合政策委員會主席、美國國家數學委員會主席、美國國家科學基金會數學顧問小組主席、國際工業與應用數學理事會理事、阿貝爾獎委員會委員等重要學術職務。作為全球數學界的著名學者,他在有限元理論、變分法、小波分析和線性代數等領域成就斐然,出版數學教材和學術專著10余部,對現代數學及其教育發展影響深遠。"

目錄大綱

 

目錄

CONTENTS

 

 

第 1章向量和矩陣 .............................................................................................................1 

1.1向量及其線性組合....................................................................................................2 

1.1.1線性組合 cv + dw .........................................................................................3 

1.1.2求解二元方程組.............................................................................................4 

1.1.3消元法會失效嗎.............................................................................................4 

1.1.4三維向量的情形.............................................................................................5 

1.1.5如何知道這是一個平面? ...............................................................................6 習題 1.1..........................................................................................................................6 

1.2點積、長度和角度....................................................................................................9 

1.2.1垂直向量..................................................................................................... 11 

1.2.2向量之間的夾角........................................................................................... 13 

1.2.3三維空間中的平面 ....................................................................................... 15 習題 1.2........................................................................................................................ 16 

1.3矩陣和它們的列空間 .............................................................................................. 19 

1.3.1 A的列空間................................................................................................. 22 

1.3.2秩 1矩陣 .................................................................................................... 24 習題 1.3........................................................................................................................ 25 

1.4 矩陣乘法 AB和 CR ............................................................................................ 28  = BA ................................................................................... 30

1.4.1通常來說 AB .

1.4.2 (AB)C = A(BC)....................................................................................... 30 

1.4.3回顧矩陣乘法 AB ....................................................................................... 31 

1.4.4秩 1矩陣和 A = CR .................................................................................. 31 

1.4.5 C由 A的前 r個線性無關的列組成 ............................................................. 32 

1.4.6矩陣乘積 CR.............................................................................................. 32 

1.4.7如何找出矩陣 R .......................................................................................... 34 

1.4.8 A的列乘以 B的行,C的列乘以 R的行 .................................................... 35 習題 1.4........................................................................................................................ 37 

1.5談談第 1章 ........................................................................................................... 39

第 2章解線性方程組 Ax = b ........................................................................................... 41 

2.1消元法和回代 ........................................................................................................ 42 

 

2.1.1回代解法 

Ux = c ........................................................................................ 43 

 

2.1.2把 

A轉化成 U,b轉化成 c ........................................................................ 44 

 

2.

1.3消元法失效的情況 ....................................................................................... 44 

 

2.

1.4線性相關或線性無關的列向量....................................................................... 45 

 

2.

1.5行向量和列向量的圖示................................................................................. 46 

 

 

2.

1.6消元和置換的例子 ....................................................................................... 46 習題 2.1........................................................................................................................ 47 

 

2.

2初等矩陣和逆矩陣.................................................................................................. 50 

 

2.

2.1和逆矩陣有關的事實 .................................................................................... 51 

 

2.2.2矩陣乘積 

AB的逆...................................................................................... 53 

 

 

 

2.2.3 

L是 E的逆 ............................................................................................... 55 習題 2.2........................................................................................................................ 55 

 

2.3矩陣運算和 

LU分解 ............................................................................................. 58 

 

2.

3.1消元法的計算復雜度 .................................................................................... 59 

 

2.3.2證明 

LU分解 ............................................................................................. 60 

 

2.3.3偉大的 

A = LU分解 .................................................................................. 60 

 

2.3.4 

A = LU的第二種證明:將列乘以行 ............................................................ 61 

 

 

 

2.

3.5不包含行對換的消元法................................................................................. 62 習題 2.3........................................................................................................................ 62 

 

2.4置換與轉置

............................................................................................................ 65 

 

2.4.1置換 

........................................................................................................... 65 

 

2.

4.2置換矩陣的性質........................................................................................... 66 

 

2.4.3 

PA = LU分解:P導致行交換 .................................................................. 66 

 

2.

4.4選取“部分主元”以減少舍入誤差 ................................................................ 67 

 

2.4.5 

PAQ:P對 A做行交換,Q對 A做列交換 ............................................... 67 

 

2.4.6 

A的轉置 .................................................................................................... 68 

 

2.

4.7內積的意義 ................................................................................................. 69 

 

2.4.8對稱矩陣

..................................................................................................... 70 

 

 

 

2.4.9對稱乘積 

ATA、AAT和 LDLT分解 ......................................................... 71 習題 2.4........................................................................................................................ 72 

 

2.

5導數和有限差分矩陣 .............................................................................................. 75 

 

2.

5.1公式的逆向推導:由差值求導數 ................................................................... 76 

 

2.

5.2二階差分矩陣 K、T、B ............................................................................. 77 

 

2.5.3矩陣 

K的性質............................................................................................ 78 

 

2.

5.4一端自由一端固定的矩陣 Tn ........................................................................ 80 

 

 

 

2.

5.5兩端自由的矩陣 B是奇異的 ........................................................................ 80 習題 2.5........................................................................................................................ 81 

 

2.6談談第 

2章 ........................................................................................................... 83

 

 

 

目錄XI

第 3章矩陣的四個基本子空間........................................................................................... 85 

3.

1線性空間及其子空間 .............................................................................................. 86 

 

3.

1.1線性空間的例子........................................................................................... 86 

 

3.

1.2線性空間的子空間 ....................................................................................... 87 

 

3.1.3 

A的列空間................................................................................................. 88 

 

3.1.4 

A的行空間................................................................................................. 89 

 

 

 

3.1.5 

A的列向量張成了線性空間 C(A)................................................................. 89 習題 3.1........................................................................................................................ 90 

 

3.2通過消元法 

A = CR計算零空間 ........................................................................... 93 

 

3.

2.1利用消元法將 A轉化成 rref(A):最簡行階梯形矩陣 .................................... 95 

 

3.

2.2逐列消元:從 A到 R0的步驟 ..................................................................... 96 

 

3.2.3矩陣分解 

A = CR和零空間 ........................................................................ 97 

 

 

 

3.

2.4消元法的終章:分塊消元 ............................................................................100 習題 3.2.......................................................................................................................101 

 

3.3方程組 

Ax = b的解集..........................................................................................105 

 

3.3.1方程組的特解 xp : Axp = b.........................................................................106 

 

3.

3.2行滿秩和解集 .............................................................................................108 習題 3.3.......................................................................................................................112 

 

3.

4線性無關性、基、維數 ..........................................................................................117 

 

3.4.1線性無關

....................................................................................................117 

 

3.

4.2張成子空間的向量組 ...................................................................................120 

 

3.

4.3線性空間的基 .............................................................................................120 

 

 

 

3.

4.4矩陣空間和函數空間的基 ............................................................................124 習題 3.4.......................................................................................................................126 

 

3.

5四個基本子空間的維數 ..........................................................................................131 

 

3.5.1 

R0的四個子空間........................................................................................132 

 

3.5.2 

A的四個子空間 .........................................................................................134 

 

 

 

3.5.3秩 

2矩陣 =秩 1矩陣 +秩 1矩陣..............................................................138 習題 3.5.......................................................................................................................139 

 

3.6談談第 

3章:消元法的全局理解 ............................................................................142

 

 

第 4章正交性 .................................................................................................................145 

4.

1向量和子空間的正交性 ..........................................................................................146 習題 4.1.......................................................................................................................150 

 

4.

2向直線和子空間作正交投影 ...................................................................................153 

 

4.

2.1正交投影到直線..........................................................................................155 

 

4.

2.2正交投影到子空間 ......................................................................................157

 

 

 

 

 

習題 4.2.......................................................................................................................162 

4.3最小二乘法

...........................................................................................................165 

 

4.

3.1誤差最小化 ................................................................................................166 

 

4.

3.2最小二乘法的全局圖景................................................................................168 

 

4.3.3直線擬合

....................................................................................................169 

 

4.3.4當 

A列向量線性相關時求解 x.....................................................................171 

 

 

 

4.

3.5拋物線擬合 ................................................................................................172 習題 4.3.......................................................................................................................174 

 

4.

4正交矩陣和格拉姆-施密特正交化 ...........................................................................178 

 

4.

4.1用單位正交基來作正交投影:用 Q代替 A...................................................181 

 

4.4.2格拉姆

-施密特正交化 ..................................................................................182 

 

 

 

4.4.3 

QR分解 ...................................................................................................184 習題 4.4.......................................................................................................................188 

 

4.5矩陣的廣義逆 

.......................................................................................................192 

 

4.5.1 

m × n矩陣 A的廣義逆 A+(n × m矩陣) ....................................................193 

 

4.5.2 

A的重要作用是把行空間映射成列空間........................................................196 

 

4.5.3 

A = CR的廣義逆 A+ = R+C+ .................................................................196 

 

 

 

4.

5.4廣義逆的例子—— A是圖的關聯矩陣 ...........................................................197 習題 4.5.......................................................................................................................199 

 

4.6談談第 

4章:正交性的巨大成功 ............................................................................199

 

 

第 5章行列式 .................................................................................................................201 

5.

1三階方陣的行列式和代數余子式.............................................................................201 

 

5.

1.1三階方陣的行列式 ......................................................................................202 

 

5.

1.2代數余子式和 A.1的公式 ..........................................................................204 

 

 

 

5.

1.3三對角矩陣 ................................................................................................205 習題 5.1.......................................................................................................................206 

 

5.

2行列式的計算和使用 .............................................................................................208 

 

5.2.1證明式 

(5.10).式 (5.13).............................................................................209 

 

5.

2.2克萊姆法則解方程組 Ax = b.......................................................................210 

 

 

 

5.

2.3行列式的完全展開式:n!項 ........................................................................211 習題 5.2.......................................................................................................................212 

 

5.

3行列式與面積和體積 .............................................................................................214 習題 5.3.......................................................................................................................217

 

 

第 6章特征值和特征向量 ................................................................................................219 

6.1初識特征值 

Ax = βx............................................................................................219 

 

6.

1.1特征方程:det(A . βI)=0 ........................................................................223

 

6.

1.2行列式和跡 ................................................................................................225 

 

6.

1.3虛數特征值 ................................................................................................226 

 

6.1.4 

AB和 A + B的特征值 .............................................................................227 

 

 

 

6.1.5 

MATLAB中的 Eigshow函數......................................................................230 習題 6.1.......................................................................................................................231 

 

6.2矩陣的對角化 

.......................................................................................................235 

 

6.

2.1相似矩陣:特征值相同................................................................................239 

 

6.

2.2斐波那契數列 .............................................................................................241 

 

6.2.3矩陣方冪 

Ak ..............................................................................................242 

 

 

 

6.

2.4不可對角化的矩陣(選講) .........................................................................243 習題 6.2.......................................................................................................................246 

 

6.3對稱正定矩陣 

.......................................................................................................251 

 

6.

3.1快速證明:正交的特征向量和實特征值 ........................................................251 

 

6.3.2正定矩陣

....................................................................................................252 

 

6.

3.3順序主子式判據和主元判據 .........................................................................254 

 

6.

3.4正定矩陣和極小值問題................................................................................257 

 

6.

3.5半正定矩陣 ................................................................................................258 

 

6.3.6橢圓 

ax2 +2bxy + cy2 =1...........................................................................259 

 

6.

3.7最優化和機器學習 ......................................................................................260 

 

 

 

6.

3.8實對稱矩陣都可以正交對角化......................................................................261 習題 6.3.......................................................................................................................262 

 

6.

4復數、復向量和復矩陣 ..........................................................................................267 

 

6.

4.1復向量:長度 ∥v∥和內積 vˉTw ...................................................................269 

 

6.4.2復矩陣 

A及其共軛轉置 AˉT ........................................................................269 

 

6.4.3復矩陣 

A的四個基本子空間 .......................................................................269 

 

6.4.4 

SˉT = S:實特征值和酉正交的特征向量 .......................................................270 

 

6.4.5置換矩陣 

P的復特征值和特征向量 .............................................................270 

 

6.

4.6所有循環矩陣 C有相同的傅裏葉特征向量 ...................................................272 

 

6.

4.7快速傅裏葉變換..........................................................................................272 

 

6.

4.8循環矩陣相乘 CD = DC ...........................................................................273 

 

 

 

6.

4.9信號處理中的卷積 ......................................................................................274 習題 6.4.......................................................................................................................274 

 

6.

5解線性微分方程 ....................................................................................................275 

 

6.5.1 

du/dt = Au的解.......................................................................................276 

 

6.

5.2二階微分方程 .............................................................................................278 

 

6.5.3差分方程

....................................................................................................280 

 

6.

5.4二階方陣的穩定性 ......................................................................................282

 

 

 

6.

5.5矩陣的指數函數..........................................................................................282 習題 6.5.......................................................................................................................286 

 

6.6用 

QR計算特征值 ...............................................................................................290 

 

6.7談談微分方程 

.......................................................................................................292

 

 

 

目錄XIII 

 

第 7章奇異值分解 ..........................................................................................................293 

7.

1奇異值和奇異向量.................................................................................................293 

 

7.

1.1奇異值分解的幾何意義................................................................................294 

 

7.

1.2奇異值分解的完整型 ...................................................................................295 

 

7.

1.3奇異值分解的簡化型 ...................................................................................296 

 

7.

1.4奇異值分解的證明 ......................................................................................296 

 

7.1.5 

AB和 BA:相同的非零特征值..................................................................298 

 

7.1.6 

2 × 2矩陣的奇異向量 .................................................................................299 

 

7.

1.7第一個奇異向量 v1 .....................................................................................299 

 

 

 

7.

1.8計算特征值和奇異值 ...................................................................................300 習題 7.1.......................................................................................................................301 

 

7.

2通過線性代數來做圖像處理 ...................................................................................303 

 

7.2.1對角矩陣的奇異值 ......................................................................................304 

 

7.

2.2利用奇異值分解進行圖像壓縮......................................................................305 習題 7.2.......................................................................................................................306 

 

7.3主成分分析

...........................................................................................................307 

 

7.3.1埃克哈特

-揚定理 .......................................................................................308 

 

7.

3.2通過奇異值分解進行主成分分析 ..................................................................309 

 

7.

3.3主成分分析背後的幾何意義 .........................................................................309 

 

7.3.4埃克哈特

-揚定理的幾何意義 ........................................................................310 

 

7.

3.5主成分分析背後的統計學原理......................................................................310 

 

 

 

7.

3.6主成分分析背後的線性代數 .........................................................................311 習題 7.3.......................................................................................................................312

 

 

第 8章線性映射..............................................................................................................313 

8.

1線性映射的概念 ....................................................................................................313 

 

8.

1.1直線到直線,三角形到三角形......................................................................315 

 

8.

1.2微積分中的線性映射 ...................................................................................316 

 

 

 

8.

1.3映射的例子(多數是線性的)......................................................................317 習題 8.1.......................................................................................................................319 

 

8.

2線性映射的矩陣 ....................................................................................................322 

 

8.

2.1基變換:矩陣 B .........................................................................................323 

 

8.

2.2構造線性映射 T的矩陣 ..............................................................................324 

 

8.2.3矩陣乘積 

AB與映射復合 TS相對應 ..........................................................326

 

 

 

8.

2.4選擇最好的基 .............................................................................................326 習題 8.2.......................................................................................................................328 

 

8.3尋找好的基

...........................................................................................................331 

 

8.

3.1若爾當標準形 .............................................................................................333 

 

8.

3.2函數空間的基 .............................................................................................335 

 

8.

3.3函數空間的正交基 ......................................................................................336 

 

 

 

8.

3.4勒讓德多項式和切比雪夫多項式 ..................................................................336 習題 8.3.......................................................................................................................337

 

 

 

目錄XV 

第 9章最優化中的線性代數 .............................................................................................339 

9.

1多變量函數的最小化問題.......................................................................................339 

 

9.1.1梯度下降 

=最速下降..................................................................................341 

 

9.1.2 

n =1時一元函數 f(x)的一階導數..............................................................341 

 

9.1.3梯度向量 

.F的幾何意義 ...........................................................................344 

 

9.

1.4一個重要的“之字形”示例 .........................................................................345 

 

9.

1.5動量與重球的路徑 ......................................................................................346 

 

 

 

9.1.6二次模型

....................................................................................................347 習題 9.1.......................................................................................................................348 

 

9.

2反向傳播和隨機梯度下降.......................................................................................349 

 

9.

2.1多變量鏈式法則..........................................................................................350 

 

9.

2.2隨機梯度下降 .............................................................................................350 

 

9.

2.3普通最小二乘的 SGD..................................................................................351 

 

9.

2.4反向傳播的核心思想 ...................................................................................351 

 

9.2.5 

Keras與 TensorFlow中的反向傳播 .............................................................353 

 

9.2.6 

Av + b的導數 ...........................................................................................353 

 

9.

2.7隱藏層的偏導數..........................................................................................354 

 

 

 

9.2.8偏導數 

σw/σA1的細節 ..............................................................................354 習題 9.2.......................................................................................................................355 

 

9.

3約束條件、拉格朗日乘子與最小範數 ......................................................................356 

 

9.

3.1拉格朗日乘數法——成本函數的偏導數 ........................................................357 

 

9.

3.2極大值的極小值 =極小值的極大值..............................................................359 

 

9.

3.3二次規劃:一般情形 ...................................................................................360 

 

9.

3.4不等式約束 ................................................................................................361 

 

 

 

9.

3.5科學與工程中的對偶問題 ............................................................................362 習題 9.3.......................................................................................................................363 

 

9.

4線性規劃、博弈論和對偶.......................................................................................364 

 

9.4.1線性規劃

....................................................................................................364 

 

9.4.2在線示例

....................................................................................................365 

 

9.4.3最大流

-最小割 ............................................................................................365

 

9.4.4二人博弈

....................................................................................................366 

 

 

 

9.4.5半定規劃

....................................................................................................368 習題 9.4.......................................................................................................................368

 

 

 

第 10章數據學習............................................................................................................370 

10.

1分段線性學習函數 ...............................................................................................371 

 

10.

1.1深度神經網絡的構建................................................................................373 

 

10.1.2 

Fk是 vk.1的分段線性函數 .....................................................................373 

 

10.

1.3一個中間層(L =2)的情況 ....................................................................374 

 

10.

1.4學習函數 F (v)的圖像.............................................................................375 

 

10.

1.5計算學習函數圖像的平坦分塊個數:一個中間層的情形..............................376 

 

10.

1.6計算學習函數圖像的平坦分塊個數:更多中間層的情形..............................377 

 

 

 

10.1.7移除 

.......................................................................................................378 習題 10.1 .....................................................................................................................378 

 

10.2發明和實驗 

.........................................................................................................379 

 

10.

2.1泛化與雙重下降 ......................................................................................380 

 

10.

2.2卷積神經網絡:權重共享 .........................................................................381 

 

10.

2.3最大池化 ................................................................................................381 

 

 

 

10.

2.4深度學習領域的四大重要成就 ..................................................................382 習題 10.2 .....................................................................................................................382 

 

10.

3均值、方差和協方差............................................................................................383 

 

10.3.1方差 

.......................................................................................................384 

 

10.

3.2連續概率分布..........................................................................................385 

 

10.3.3 

p(x)的均值和方差 ..................................................................................386 

 

10.

3.4正態分布:鐘形曲線................................................................................387 

 

10.

3.5均值和方差:投擲 N次硬幣,以及 N ~.的漸進行為 ...........................388 

 

10.

3.6協方差矩陣和聯合概率 ............................................................................390 

 

10.

3.7協方差矩陣 V的半正定性 .......................................................................392 

 

10.3.8 

Z = AX的協方差矩陣 ...........................................................................393 

 

 

 

10.3.9相關性 

δ.................................................................................................394 習題 10.3 .....................................................................................................................394 

 

10.

4深度學習的成功引發的思考..................................................................................395

 

 

附錄 A...............................................................................................................................397