深度學習 — 智慧機器人應用的理論與實踐

第一章緒論1
1.1自然智能與機器智能1
1.1.1自然智能1
1.1.2機器智能3
1.2機器獲取知識的途徑：機器學習5
1.2.1機器學習的概念5
1.2.2基本機器學習模型6
1.3機器認知智能的實現途徑：神經網路10
1.3.1生物神經網路10
1.3.2人工神經網路與神經元模型12
1.4深度學習的前沿發展及其應用15
1.4.1深度學習15
1.4.2大語言模型16
1.4.3ChatGPT：智慧對話機器人18
1.4.4OpenAICodex：程式碼產生與輔助程式19
1.5深度學習與智慧機器人21
1.5.1智能機器人的定義與目標21
1.5.2智慧機器人與工業機器人的差異22
1.5.3智慧機器人的環境多模態感知23
1.6本章小結27
第二章機器學習的數學基礎28
2.1標量、向量、矩陣與張量28
2.2矩陣和向量相乘32
2.2.1矩陣和向量相乘的規則32
2.2.2矩陣和向量相乘的性質32
2.2.3矩陣乘法的計算方法33
2.2.4矩陣乘法在神經網路的應用33
2.3導數34
2.3.1一般運算法則35
2.3.2鍊式求導法則36
2.4度量標準39
2.4.1誤差39
2.4.2距離39
2.4.3相似度40
2.5機率分佈43
2.5.1二項分佈44
2.5.2常態分佈45
2.6本章小結46
第三章機器學習的構成及理論基礎48
3.1機器學習基礎概念48
3.1.1人類學習與機器學習48
3.1.2機器學習的研究內容49
3.1.3機器學習系統的基本構成50
3.2機器學習的分類52
3.2.1監督學習53
3.2.2半監督學習54
3.2.3無監督學習54
3.2.4強化學習56
3.3機器學習的重要參數56
3.3.1學習率56
3.3.2動量係數57
3.3.3偏置項58
3.4擬合問題59
3.4.1過擬合問題59
3.4.2欠擬合問題60
3.5交叉驗證60
3.5.1資料類型與選擇方法61
3.5.2留一交叉驗證62
3.5.3K折交叉驗證62
3.6迴歸分析63
3.6.1線性迴歸63
3.6.2邏輯迴歸66
3.7評價指標69
3.8本章小結71
第四章神經網路構成及理論基礎72
4.1神經網路概述72
4.1.1深度學習和神經網路間的關係74
4.1.2神經網路的深度和寬度74
4.2常見的神經網路類型75
4.2.1全連接神經網路75
4.2.2卷積神經網路76
4.2.3循環神經網路77
4.3神經網路設計的核心問題78
4.3.1定義神經網路結構79
4.3.2選擇損失函數79
4.3.3選擇激活函數79
4.4神經網路很優化過程82
4.4.1梯度下降演算法82
4.4.2正向傳播演算法86
4.4.3反向傳播演算法87
4.4.4BP神經網路88
4.5其他神經網路與深度學習91
4.5.1生成對抗網路91
4.5.2深度信念網絡93
4.5.3遷移學習95
4.6PyTorch和PaddlePaddle簡介97
4.6.1PyTorch98
4.6.2PaddlePaddle103
4.7本章小結105
第五章卷積神經網路107
5.1卷積神經網路概述107
5.1.1發展歷程與實際應用107
5.1.2基本組成111
5.2卷積神經網路的特徵116
5.2.1連接稀疏性116
5.2.2參數共享機制117
5.3卷積神經網路中的反向傳播演算法118
5.4其他卷積方式119
5.4.1轉置卷積119
5.4.2空洞卷積122
5.4.3分組卷積和深度分離卷積122
5.5卷積神經網路的典型模型125
5.5.1LeNet-5125
5.5.2AlexNet126
5.5.3VGGNet127
5.5.4GoogLeNet137
5.5.5ResNet148
5.5.6MobileNet和ShuffleNet161
5.5.7MMDetection框架搭建並實現訓練與測試169
5.6本章小結179
第六章循環神經網路181
6.1循環神經網路概述181
6.1.1背景181
6.1.2概念182
6.1.3基本結構182
6.2循環神經網路分類184
6.2.1單向循環神經網路184
6.2.2雙向循環神經網路185
6.2.3深度循環神經網路186
6.3模型訓練與最佳化187
6.3.1隨時間反向傳播演算法188
6.3.2即時循環學習演算法188
6.4長短時期記憶網190
6.4.1原理講解190
6.4.2代碼講解191
6.5遞歸神經網路200
6.5.1原理講解200
6.5.2代碼講解202
6.6門控循環單元網路207
6.6.1原理講解207
6.6.2代碼208
6.7本章小結208
第七章註意力機制與外在記憶210
7.1認知神經學中的注意力210
7.2注意力機制211
7.2.1注意力機制原理211
7.2.2注意力機制的變體212
7.3自註意力機制215
7.3.1自註意力機制原理215
7.3.2Transformer217
7.4人腦中的記憶219
7.5記憶增強神經網路221
7.5.1外部記憶221
7.5.2端到端記憶網222
7.5.3神經圖靈機223
7.6電腦視覺中的注意力機制225
7.6.1電腦視覺中的注意力機制發展歷程225
7.6.2通道注意力機制227
7.6.3空間注意力機制229
7.6.4時間注意力機制232
7.6.5分支注意力機制234
7.6.6通道與空間注意力機制236
7.6.7時空注意力機制239
7.6.8注意力模組新增的案例介紹242
7.7本章小結256
第八章深度學習調優方法258
8.1數據方面258
8.1.1資料清洗258
8.1.2數據增強263
8.1.3數據降噪266
8.1.4資料歸一化269
8.2模型結構方面271
8.2.1注意力機制271
8.2.2特徵金字塔271
8.2.3殘差結構272
8.2.4確定網路層數273
8.3模型參數方面275
8.3.1學習率調整275
8.3.2參數初始化277
8.3.3網路正規化278
8.3.4預訓練模型的遷移學習282
8.4本章小結283
第九章智慧機器人的視覺感知方法與視覺處理技術285
9.1經典的視覺感知方案285
9.1.1視覺資訊獲取285
9.1.2視覺顯著性檢測286
9.1.3光學系統的設計287
9.2視覺感知的傳統處理方法292
9.2.1影像處理基礎292
9.2.2傳統的影像特徵提取293
9.2.3傳統的目標偵測與辨識295
9.3基於機器學習的視覺感知方法296
9.3.1集成學習296
9.3.2局部二值模式299
9.3.3特徵點匹配方法301
9.3.4方向梯度直方圖303
9.3.5支持向量機305
9.4基於深度學習的視覺感知方法307
9.4.1經典的視覺感知網絡結構307
9.4.2基於深度學習的目標感知307
9.5面向少量樣本學習的視覺感知方法309
9.5.1孿生神經網路309
9.5.2零樣本學習309
9.6本章小結311
第十章智慧機器人的定位與導航規劃技術313
10.1地圖表示與建構313
10.1.1地圖表示313
10.1.2地圖建構317
10.2移動機器人定位319
10.2.1感測器技術319
10.2.2定位方法320
10.3導航規劃321
10.3.1導航技術322
10.3.2規劃技術324
10.4機器人運動控制327
10.4.1PID控制327
10.4.2模型預測控制328
10.4.3軌跡追蹤329
10.5多AGV任務調度及路徑規劃技術329
10.5.1AGV調度系統任務描述330
10.5.2AGV任務調度功能331
10.5.3AGV的路徑規劃演算法332
10.5.4多AGV的衝突與避障演算法335
10.6本章小結336
第十一章基於深度學習的表面缺陷檢測技術337
11.1表面缺陷檢測技術研究337
11.1.1研究背景與意義337
11.1.2國內外研究現況338
11.2基於機器視覺的表面缺陷檢測技術342
11.2.1機器視覺中的影像處理技術342
11.2.2基於機器視覺的表面缺陷檢測過程345
11.2.3基於深度學習的表面缺陷檢測技術348
11.3具體案例：液晶面板電極缺陷偵測技術352
11.3.1液晶面板電極缺陷353
11.3.2基於深度學習的液晶面板電極缺陷檢測方法356
11.3.3實驗結果和性能評估366
11.4本章小結372
第十二章基於深度學習的人機協作動作辨識373
12.1人機協作動作辨識技術研究373
12.1.1研究背景與意義373
12.1.2國內外研究現況374
12.1.3動作辨識模型375
12.2人機協作應用376
12.2.1動作辨識技術在人機協作的應用376
12.2.2動作辨識技術在虛擬實境領域的應用377
12.3人機協作中的動作辨識問題378
12.3.1動作辨識問題定義378
12.3.2動作特徵的提取379
12.3.3動作辨識模型的建構381
12.3.4人機協作場景中的動作辨識383
12.4具體案例：基於深度學習的動作辨識384
12.4.1動作視訊擷取設備的選擇384
12.4.2環境設定和資料採集384
12.4.3數據處理386
12.4.4模型訓練386
12.4.5動作辨識模型的表現評估389
12.5前沿拓展：基於肌電訊號及腦機設備的動作辨識390
12.6本章小結391
第十三章基於深度學習的機器人視覺抓取392
13.1研究背景及意義392
13.1.1機器人視覺抓取技術應用392
13.1.2機器人視覺抓取技術發展393
13.2深度學習在機器人視覺抓取的應用與研究現況395
13.2.1目標檢測定位396
13.2.2位姿估計397
13.2.3抓取點檢測397
13.3基於深度學習的機器人視覺抓取問題描述398
13.3.1機器人抓取任務分類398
13.3.2機器人抓取位姿表示399
13.3.3抓取檢測資料集400
13.4機器人視覺系統標定與座標轉換403
13.4.1相機成像原理403
13.4.2相機標定406
13.4.3手眼標定406
13.5具體實例：抓取位姿偵測408
13.5.1判別式抓取偵測408
13.5.2生成式抓取偵測410
13.5.3從零開始訓練抓取偵測模型：GGCNN415
13.6基於深度學習的機器人視覺抓取技術挑戰與未來發展方向422
13.7本章小結423
參考文獻424