深度學習：基於 Keras 的 Python 實踐 深度学习:基于Keras的Python实践

魏貞原

IBM 高級項目經理，數據分析團隊Leader，主要負責銀行客戶的複雜系統開發。

同時是IBMCIC量子計算COE團隊的Python 領域專家（Subject Matter Expert）,

負責量子計算應用的探索工作，對機器學習和深度學習有深入的研究，

精通於運用機器學習來解決數據科學的問題。

並運營“知之Python”公眾號，定期分享Python 在機器學習和深度學習的實踐知識。

第一部分初識
1初識深度學習/2 
1.1 Python的深度學習/2 
1.2軟件環境和基本要求/3 
1.2.1 Python和SciPy/3 
1.2.2機器學習/3 
1.2.3深度學習/4 
1.3閱讀本書的收穫/4 
1.4本書說明/4 
1.5本書中的代碼/5 

2深度學習生態圈/6 
2.1 CNTK/6 
2.1.1安裝CNTK/7 
2.1.2 CNTK的簡單例子/8 
2.2 TensorFlow/ 8 
2.2.1 TensorFlow介紹/8 
2.2.2安裝TensorFlow/9 
2.2.3 TensorFlow的簡單例子/9 
2.3 Keras/10 
2.3.1 Keras簡介/11 
2.3.2 Keras安裝/11 
2.3.3配置Keras的後端/11 
2.3.4使用Keras構建深度學習模型/12 
2.4雲端GPUs計算/13 

第二部分多層感知器
3第一個多層感知器實例：印第安人糖尿病診斷/16 
3.1概述/16 
3.2 Pima Indians數據集/17 
3.3導入數據/18
3.4定義模型/19 
3.5編譯模型/20 
3.6訓練模型/21 
3.7評估模型/21 
3.8匯總代碼/22 

4多層感知器速成/24 
4.1多層感知器/24 
4.2神經元/25 
4.2.1神經元權重/25 
4.2.2激活函數/26 
4.3神經網絡/27 
4.3.1輸入層（可視層）/28 
4.3.2隱藏層/28 
4.3.3輸出層/28 
4.4訓練神經網絡/29 
4.4.1準備數據/29 
4.4.2隨機梯度下降算法/30 
4.4.3權重更新/30 
4.4.4預測新數據/31 

5評估深度學習模型/33 
5.1深度學習模型和評估/33 
5.2自動評估/34 
5.3手動評估/36 
5.3.1手動分離數據集並評估/36 
5.3.2 k折交叉驗證/37 

6在Keras中使用Scikit-Learn/40 
6.1使用交叉驗證評估模型/41 
6.2深度學習模型調參/42 

7多分類實例：鳶尾花分類/49 
7.1問題分析/49 
7.2導入數據/50 
7.3定義神經網絡模型/50
7.4評估模型/52 
7.5匯總代碼/52 

8回歸問題實例：波士頓房價預測/54 
8.1問題描述/54 
8.2構建基準模型/55 
8.3數據預處理/57 
8.4調參隱藏層和神經元/58 

9二分類實例：銀行營銷分類/61 
9.1問題描述/61 
9.2數據導入與預處理/62 
9.3構建基準模型/64 
9.4數據格式化/66 
9.5調參網絡拓撲圖/66 

10多層感知器進階/68 
10.1 JSON序列化模型/68 
10.2 YAML序列化模型/74 
10.3模型增量更新/78 
10.4神經網絡的檢查點/81 
10.4.1檢查點跟踪神經網絡模型/82 
10.4.2自動保存最優模型/84 
10.4 .3從檢查點導入模型/86 
10.5模型訓練過程可視化/87 

11 Dropout與學習率衰減92 
11.1神經網絡中的Dropout/92 
11.2在Keras中使用Dropout/93 
11.2.1輸入層使用Dropout/94 
11.2. 2在隱藏層使用Dropout/95 
11.2.3 Dropout的使用技巧/97 
11.3學習率衰減/97
11.3.1學習率線性衰減/98 
11.3.2學習率指數衰減/100 
11.3.3學習率衰減的使用技巧/103 

第三部分卷積神經網絡
12卷積神經網絡速成/106 
12.1卷積層/108 
12.1.1濾波器/108 
12.1.2特徵圖/109 
12.2池化層/109 
12.3全連接層/109 
12.4卷積神經網絡案例/110 

13手寫數字識別/112 
13.1問題描述/112 
13.2導入數據/113 
13.3多層感知器模型/114 
13.4簡單卷積神經網絡/117 
13.5複雜卷積神經網絡/120 
14 Keras中的圖像增強/124 
14.1 Keras中的圖像增強API/124 
14.2增強前的圖像/125 
14.3特徵標準化/126 
14.4 ZCA白化/128 
14.5隨機旋轉、移動、剪切和反轉圖像/129 
14.6保存增強後的圖像/132 

15圖像識別實例：CIFAR-10分類/134 
15.1問題描述/134 
15.2導入數據/ 135 
15.3簡單卷積神經網絡/136 
15.4大型捲積神經網絡/140
15.5改進模型/145 

16情感分析實例：IMDB影評情感分析/152 
16.1問題描述/152 
16.2導入數據/153 
16.3詞嵌入/154 
16.4多層感知器模型/155 
16.5卷積神經網絡/157 

第四部分循環神經網絡
17循環神經網絡速成/162 
17.1處理序列問題的神經網絡/163 
17.2循環神經網絡/164 
17.3長短期記憶網絡/165 

18多層感知器的時間序列預測：國際旅行人數預測/167 
18.1問題描述/167 
18.2導入數據/168 
18.3多層感知器/169 
18.4使用窗口方法的多層感知器/172 

19 LSTM時間序列問題預測：國際旅行人數預測177 
19.1 LSTM處理回歸問題/177 
19.2使用窗口方法的LSTM回歸/181 
19.3使用時間步長的LSTM回歸/185 
19.4 LSTM的批次間記憶/188 
19.5堆疊LSTM的批次間記憶/192 

20序列分類：IMDB影評分類/197 
20.1問題描述/197 
20.2簡單LSTM/ 197 
20.3使用Dropout改進過擬合/199 
20.4混合使用LSTM和CNN/201

21多變量時間序列預測：PM2.5預報/203 
21.1問題描述/203 
21.2數據導入與準備/204 
21.3構建數據集/206 
21.4簡單LSTM/207 

22文本生成實例：愛麗絲夢遊仙境/211 
22.1問題描述/211 
22.2導入數據/212 
22.3分詞與向量化/212 
22.4詞云/213 
22.5簡單LSTM/215 
22.6生成文本/219 

附錄A深度學習的基本概念/223 
A.1神經網絡基礎/223 
A.2卷積神經網絡/227 
A.3循環神經網絡/229