深度學習原理與 PyTorch 實戰

集智俱樂部（Swarma Club），成立於2003年，是一個從事學術研究、享受科學樂趣的探索者團體。倡導以平等開放的態度、科學實證的精神，進行跨學科的研究與交流，力圖搭建一個中國的“沒有圍牆的研究所”。目前已出版著作有《科學的**致：漫談人工智能》和《走近2050：注意力、互聯網與人工智能》，譯作有《深度思考：人工智能的終點與人類創造力的起點》。

目錄   

第1章深度學習簡介1   
1.1深度學習與人工智能1   
1.2深度學習的歷史淵源2   
1.2.1從感知機到人工神經網絡3  
1.2.2深度學習時代4   
1.2.3巨頭之間的角逐5   
1.3深度學習的影響因素6   
1.3.1大數據6   
1.3.2深度網絡架構7   
1.3.3 GPU 11   
1.4深度學習為什麼如此成功11   
1.4. 1特徵學習（representation learning） 11   
1.4.2遷移學習（transfer learning） 12   
1.5小結13   
參考文獻14   
第2章PyTorch簡介15   
2.1 PyTorch安裝15   
2.2初識PyTorch 15   
2.2.1與Python的*美融合16   
2.2 .2張量計算16   
2.2.3動態計算圖20   
2.3 PyTorch實例：預測房價27   
2.3.1準備數據27   
2.3.2模型設計28   
2.3.3訓練29   
2.3.4預測31   
2.3.5術語彙總32   
2.4小結33   
第3章單車預測器：你的第一個   
神經網絡35   
3.1共享單車的煩惱35  
3.2單車預測器1.0 37   
3.2.1神經網絡簡介37   
3.2.2人工神經元38   
3.2.3兩個隱含層神經元40   
3.2.4訓練與運行42   
3.2.5失敗的神經預測器43   
3.2.6過擬合48   
3.3單車預測器2.0 49   
3.3.1數據的預處理過程49   
3.3.2構建神經網絡52   
3.3.3測試神經網絡55   
3.4剖析神經網絡Neu 57   
3.5小結61   
3.6 Q&A 61   
第4章機器也懂感情——中文情緒   
分類器63   
4.1神經網絡分類器64   
4.1.1如何用神經網絡做分類64   
4.1.2分類問題的損失函數66   
4.2詞袋模型分類器67   
4.2.1詞袋模型簡介68   
4.2 .2搭建簡單文本分類器69   
4.3程序實現70   
4.3.1數據獲取70   
4.3.2數據處理74   
4.3.3文本數據向量化75   
4.3.4劃分數據集76   
4.3.5建立神經網絡78  
4.4運行結果80   
4.5剖析神經網絡81   
4.6小結85   
4.7 Q&A 85   
第5章手寫數字識別器——認識卷積   
神經網絡87   
5.1什麼是卷積神經網絡88   
5.1.1手寫數字識別任務的CNN   
網絡及運算過程88   
5.1.2卷積運算操作90   
5.1.3池化操作96   
5.1.4立體卷積核97   
5.1.5超參數與參數98   
5.1.6其他說明99   
5.2手寫數字識別器100   
5.2.1數據準備100   
5.2.2構建網絡103   
5.2.3運行模型105   
5.2.4測試模型106   
5.3剖析卷積神經網絡107   
5.3.1第一層卷積核與特徵圖107   
5.3.2 *二層卷積核與特徵圖109   
5.3.3卷積神經網絡的健壯性試驗110   
5.4小結112   
5.5 Q&A 112   
5.6擴展閱讀112   
第6章手寫數字加法機——遷移學習113   
6.1什麼是遷移學習114  
6.1.1遷移學習的由來114   
6.1.2遷移學習的分類115   
6.1.3遷移學習的意義115   
6.1.4如何用神經網絡實現遷移   
學習116   
6.2應用案例：遷移學習如何抗擊貧困118   
6.2.1背景介紹118   
6.2.2方法探尋119   
6.2.3遷移學習方法120   
6.3螞蟻還是蜜蜂：遷移大型捲積神經   
網絡121   
6.3.1任務描述與初步嘗試121   
6.3.2 ResNet與模型遷移122   
6.3.3代碼實現123   
6.3 .4結果分析127   
6.3.5更多的模型與數據128   
6.4手寫數字加法機128   
6.4.1網絡架構128   
6.4.2代碼實現129   
6.4.3訓練與測試136   
6.4.4結果138   
6.4.5大規模實驗138   
6.5小結143   
6.6實踐項目：遷移與效率143   
第7章你自己的Prisma——圖像   
風格遷移145   
7.1什麼是風格遷移145  
7.1.1什麼是風格145   
7.1.2風格遷移的涵義146   
7.2風格遷移技術發展簡史147   
7.2.1神經網絡之前的風格遷移147   
7.2.2特定風格的實現148   
7.3神經網絡風格遷移149   
7.3.1神經網絡風格遷移的優勢150   
7.3.2神經網絡風格遷移的基本   
思想150   
7.3.3卷積神經網絡的選取151   
7.3.4內容損失152   
7.3.5風格損失152   
7.3.6風格損失原理分析153   
7.3. 7損失函數與優化156   
7.4神經網絡風格遷移實戰157   
7.4.1準備工作157   
7.4.2建立風格遷移網絡159   
7.4.3風格遷移訓練162   
7.5小結165   
7.6擴展閱讀165   
第8章人工智能造假術——圖像生成   
與對抗學習166   
8.1反捲積與圖像生成169   
8.1.1 CNN回顧169   
8.1.2反捲積操作171   
8.1.3反池化過程173   
8.1.4反捲積與分數步伐174  
8.1.5輸出圖像尺寸公式175   
8.1.6批正則化技術176   
8.2圖像生成實驗1——*小均方誤差   
模型177   
8.2.1模型思路177   
8.2.2代碼實現178   
8.2.3運行結果182   
8.3圖像生成實驗2——生成器-識別器   
模型184   
8.3.1生成器-識別器模型的實現184   
8.3.2對抗樣本187   
8.4圖像生成實驗3——生成對抗網絡   
GAN 190   
8.4.1 GAN的總體架構191   
8.4.2程序實現192   
8.4.3結果展示195   
8.5小結197   
8.6 Q&A 197   
8.7擴展閱讀198   
第9章詞彙的星空——神經語言模型   
與Word2Vec 199   
9.1詞向量技術介紹199   
9.1.1初識詞向量199   
9.1.2傳統編碼方式200   
9.2 NPLM：神經概率語言模型201   
9.2.1 NPLM的基本思想202   
9.2.2 NPLM的運作過程詳解202  
9.2.3讀取NPLM中的詞向量205   
9.2.4 NPLM的編碼實現206   
9.2.5運行結果209   
9.2.6 NPLM的總結與局限211   
9.3 Word2Vec 211   
9.3.1 CBOW模型和Skip-gram模型的結構211   
9.3.2層級軟*大213   
9.3.3負採樣213   
9.3.4總結及分析214   
9.4 Word2Vec的應用214   
9.4.1在自己的語料庫上訓練Word2Vec詞向量214   
9.4.2調用現成的詞向量216   
9.4. 3女人-男人＝皇后-國王218   
9.4.4使用向量的空間位置進行詞對詞翻譯220   
9.4.5 Word2Vec小結221   
9.5小結221   
9.5 Q&A 222   
第10章LSTM作曲機——序列生成   
模型224   
10.1序列生成問題224   
10.2 RNN與LSTM 225   
10.2.1 RNN 226   
10.2.2 LSTM 231   
10.3簡單01序列的學習問題235   
10.3.1 RNN的序列學習236  
10.3.2 LSTM的序列學習245   
10.4 LSTM作曲機248   
10.4.1 MIDI文件248   
10.4.2數據準備249   
10.4.3模型結構249   
10.4.4代碼實現250   
10.5小結259   
10.6 Q&A 259   
10.7擴展閱讀259