化繁為簡的藝術 - 高併發大模型複雜架構實作

呂文翰

現任「愛聽寫」合夥人、CTO，曾任「住范兒」創始成員、CTO、監事。2014 年大學部畢業於北京科技大學。我的開源作品可以到我的 GitHub 首頁取得，使用者名稱為 johnlui。

一些微小的成就如下：

☆Laravel 在中國最早的佈道者之一。

☆Swift 語言貢獻者。

☆GitHub 中國區 Swift 語言 Star 數曾排至第 3。

☆GitHub 中國區PHP 語言Star 數曾排至第5。

 

張建芳

2018 年碩士畢業於北京科技大學，後一直從事智慧製造、工業物聯網領域的

建設與研發工作。

▌第一部分 高併發
第1 章 高併發系統入門
1.1 什麼是高併發
1.2 高併發系統的關鍵指標
1.3 常見高併發場景
1.3.1 電商秒殺與社群網路熱點
1.3.2 金融交易
1.3.3 網路遊戲
1.3.4 網路影音與直播
1.4 系統架構的演變
1.4.1 單體架構
1.4.2 SOA 與分散式架構
1.4.3 微服務架構
1.4.4 無伺服器架構
1.5 如何學習本書
1.5.1 舊系統改造學習路徑
1.5.2 新系統架設學習路徑

第2 章 揭秘高併發架構的設計套路
2.1 思維躍遷：從使用者到架構師
2.2 第一步：動態、靜態資源分開部署
2.3 第二步：資料庫獨立部署
2.4 第三步：將應用、資料庫、網路依次叢集化
2.4.1 應用叢集化
2.4.2 資料庫叢集化
2.4.3 建構高可用的網路基礎設施
2.5 真實案例：一個CMS 網站的效能最佳化之路
2.5.1 動態、靜態資源分離與引入Elasticsearch
2.5.2 資料層最佳化：MySQL 索引與Redis 快取
2.5.3 應用層最佳化與架構思考
2.5.4 實作基於 IP 與使用者代理的多層限流策略

第3 章 高併發系統案例剖析
3.1 案例1：搜尋引擎
3.1.1 搜尋引擎架構概述
3.1.2 高併發挑戰與架構對策
3.1.3 搜尋引擎的最佳化與演進
3.2 案例2：電商「雙11」秒殺—每分鐘處理100 萬筆訂單
3.2.1 存取層架構：靜態資源加速與動態資源管控
3.2.2 應用層設計：GraphQL 的工程價值
3.2.3 資料層設計：資料庫與快取的協同
3.3 案例3：人工智慧平臺—從ChatGPT 到DeepSeek
3.3.1 人工智慧平臺的高併發特性與挑戰
3.3.2 DeepSeek 架構解析：從MoE 到軟硬體協同最佳化

第4 章 如何正確地進行壓力測試
4.1 壓力測試的核心理念
4.2 壓力測試的標準化流程
4.3 高併發系統中的壓力測試
4.4 案例解析：某電商平臺的壓力測試實戰
4.4.1 專案背景與壓力測試目標
4.4.2 設計與執行壓力測試方案
4.4.3 瓶頸發現與調校實踐

▌第二部分 高效能
第5 章 高效能運算
5.1 透過負載平衡實現水平擴展
5.2 伺服器虛擬化
5.3 理解軟體相容性與虛擬化技術
5.4 詳解容器技術
5.4.1 容器的核心隔離技術：chroot、namespaces 與cgroups
5.4.2 Docker 的崛起：以應用為中心的映像檔思想
5.5 軟體定義運算：Kubernetes
5.5.1 天時、地利、人和：Kubernetes 的崛起之道
5.5.2 Kubernetes 哲學：軟體定義一切
5.6 Spring Cloud：虛擬機器時代的微服務基石
5.7 軟體架構本質上是軟體團隊的組織架構
5.8 實戰：用Docker 部署靜山平臺
5.8.1 方法一：將所有軟體都安裝在一個容器內
5.8.2 方法二：將多個容器部署在同一個Pod 內
5.8.3 方法三：透過Ingress 和服務網格管理叢集流量

第6 章 CPU 資源管理：行程、執行緒、協程
6.1 網際網路系統規模發展史
6.1.1 全球資訊網的誕生與靜態網頁時代
6.1.2 Web 2.0 與海量並行的崛起
6.1.3 瞬時洪峰的終極挑戰：春晚紅包
6.2 主流後端語言的演變
6.2.1 行程模型：PHP 與阻塞I/O
6.2.2 執行緒模型：Java 的統治與JVM 生態
6.2.3 事件驅動模型：Node.js 的非同步革命
6.2.4 協程模型：Go 語言的新紀元
6.2.5 其他後端技術的興衰之路
6.3 實戰：使用協程開發高效能爬蟲
6.3.1 爬蟲工作流程
6.3.2 使用協程最佳化爬蟲效能
6.3.3 開源爬蟲架構解析

第7 章 網路高效能之一：至關重要的Web Server 軟體
7.1 Apache 的誕生與發展
7.2 主流Web Server 架構效能實戰對比
7.2.1 3 種並行模型介紹
7.2.2 Apache 與Nginx 核心架構效能壓力測試
7.2.3 epoll 與prefork 模型對比
7.3 Nginx 的誕生
7.4 I/O 多工技術演進：從select 到epoll
7.4.1 epoll 的核心原理與Nginx 協同機制
7.4.2 實戰：Nginx 用於電商秒殺系統

第8 章 網路高效能之二：負載平衡和應用閘道器
8.1 核心概念：負載平衡與應用閘道器
8.1.1 什麼是負載平衡
8.1.2 什麼是應用閘道器
8.1.3 應用閘道器的更多價值
8.1.4 實戰：「住范兒」電商平臺的真實網路架構圖
8.2 實戰起步：從單體架構到高併發閘道器
8.2.1 京東離峰期併發量估算
8.2.2 Kong 閘道器需要的硬體規模
8.2.3 技術選型：深入瞭解Kong 閘道器
8.3 詳解網路協定堆疊
8.3.1 網路分層模型與資料封裝
8.3.2 應用層（HTTP）與傳輸層（TCP）
8.3.3 網路層（IP）與資料連結層（MAC）
8.4 詳解負載平衡器
8.4.1 技術原理：負載平衡器如何工作
8.4.2 效能對比：為何四層負載平衡更快
8.4.3 最終架構：5 萬QPS 電商平臺實戰

第9 章 網路高效能之三：超大規模負載平衡叢集
9.1 軟體定義網路（SDN）技術簡介
9.2 負載平衡技術的發展史
9.2.1 第一代：硬體負載平衡
9.2.2 第二代：軟體負載平衡
9.3 交換器技術
9.4 LVS 技術詳解
9.4.1 LVS 基本原理
9.4.2 LVS 設計思想
9.4.3 OSPF/ECMP 負載平衡協定
9.5 基於Keepalived 建置高可用性LVS 叢集
9.6 突破單台伺服器的頻寬極限
9.6.1 單機效能最佳化：從使用者態網路到鎖最佳化
9.6.2 水平擴充：設計全冗餘高可用性叢集
9.6.3 叢集容量計算與價值分析
9.7 硬體廠商的使用者態網路實踐
9.8 下一個挑戰：資料庫

第10 章 儲存高效能之一：磁碟
10.1 資料庫：從終極佇列到效能瓶頸
10.2 儲存技術簡史
10.2.1 集中式儲存
10.2.2 分散式儲存
10.2.3 集中式儲存和分散式儲存的優缺點對比
10.3 I/O 技術展望：CXL 重塑未來
10.3.1 CXL 的技術基石與時代背景
10.3.2 CXL：下一代I/O 技術詳解
10.3.3 CXL 的應用場景：網路卡與大模型

第11 章 儲存高效能之二：快取
11.1 快取的原理與價值
11.2 快取的核心問題與讀/ 寫模型
11.2.1 基礎讀/ 寫模型與快取擊穿
11.2.2 快取雪崩問題
11.2.3 快取穿透與布隆過濾器
11.2.4 快取的更新、淘汰與預熱策略
11.2.5 快取高可用性
11.3 快取在架構設計中的價值
11.3.1 一致性與效能的權衡
11.3.2 分散式快取與微服務
11.3.3 案例教學：Elasticsearch 的快取設計
11.4 實戰：電商平臺快取體系設計
11.4.1 設計目標與多級快取架構
11.4.2 核心業務場景快取方案
11.4.3 快取更新與容災方案
11.4.4 快取的監控與治理

第12 章 儲存高效能之三：訊息佇列
12.1 秒殺架構的核心：訊息佇列
12.2 Kafka 分散式訊息訂閱系統詳解
12.2.1 應用場景
12.2.2 核心概念與整體架構
12.2.3 關鍵機制：分區、副本與高可用性
12.3 訊息佇列的架構意義
12.3.1 核心價值：實現非同步解耦與削峰填谷
12.3.2 提升系統韌性：保障高可用性與微服務解耦
12.3.3 支援高階架構：事件驅動與多樣化訊息處理
12.3.4 總結
12.4 真實案例：「住范兒」電商平臺的非同步下單流程架構

▌第三部分 高可用性
第13 章 分散式交易：從CAP 到Paxos
13.1 分散式系統基礎
13.1.1 CAP 定理簡介
13.1.2 分散式系統的挑戰
13.2 分散式交易的實作與權衡
13.2.1 常用分散式交易協定
13.2.2 分散式ACID 的難點與解決方案
13.3 Paxos 共識演算法詳解
13.3.1 Paxos 的誕生：在CAP 框架下尋求一致性
13.3.2 演算法原理與執行流程
13.3.3 關鍵特性、最佳化與變體
13.3.4 應用場景與實踐挑戰

第14 章 業務層高可用
14.1 異地多活
14.1.1 核心理念與挑戰
14.1.2 關鍵技術：資料、流量與監控
14.1.3 演進趨勢與成本考量
14.2 兩地三中心
14.2.1 架構原理與佈局
14.2.2 核心機制：資料同步與故障切換
14.2.3 實施決策：成本與雲端方案
14.3 業務層故障處理架構
14.3.1 故障感知：發現問題
14.3.2 故障隔離：排隊、降級、限流與熔斷
14.3.3 故障自癒：自動恢復

第15 章 運算層高可用性
15.1 主從架構
15.2 雙主多活架構
15.3 冗餘
15.3.1 冗餘的原則與度量
15.3.2 冗餘在架構設計中的應用
15.4 故障切換與復原
15.4.1 故障發現與自動切換
15.4.2 資料一致性保障
15.4.3 恢復流程與自動化維運體系

第16 章 儲存層高可用性
16.1 高可用性儲存的基本概念
16.2 資料複製技術
16.2.1 複製模型：策略、拓樸與應用
16.2.2 複製一致性模型與共識協定
16.3 資料分片
16.3.1 分片的設計：策略、分片鍵與實作
16.3.2 資料分片的技術挑戰與對策
16.4 資料分割
16.4.1 資料分割與資料分片的區別
16.4.2 分區策略與最佳化技術

▌第四部分 分散式資料庫
第17 章 InnoDB 儲存引擎核心原理剖析
17.1 InnoDB 簡介
17.1.1 InnoDB 的發展歷程
17.1.2 InnoDB 的技術取捨
17.2 B+ 樹在InnoDB 中的實現
17.2.1 什麼是B+ 樹
17.2.2 InnoDB 的頁組織方式：從索引頁到資料頁
17.2.3 InnoDB 中的SQL 查詢過程
17.3 InnoDB B+ 樹層級增長實證分析
17.3.1 設計測試方案
17.3.2 ibd 結構探測工具
17.3.3 索引的起點：根頁的誕生
17.3.4 結果分析
17.4 「2000 萬列分表」問題
17.4.1 從行長計算B+ 樹的容量極限
17.4.2 B+ 樹層級增加對效能的影響與分表必要性
17.4.3 應該何時分表
17.5 記憶體快取Buffer Pool
17.5.1 Buffer Pool 的LRU 演算法
17.5.2 Buffer Pool 的最佳化方法

第18 章 四代分散式資料庫發展史
18.1 單機資料庫的極限：不可能三角
18.1.1 持久化、隔離與效能的權衡
18.1.2 MySQL 的妥協與智慧
18.2 突破讀取效能瓶頸：主從架構與讀/ 寫分離
18.3 第一代分散式資料庫：仲介軟體
18.4 第二代分散式資料庫：分散式KV 資料庫
18.4.1 分散式時代的「新不可能三角」
18.4.2 分散式鍵值資料庫放棄了交易隔離
18.5 第三代分散式資料庫：NewSQL
18.5.1 Spanner 的核心技術剖析
18.5.2 Spanner 對CAP 定理的取捨
18.6 第四代分散式資料庫：雲端資料庫
18.6.1 亞馬遜Aurora 率先推出
18.6.2 阿里雲PolarDB 後來居上
18.6.3 雲端資料庫對CAP 定理的取捨
18.7 討論與展望
18.7.1 架構思想的演進：從Shared-Disk 到Shared-Nothing
18.7.2 欄位儲存概念

第19 章 中國產資料庫TiDB 與OceanBase
19.1 TiDB 的設計思路
19.1.1 TiKV
19.1.2 TiDB 對CAP 定理和「不可能三角」的選擇
19.2 OceanBase 的設計思路
19.2.1 資料分割與平行查詢
19.2.2 基於LSM Tree 的儲存與記憶體架構
19.2.3 OceanBase 對CAP 定理和「不可能三角」的選擇
19.3 兩大資料庫的選型結論

▌第五部分 專案實戰與展望
第20 章 全網搜尋引擎實戰
20.1 搜尋引擎總體架構
20.2 全網路資料採集系統
20.3 索引建構：從文本處理到分散式儲存
20.3.1 文本預處理與建構倒排索引
20.3.2 分散式索引的建置與更新
20.3.3 索引最佳化：壓縮、儲存與合併
20.4 核心排序演算法
20.4.1 文本相關性演算法：BM25 與VSM
20.4.2 連結權威性演算法：PageRank
20.4.3 Proximity 演算法與綜合排序實戰
20.5 查詢處理與效能最佳化
20.5.1 搜尋的分散式執行過程
20.5.2 高併發架構與效能最佳化策略
20.6 檢驗效果

第21 章 電商「雙11」秒殺實戰：每分鐘處理100 萬筆訂單
21.1 秒殺系統設計原則與架構概述
21.2 訂單處理核心設計要點
21.2.1 流量管控：多層限流與防重設計
21.2.2 核心寫流程：庫存控制與分散式交易
21.2.3 訂單非同步化
21.3 檢驗效果
21.3.1 壓力測試方案與監控體系
21.3.2 驗證核心設計的有效性

第22 章 DeepSeek 高併發架構設計實戰
22.1 LLM 服務的高併發特性與核心挑戰
22.2 DeepSeek 高併發架構設計推演
22.2.1 存取層與智慧調度
22.2.2 高效能推理引擎與基礎設施
22.2.3 系統韌性與可觀測性
22.3 持續演進的架構

第23 章 存在無限容量架構嗎
23.1 系統邊界：從現實世界看分區合理性
23.2 核心策略：基於地理位置的無限擴展
23.3 架構基石：局部性、最終一致性與無共用
23.4 結論：走向無限容量架構