AI 原生應用開發：提示工程原理與實戰

魏承東，某因特網大廠資深研發工程師，擁有 10 餘年技術研發經驗，在雲原生、大數據、AI 原生應用開發領域擁有豐富的項目實踐經驗。其主持研發的“疫情地圖”系列產品曾服務超 10 億用戶，幫助公司獲得“工業和信息化系統抗擊新冠肺炎疫情先進集體”稱號；主持的項目曾兩次榮獲“IDC 中國未來企業大獎”，是國內較早探索大語言模型在產業落地的技術專家之一，持有國內外 30 餘項發明專利。

第 1章 提示工程概述 1

1.1 AI原生應用的形態 1

1.1.1 內容創作 1

1.1.2 輔助助手 2

1.1.3 能力引擎 2

1.1.4 智能體 3

1.2 AI原生應用開發面臨的機遇與挑戰 4

1.2.1 開發模式的華麗變身 4

1.2.2 技術落地的荊棘之路 4

1.3 案例演示的準備工作 5

1.3.1 使用官網接入大語言模型 5

1.3.2 使用API接入大語言模型 6

1.3.3 初次體驗 7

1.4 提示工程的本質 7

1.4.1 提示是引導生成的起點 8

1.4.2 提示是一個穩定的函數 9

1.4.3 用戶提示是完整提示的一部分 9

1.5 KITE提示框架 11

1.5.1 註入知識 12

1.5.2 明確指令 13

1.5.3 設定目標 14

1.5.4 確定邊界 15

1.6 提示調試技巧 16

1.6.1 迭代優化 16

1.6.2 給提示添加調試說明 17

1.6.3 讓模型重述任務 18

1.6.4 利用知識生成能力生成任務描述 19

1.7 小結 21

 

第 2章 結構化提示設計 22

2.1 結構引導設計 22

2.1.1 層次結構 22

2.1.2 輸入和輸出位置 22

2.1.3 有序列表和無序列表 23

2.1.4 解釋或補充說明 23

2.1.5 不可分割 24

2.1.6 強調內容 24

2.1.7 語義槽位 24

2.1.8 內容邊界 25

2.1.9 輸出格式 25

2.1.10 字段名稱和數據類型 26

2.1.11 輸出長度控制 27

2.2 內容引導設計 28

2.2.1 模擬對話提示 28

2.2.2 句式引導提示 28

2.2.3 前導語提示 29

2.2.4 規律提示 29

2.2.5 少樣本提示 30

2.2.6 取值範圍提示 31

2.3 提示編排設計 32

2.3.1 映射-化簡策略 33

2.3.2 長文本滾動策略 35

2.3.3 多階段拆分策略 37

2.4 小結 39

 

第3章 NLP任務提示 40

3.1 文本生成任務 41

3.1.1 文本摘要 41

3.1.2 觀點總結 42

3.1.3 機器翻譯 43

3.1.4 對抗文本生成 45

3.1.5 同義句轉換 45

3.2 文本分類任務 46

3.2.1 基本文本分類 46

3.2.2 文本相似度評估 48

3.2.3 文本聚類 49

3.2.4 情感分析 50

3.3 信息抽取任務 52

3.3.1 關鍵詞抽取 52

3.3.2 命名實體識別 53

3.3.3 屬性抽取 54

3.3.4 關系抽取 56

3.3.5 隱含信息抽取 57

3.4 文本整理任務 59

3.4.1 文本糾錯 59

3.4.2 表格整理 60

3.4.3 信息篩選 63

3.4.4 知識整合與更新 65

3.5 小結 67

 

第4章 內容創作提示 68

4.1 影響創作質量的核心要素 68

4.1.1 內容創意 69

4.1.2 受眾定位 75

4.1.3 創作目的 76

4.1.4 文體選擇 76

4.1.5 風格要求 77

4.1.6 呈現方式 82

4.2 基礎創作提示 85

4.2.1 撰寫 85

4.2.2 改寫 87

4.2.3 潤色 88

4.2.4 續寫 89

4.2.5 擴寫 89

4.3 長文本創作提示 90

4.3.1 巧用文體結構進行創作 91

4.3.2 利用人機交互進行創作 92

4.3.3 基於故事框架進行創作 93

4.4 小結 97

 

第5章 生成可控性提示 98

5.1 可控性問題分類 98

5.1.1 幻覺問題 98

5.1.2 指令遵循問題 99

5.1.3 內容安全問題 100

5.2 可控性影響因素 101

5.2.1 訓練數據 101

5.2.2 涌現性和多樣性 102

5.2.3 生成過程控制 102

5.3 生成參數和對話控制 103

5.3.1 生成參數調節 103

5.3.2 對話歷史管理 104

5.3.3 對話立即停止 104

5.4 基於提示的可控設計 105

5.4.1 內容範圍限定提示 105

5.4.2 前置條件限定 106

5.4.3 回答“我不知道” 108

5.4.4 使用外部知識 109

5.4.5 要求引用原文回答 110

5.4.6 使用外部工具 110

5.4.7 記憶增強提示 114

5.4.8 任務說明後置 115

5.5 基於內容審查的可控設計 116

5.5.1 基於傳統模型的內容審查 117

5.5.2 基於大語言模型的內容審查 118

5.6 小結 119

 

第6章 提示安全設計 120

6.1 數據泄露 121

6.1.1 模型記憶泄露 121

6.1.2 應用調用泄露 121

6.1.3 主要防禦手段 122

6.2 註入攻擊 127

6.2.1 任務挾持 127

6.2.2 提示泄露 128

6.2.3 越獄攻擊 128

6.2.4 主要防禦手段 130

6.3 越權攻擊 134

6.3.1 代碼解釋器漏洞 134

6.3.2 開發框架漏洞 136

6.3.3 調用工具漏洞 137

6.3.4 主要防禦手段 138

6.4 小結 142

 

第7章 形式語言風格提示 144

7.1 利用形式語言增強提示 144

7.1.1 編譯器提示 145

7.1.2 數據類型 145

7.1.3 運算指令 150

7.1.4 控制結構 151

7.2 利用大語言模型編寫代碼 157

7.2.1 代碼生成提示 157

7.2.2 代碼優化提示 168

7.2.3 錯誤檢查提示 172

7.3 小結 177

 

第8章 推理提示 178

8.1 大語言模型的推理 178

8.2 基礎思維鏈 179

8.2.1 零樣本提示 179

8.2.2 少樣本提示 180

8.2.3 少樣本思維鏈提示 181

8.2.4 零樣本思維鏈提示 182

8.3 進階思維鏈 185

8.3.1 思維表提示 185

8.3.2 自我一致提示 187

8.3.3 由少至多提示 188

8.3.4 自問自答提示 192

8.4 高階思維鏈 195

8.4.1 思維樹提示 195

8.4.2 推理-行動提示 200

8.4.3 自動思維鏈提示 204

8.5 嘗試構建自己的思維鏈 208

8.5.1 自由辯論提示 209

8.5.2 圓桌會議提示 211

8.6 小結 213

 

第9章 智能體提示 215

9.1 什麽是智能體 216

9.2 感知端 217

9.2.1 文本輸入 217

9.2.2 視覺輸入 218

9.2.3 聽覺輸入 219

9.2.4 其他輸入 219

9.3 控制端 221

9.3.1 大語言模型 221

9.3.2 任務規劃模塊 221

9.3.3 記憶模塊 227

9.4 行動端 233

9.4.1 文本輸出 233

9.4.2 工具使用 235

9.5 小結 250

 

第 10章 AI原生應用開發展望 252

10.1 AI原生應用的落地 252

10.1.1 遠離妄想與過度理想 252

10.1.2 重視系統之外的調整 253

10.1.3 選擇務實的技術路線 253

10.2 AI原生應用效果評估 254

10.2.1 基準模型評估 255

10.2.2 AI原生應用評估 255

10.2.3 評估指標 256

10.2.4 評估方法 259

10.2.5 評估方法的選擇 264

10.3 待解決的工程化問題 265

10.4 小結 266