生成式 AI 設計模式|處理生成式AI代理及應用程式的常見挑戰 (Generative AI Design Patterns: Solutions to Common Challenges When Building Genai Agents and Applications)

Valliappa Lakshmanan, Hannes Hapke

  • 生成式 AI 設計模式|處理生成式AI代理及應用程式的常見挑戰 (Generative AI Design Patterns: Solutions to Common Challenges When Building Genai Agents and Applications)-preview-1
  • 生成式 AI 設計模式|處理生成式AI代理及應用程式的常見挑戰 (Generative AI Design Patterns: Solutions to Common Challenges When Building Genai Agents and Applications)-preview-2
  • 生成式 AI 設計模式|處理生成式AI代理及應用程式的常見挑戰 (Generative AI Design Patterns: Solutions to Common Challenges When Building Genai Agents and Applications)-preview-3
  • 生成式 AI 設計模式|處理生成式AI代理及應用程式的常見挑戰 (Generative AI Design Patterns: Solutions to Common Challenges When Building Genai Agents and Applications)-preview-4
  • 生成式 AI 設計模式|處理生成式AI代理及應用程式的常見挑戰 (Generative AI Design Patterns: Solutions to Common Challenges When Building Genai Agents and Applications)-preview-5
  • 生成式 AI 設計模式|處理生成式AI代理及應用程式的常見挑戰 (Generative AI Design Patterns: Solutions to Common Challenges When Building Genai Agents and Applications)-preview-6
  • 生成式 AI 設計模式|處理生成式AI代理及應用程式的常見挑戰 (Generative AI Design Patterns: Solutions to Common Challenges When Building Genai Agents and Applications)-preview-7
  • 生成式 AI 設計模式|處理生成式AI代理及應用程式的常見挑戰 (Generative AI Design Patterns: Solutions to Common Challenges When Building Genai Agents and Applications)-preview-8
  • 生成式 AI 設計模式|處理生成式AI代理及應用程式的常見挑戰 (Generative AI Design Patterns: Solutions to Common Challenges When Building Genai Agents and Applications)-preview-9
生成式 AI 設計模式|處理生成式AI代理及應用程式的常見挑戰 (Generative AI Design Patterns: Solutions to Common Challenges When Building Genai Agents and Applications)-preview-1

商品描述

生成式AI已開始真正進入產品、服務與企業流程,但當團隊實際開發GenAI應用程式與AI Agent時,往往很快就遇到各種工程問題:

模型產生幻覺、回應結果不穩定該如何處理?
怎麼讓生成內容符合品牌風格與指定格式?
如何讓Agent具備規劃、自我修正與協作能力?
多個Agent又該如何組合成可落地的應用系統?

本書整理了32種生成式AI設計模式(Generative AI Design Patterns),將研究論文與第一線實務經驗轉化為可直接套用的工程解法。
無論是拿來作為參考手冊、架構設計指南,或是培養整體GenAI設計思維,這本書都是對工程師、資料科學家、軟體架構師或產品經理極具價值的工具書。

【專業推薦】
「這是一本引領GenAI從原型邁向正式部署的實戰手冊。書中收錄的設計模式匯集了現實的工程經驗,可讓開發者充滿信心地應對幻覺、可靠性與規模化的種種挑戰。」
——Marily Nika博士,《Building AI-Powered Products》作者

「Hannes與Lak將寶貴的實戰智慧寫成這本全方位指南,幫助你將理論轉化為實際做法。」
——Chip Huyen,《設計機器學習系統》與《AI工程》作者


生成式AI帶來強大的新能力,然而,在正式交付可靠的應用程式或代理之前,你仍然會面臨有一些棘手的限制。幸運的是,來自業界專家的二位作者已經整理了32種經得起考驗的設計模式。在開發LLM專案時難以避免的難題都可以在本書中找到對策,包括幻覺、不確定的回應,以及模型知識斷層。

本書將論文研究跟實務經驗整理成可以直接套用的建議。在每一種模式中,作者會先說明問題在哪,再附上完整的範例程式來示範解法,最後還會分析解決方案背後的取捨。

• 因應LLM的侷限性
• 確保生成的內容符合特定風格、語調與格式
• 在權衡各類風險的同時,將創意極大化
• 讓代理具備規劃能力、自我修正能力、行動能力,而且能與其他代理協作
• 將多種模式組合成適合各種應用場景的代理型應用程式

作者簡介

Valliappa (Lak) Lakshmanan 是代理型AI初創公司Obin.ai的共同創辦人兼技術長。在創業前,他曾擔任Google的AI解決方案總監,並在美國國家海洋暨大氣總署擔任ML研究員。他寫過多本O’Reilly技術叢書,包括著名的《機器學習設計模式》,並因為率先運用ML來預測劇烈天氣,而當選美國氣象學會會士。

Hannes Hapke 是Digits的首席機器學習工程師,負責開發金融應用的機器學習系統。他是機器學習領域的Google Developer Expert,也是Google開發者諮詢委員會成員。他曾經合著多本機器學習書籍,包括《建構機器學習管道|運用TensorFlow實現模型生命週期自動化》與 《Natural Language Processing in Action》(Manning)。

目錄大綱

前言

第一章 導讀
生成式AI設計模式
使用基礎模型來建構
代理型AI
精密控制
in-context學習
後訓
本書後續架構

第二章 控制內容風格
模式1:Logits遮罩
模式2:文法
模式3:風格遷移
模式4:反中性化
模式5:內容最佳化
總結

第三章 增加知識:基礎篇
模式6:基本RAG
模式7:語義索引化
模式8:大規模索引化
總結

第四章 增加知識:另闢蹊徑
模式9:索引感知檢索
模式10:節點後處理
模式11:可信賴生成
模式12:深度搜尋
總結

第五章 擴展模型能力
LLM推理的侷限性
模式13:思維鏈
模式14:思維樹(ToT)
模式15:適應層微調
模式16:Evol-Instruct
總結

第六章 提升可靠性
模式17:LLM-as-Judge
模式18:反思
模式19:依賴注入
模式20:提示詞最佳化
總結

第七章 讓代理採取行動
模式21:工具呼叫
模式22:程式碼執行
模式23:多代理協作
總結

第八章 因應侷限性
模式24:小型語言模型
模式25:提示詞快取
模式26:推論最佳化
模式27:退化測試
模式28:長期記憶
總結

第九章 設置護欄
模式29:模板生成
模式30:組裝重排
模式31:自我檢查
模式32:護欄
總結

第十章 可組合的代理型工作流程
代理型工作流程
總結

索引