聯繫我們
 課程時長 21 時間:

課程簡介

AI系統的架構基礎

  • 層級、邊界及關注點分離
  • 將埠與適配器模式應用於AI組件
  • AI功能的品質屬性場景
  • 以架構決策記錄(ADR)作為治理手段

演化現有應用程式

  • 漸進式現代化,取代全面重寫
  • 在現有單體架構旁部署AI服務
  • 絞殺者模式及防腐層模式
  • 針對現有API及資料的整合接縫

LLM整合架構模式

  • 模型閘道作為抽象邊界
  • 同步、非同步及串流整合
  • 降級處理、功能退化及供應商故障轉移
  • 提示詞及模型配置作為版本化資產

合約、API及資料交換

  • 結構化輸出模式及驗證
  • 冪等性、重試及速率限制
  • 延遲預算及超時調度
  • 每請求成本作為架構約束

端到端RAG架構

  • 攝取、分塊及嵌入管線
  • 索引、檢索、重新排序及生成階段
  • 相對於應用程式服務的檢索佈局
  • 各階段的權衡取捨及失效模式

向量資料庫及檢索設計

  • 託管型與自託管型向量資料庫
  • 稠密、稀疏及混合搜尋
  • 中繼資料過濾及租戶隔離
  • 模型變更時的重新嵌入策略

檢索品質、依據及評估

  • 基於真實查詢建立評估集
  • 檢索及回答品質指標
  • 引用、依據及抑制幻覺
  • 回饋機制回饋至索引

代理架構

  • 代理循環及工具調用
  • 確定性工作流與自主規劃器的比較
  • 代理並非合適解決方案的情境
  • 界定代理職責及狀態

多代理系統及協同

  • 監護人及協同器拓撲結構
  • 交接協議及訊息合約
  • 共享記憶體及上下文管理
  • 基於架構角度的框架比較

服務通訊及工具協議

  • 事件驅動及基於佇列的協同
  • 透過標準協議暴露工具
  • Sagas、補償及長時交易
  • 跨服務跳轉的可觀測性

開發工作流中的AI代理

  • 交付管線中的編程代理
  • 規格驅動開發及審查閘門
  • 測試生成及自動化品質檢查
  • 維護架構控制权的護欄

治理及軟體品質

  • AI功能的設計審查
  • 模型及提示詞變更管理
  • 將回歸評估作為管線階段
  • 所有權、政策及審批路徑

安全性、隱私及資料治理

  • 提示注入及縱深防禦
  • 祕密、存取控制及最小特權原則
  • 資料駐留、個人數據及保留策略
  • 可審計性及人在迴路控制

擴充性、成本及可觀測性

  • 跨代理鏈的追蹤
  • Token及成本遙測
  • 快取及延遲優化
  • AI服務的服務水準及事件回應

綜合實作:AI驅動方案的架構

  • 上下文、組件及部署視圖
  • 檢索及代理協同設計
  • 安全性、治理及成本規劃
  • 同儕審查、批評及遷移路線圖

最低要求

  • 具備設計及維護生產級別軟體系統的經驗
  • 熟悉REST API及服務整合
  • 了解關係型資料庫及資料建模
  • 對基於LLM的工具或API有基本接觸

適合對象

  • 軟體架構師
  • 技術主管及高級工程師
  • 負責架構決策的工程經理

客戶評論 (1)

課程分類