感謝您提交詢問!我們的一位團隊成員將在短時間內與您聯繫。
感謝您提交預訂!我們的一位團隊成員將在短時間內與您聯繫。
課程時長 21 時間:
課程簡介
AI系統的架構基礎
- 層級、邊界及關注點分離
- 將埠與適配器模式應用於AI組件
- AI功能的品質屬性場景
- 以架構決策記錄(ADR)作為治理手段
演化現有應用程式
- 漸進式現代化,取代全面重寫
- 在現有單體架構旁部署AI服務
- 絞殺者模式及防腐層模式
- 針對現有API及資料的整合接縫
LLM整合架構模式
- 模型閘道作為抽象邊界
- 同步、非同步及串流整合
- 降級處理、功能退化及供應商故障轉移
- 提示詞及模型配置作為版本化資產
合約、API及資料交換
- 結構化輸出模式及驗證
- 冪等性、重試及速率限制
- 延遲預算及超時調度
- 每請求成本作為架構約束
端到端RAG架構
- 攝取、分塊及嵌入管線
- 索引、檢索、重新排序及生成階段
- 相對於應用程式服務的檢索佈局
- 各階段的權衡取捨及失效模式
向量資料庫及檢索設計
- 託管型與自託管型向量資料庫
- 稠密、稀疏及混合搜尋
- 中繼資料過濾及租戶隔離
- 模型變更時的重新嵌入策略
檢索品質、依據及評估
- 基於真實查詢建立評估集
- 檢索及回答品質指標
- 引用、依據及抑制幻覺
- 回饋機制回饋至索引
代理架構
- 代理循環及工具調用
- 確定性工作流與自主規劃器的比較
- 代理並非合適解決方案的情境
- 界定代理職責及狀態
多代理系統及協同
- 監護人及協同器拓撲結構
- 交接協議及訊息合約
- 共享記憶體及上下文管理
- 基於架構角度的框架比較
服務通訊及工具協議
- 事件驅動及基於佇列的協同
- 透過標準協議暴露工具
- Sagas、補償及長時交易
- 跨服務跳轉的可觀測性
開發工作流中的AI代理
- 交付管線中的編程代理
- 規格驅動開發及審查閘門
- 測試生成及自動化品質檢查
- 維護架構控制权的護欄
治理及軟體品質
- AI功能的設計審查
- 模型及提示詞變更管理
- 將回歸評估作為管線階段
- 所有權、政策及審批路徑
安全性、隱私及資料治理
- 提示注入及縱深防禦
- 祕密、存取控制及最小特權原則
- 資料駐留、個人數據及保留策略
- 可審計性及人在迴路控制
擴充性、成本及可觀測性
- 跨代理鏈的追蹤
- Token及成本遙測
- 快取及延遲優化
- AI服務的服務水準及事件回應
綜合實作:AI驅動方案的架構
- 上下文、組件及部署視圖
- 檢索及代理協同設計
- 安全性、治理及成本規劃
- 同儕審查、批評及遷移路線圖
最低要求
- 具備設計及維護生產級別軟體系統的經驗
- 熟悉REST API及服務整合
- 了解關係型資料庫及資料建模
- 對基於LLM的工具或API有基本接觸
適合對象
- 軟體架構師
- 技術主管及高級工程師
- 負責架構決策的工程經理
客戶評論 (1)
我獲得了關於Python中Streamlit庫的知識,我肯定會嘗試使用它來改進我們團隊中基於R Shiny開發的apps。
Michal Maj - XL Catlin Services SE (AXA XL)
課程 - GitHub Copilot for Developers
機器翻譯