感謝您提交詢問！我們的一位團隊成員將在短時間內與您聯繫。
感謝您提交預訂！我們的一位團隊成員將在短時間內與您聯繫。
課程簡介
LLM 應用架構與設計
- 用於助手、協作助手及工作流程自動化的常見 OpenAI 應用模式。
- 根據業務需求、可靠性及使用者體驗選擇合適的架構。
- 從原型代碼轉向可維護的應用程式設計。
提示工程、上下文與結構化輸出
- 為確保行為的可預測性，組織系統、使用者及開發者指令。
- 設計具一致性、任務控制力及清晰回應的提示。
- 使用結構化輸出支援下游應用邏輯。
- 管理上下文視窗、對話狀態及回應品質。
工具使用與工作流程編排
- 結合外部服務，使用函數調用及工具啟用型工作流程。
- 驗證輸入與輸出、處理錯誤，並套用備援行為。
- 為實際業務任務設計多步驟流程。
檢索與知識錨定
- 辨識何種情況下適合使用檢索增強生成 (RAG)。
- 準備文件並對內容進行分塊，以利於有效檢索。
- 檢索相關上下文，並將回應基於可信來源。
評估、安全防線與運維準備度
- 定義品質標準，並針對預期結果測試工作流程。
- 減少幻覺現象，處理不安全、無關或模糊的請求。
- 監控使用量、延遲、Token 消耗及成本。
- 準備應用以進行部署、支援及迭代改進。
實作工作坊
- 構建一個小型端到端的 OpenAI 應用，結合提示工程、結構化輸出、工具使用及檢索功能。
- 檢視設計決策、常見問題，以及生產環境使用的實用下一步。
最低要求
- 熟悉大型語言模型概念及基於 API 的應用開發。
- 具備使用 REST API、JSON 及提示驅動工作流的經驗。
- 具備 Python、JavaScript 或其他類似語言的中階程式設計能力。
受眾
- 構建 LLM 驅動應用的軟體開發人員。
- 設計基於 OpenAI 解決方案之 AI 工程師及技術負責人。
- 負責生產環境 AI 功能的產品團隊及解決方案架構師。
7 小時
