感謝您提交詢問！我們的一位團隊成員將在短時間內與您聯繫。
感謝您提交預訂！我們的一位團隊成員將在短時間內與您聯繫。
課程簡介
LLM應用架構與設計
- 常見的OpenAI應用模式，如助手、副駕駛和工作流自動化。
- 根據業務需求、可靠性和用戶體驗選擇合適的架構。
- 從原型代碼過渡到可維護的應用設計。
提示、上下文與結構化輸出
- 構建系統、用戶和開發者指令，以實現可預測的行爲。
- 設計提示以確保一致性、任務控制和更清晰的響應。
- 使用結構化輸出來支持下游應用邏輯。
- 管理上下文窗口、對話狀態和響應質量。
工具使用與工作流編排
- 使用函數調用和工具支持的工作流與外部服務交互。
- 驗證輸入和輸出，處理錯誤，並應用回退行爲。
- 設計多步驟流程以完成實際業務任務。
檢索與知識基礎
- 確定何時適合使用檢索增強生成。
- 準備文檔並分塊內容以支持有效檢索。
- 檢索相關上下文並將響應基於可信來源。
評估、防護措施與操作準備
- 定義質量標準並根據預期結果測試工作流。
- 減少幻覺，處理不安全、不相關或模糊的請求。
- 監控使用情況、延遲、令牌消耗和成本。
- 爲應用的部署、支持和迭代改進做準備。
實際操作研討會
- 構建一個端到端的OpenAI應用，結合提示、結構化輸出、工具使用和檢索。
- 回顧設計決策、常見問題以及生產使用的實際後續步驟。
最低要求
- 熟悉大語言模型概念和基於API的應用開發。
- 有使用REST API、JSON和提示驅動應用工作流的經驗。
- 具備Python、JavaScript或類似語言的中級編程經驗。
受衆
- 構建LLM驅動應用的軟件開發人員。
- 設計基於OpenAI解決方案的AI工程師和技術負責人。
- 負責生產AI功能的產品團隊和解決方案架構師。
7 小時
