感謝您提交詢問!我們的一位團隊成員將在短時間內與您聯繫。
感謝您提交預訂!我們的一位團隊成員將在短時間內與您聯繫。
課程簡介
生產環境部署介紹
- 微調模型部署的關鍵挑戰
- 開發環境與生產環境的差異
- 模型部署的工具與平台
為部署準備模型
- 以標準格式匯出模型(ONNX、TensorFlow SavedModel 等)
- 最佳化模型的延遲與吞吐量
- 在極端案例與真實資料上測試模型
模型部署的容器化
- Docker 介紹
- 為機器學習模型建立 Docker 映像檔
- 容器安全性與效能的最佳實踐
使用 Kubernetes 擴展部署
- Kubernetes 對 AI 工作負載的介紹
- 設定用於模型託管的 Kubernetes 集群
- 負載平衡與水平擴展
模型監控與維護
- 使用 Prometheus 和 Grafana 實施監控
- 自動化日誌記錄以追蹤錯誤與效能
- 用於模型漂移與更新的重新訓練管線
確保生產環境的安全性
- 保護模型推理的 API
- 身分驗證與授權機制
- 解決資料隱私疑慮
案例研究與實作實驗室
- 部署情感分析模型
- 擴展機器翻譯服務
- 為影像分類模型實施監控
總結與後續步驟
最低要求
- 具備鞏固的機器學習工作流程理解
- 擁有微調機器學習模型的經驗
- 熟悉 DevOps 或 MLOps 原則
受眾
- DevOps 工程師
- MLOps 從業者
- AI 部署專家
21 小時
客戶評論 (2)
Craig在培訓中非常投入,始終確保我們保持專注,將示例調整到我們的日常活動中,並在被提問時總是提供答案,即使信息未在演示中提及。
Ecaterina Ioana Nicoale - BOOKING HOLDINGS ROMANIA SRL
課程 - DevOps Foundation®
機器翻譯
培訓師的高度承諾和專業知識
Jacek - Softsystem
課程 - DevOps Engineering Foundation (DOEF)®
機器翻譯