感謝您提交詢問!我們的一位團隊成員將在短時間內與您聯繫。
感謝您提交預訂!我們的一位團隊成員將在短時間內與您聯繫。
課程簡介
混合式 AI 部署基礎
- 理解混合式、雲端與邊緣部署模型
- AI 負載特性與基礎架構限制
- 選擇合適的部署拓撲結構
使用 Docker 容器化 AI 負載
- 建構 GPU 與 CPU 推論容器
- 管理安全映像檔與登錄檔
- 建立可重複的 AI 環境
將 AI 服務部署至雲端環境
- 透過 Docker 在 AWS、Azure 及 GCP 上執行推論
- 為模型服務配置雲端運算資源
- 保護基於雲端的 AI 端點
邊緣與本地部署技術
- 在物聯網裝置、閘道器及微型伺服器上運行 AI
- 適用於邊緣環境的輕量級執行階段
- 管理間歇性連線狀態與本地持久化儲存
混合式網路與安全連線
- 建立邊緣與雲端間的安全隧道
- 憑證、機密金鑰與基於權杖的存取控制
- 針對低延遲推論進行效能調校
編排分散式 AI 部署
- 使用 K3s、K8s 或輕量級編排工具設定混合架構
- 服務發現與負載排程
- 自動化多地點展開策略
跨環境監控可觀測性
- 追蹤各站點的推論效能
- 混合式 AI 系統的集中式日誌記錄
- 故障偵測與自動化復原
縮放與優化混合式 AI 系統
- 縮放邊緣叢集與雲端節點
- 優化頻寬使用率與快取機制
- 平衡雲端與邊緣間的運算負載
總結與下一步行動
最低要求
- 理解容器化的基本概念
- 具備 Linux 命令列操作經驗
- 熟悉 AI 模型部署工作流程
受眾
- 基礎架構架構師
- 網站可靠性工程師 (SREs)
- 邊緣運算與物聯網開發人員
21 小時
客戶評論 (3)
培訓師如何如此有效地傳授知識
Vu Thoai Le - Reply Polska sp. z o. o.
課程 - Certified Kubernetes Administrator (CKA) - exam preparation
機器翻譯
培訓師知識淵博,耐心地向我們分享了很多內容
Bogdan Olaru
課程 - Introduction to Docker
機器翻譯
與Augustin的知識交流
Laurent - L'Office national des vacances annuelles (ONVA)
課程 - Docker and Kubernetes
機器翻譯