課程簡介

Devstral和Mistral模型簡介

  • Mistral開源模型概述
  • Apache-2.0許可及企業採用
  • Devstral在編碼和代理工作流中的作用

自託管Mistral和Devstral模型

  • 環境準備和基礎設施選擇
  • 使用Docker/Kubernetes進行容器化和部署
  • 生產環境中的擴展考慮

微調技術

  • 監督微調與參數高效微調
  • 數據集準備和清理
  • 領域定製示例

模型運維與版本控制

  • 模型生命週期管理的最佳實踐
  • 模型版本控制和回滾策略
  • 機器學習模型的CI/CD流水線

治理與合規

  • 開源部署的安全考慮
  • 企業環境中的監控與審計
  • 合規框架與負責任的人工智能實踐

監控與可觀測性

  • 跟蹤模型漂移和準確性下降
  • 推理性能的儀表化
  • 告警與響應工作流

案例研究與最佳實踐

  • Mistral和Devstral採用的行業用例
  • 成本、性能與控制之間的平衡
  • 開源模型運維的經驗教訓

總結與下一步

最低要求

  • 瞭解機器學習工作流程
  • 具備基於Python的ML框架經驗
  • 熟悉容器化和部署環境

受衆

  • ML工程師
  • 數據平臺團隊
  • 研究工程師
 14 時間:

課程分類