聯繫我們

課程簡介

安全本地AI基礎

  • 了解在受監管環境中本地和本地部署AI的含義
  • 雲端AI與內部部署用於敏感負載的對比
  • 私有助手和工作流支持的常見企業用例
  • 安全本地AI架構的核心組件

Ollama與開放模型基礎

  • Ollama如何融入本地開發棧
  • 拉取、運行和管理本地模型
  • 根據規模、質量、硬件和許可證選擇模型
  • 將模型選項匹配到實際業務任務

準備內部部署環境

  • 主機、工作站和服务器的準備工作
  • 安裝並配置Ollama以用於本地推理
  • 使用容器和內部開發工具
  • 驗證API訪問和基本運行準備情況

有效使用本地模型

  • 運行提示詞,並通過系統指令塑造輸出結果
  • 重用模板以確保企業任務的一致性
  • 管理模型版本和內部構建物
  • CPU和GPU部署的基本性能調優

構建實用的智能體工作流

  • 在受控環境中,使工作流具備智能體特徵的要素
  • 簡單的規劃、工具使用和響應循環模式
  • 為內部運營設計任務導向型助手
  • 添加人工審核、備用邏輯和錯誤處理機制

私有檢索工作流

  • 用於內部知識訪問的檢索增強生成基礎
  • 為分塊、索引和搜索準備文檔
  • 將本地向量存儲庫連接到基於Ollama的應用程序
  • 通過改進檢索模式提高相關性和答案質量

安全、治理與合規實踐

  • 數據處理邊界和隱私考量
  • 訪問控制、日誌記錄和審計支持
  • 提示詞安全、輸出控制和防護欄
  • 受監管部署和運營的治理檢查點

企業集成模式

  • 通過內部API展示本地AI能力
  • 將助手與內部應用程序和服务集成
  • 支持助手、批處理和工作流自動化用例
  • 將解決方案保留在受控網絡邊界內

評估本地AI解決方案

  • 評估質量、可靠性和一致性
  • 針對業務、政策和安全性要求進行測試
  • 為特定企業任務比較模型選項
  • 為內部團隊建立實用的改進循環

實作實驗室

  • 使用Ollama和開放模型構建私有助手
  • 添加對批准內部文檔的檢索功能
  • 引入簡單的智能體動作和安全控制措施
  • 回顧部署、運營及治理檢查點

採用規劃與後續步驟

  • 回顧關鍵設計和部署決策
  • 識別受監管AI項目中的常見陷阱
  • 規劃試點用例並確保利益相關者達成共識
  • 制定安全本地AI採用的路線圖

最低要求

  • 具備AI概念和軟件開發的基本知識
  • 熟悉命令行工具、容器或本地開發環境
  • 具備基本的腳本編程或編程經驗

適用對象

  • 在內部基礎設施上構建私有AI解決方案的開發人員和技術團隊
  • 支持受監管環境中AI應用的安全、合規及平台專業人員
  • 金融、醫療保健、政府和國防領域評估本地部署AI採用的技術負責人
 21 小時

課程分類