Ollama:取代 OpenAI 和 Claude API 的自托管大型語言模型培訓
Ollama 是一款開源工具,可在消費級和企業級硬體上本地運行大型語言模型。它將模型量化、GPU 分配和 API 服務抽象化為單一命令列介面,使組織能夠自托管 Llama、Mistral 和 Qwen 等 LLM,而無需將提示或數據發送給 OpenAI、Anthropic 或 Google。
這項由導師主導的現場培訓(線上或線下)面向希望使用 Ollama 用自托管的主權語言模型推理取代雲端 LLM API 的中級 AI 工程師和平台運營人員。
完成此培訓後,學員將能夠:
- 在支援 GPU 的 Linux、macOS 和 Windows 上安裝 Ollama。
- 從 Ollama 註冊表和 HuggingFace 拉取、量化並服務模型。
- 構建包含系統提示和參數調優的自定義 Modelfile。
- 通過與 OpenAI 兼容的 API 將本地 LLM 集成到應用程序中。
- 優化僅 CPU 和多 GPU 設置的推理性能。
課程形式
- 互動式講座和討論。
- 大量的練習和實踐。
- 在實時實驗室環境中進行動手實施。
課程定制選項
- 如需為本課程申請定制化培訓,請聯繫我們以安排。
課程簡介
AI 主權與 LLM 本地部署
- 雲端 LLM 的風險:數據保留、基於輸入訓練、外國管轄權。
- Ollama 架構:模型服務器、註冊表及與 OpenAI 兼容的 API。
- 與 vLLM、llama.cpp 和 Text Generation Inference 的比較。
- 模型許可證:Llama、Mistral、Qwen 和 Gemma 的條款。
安裝與硬體設置
- 在支援 CUDA 和 ROCm 的 Linux 上安裝 Ollama。
- 僅 CPU 的回退方案及 AVX/AVX2 優化。
- Docker 部署與持久化卷映射。
- 多 GPU 設置與 VRAM 分配策略。
模型管理
- 從 Ollama 註冊表拉取模型:ollama pull llama3。
- 從 HuggingFace 和 TheBloke 導入 GGUF 模型。
- 量化級別:Q4_K_M、Q5_K_M、Q8_0 的權衡。
- 模型切換與並發加載模型的限制。
自定義 Modelfile
- 編寫 Modelfile 語法:FROM、PARAMETER、SYSTEM、TEMPLATE。
- 溫度、top_p 和 repeat_penalty 調優。
- 針對角色特定行為的系統提示工程。
- 創建並發布自定義模型至本地註冊表。
API 集成
- 與 OpenAI 兼容的 /v1/chat/completions 端點。
- 流式響應和 JSON 模式。
- 與 LangChain、LlamaIndex 及自定義應用程序集成。
- 通過反向代理進行身份驗證和速率限制。
性能優化
- 上下文窗口大小調整與 KV 緩存管理。
- 批量推理與並行請求處理。
- CPU 線程分配與 NUMA 感知。
- 監控 GPU 利用率與內存壓力。
安全與合規
- 模型服務端點的網絡隔離。
- 輸入過濾與輸出審核管道。
- 提示和完成的審計日誌記錄。
- 模型溯源與哈希驗證。
最低要求
- 中間級 Linux 和容器管理知識。
- 高級層面對機器學習和變換器模型的理解。
- 熟悉 REST API 和 JSON。
受眾
- 替換雲端 LLM API 的 AI 工程師和開發人員。
- 因數據敏感性而無法使用雲端模型的組織。
- 需要物理隔離語言模型的情報和國防團隊。
需要幫助選擇合適的課程嗎?
macao@nobleprog.com 或 +852 81990613
Ollama:取代 OpenAI 和 Claude API 的自托管大型語言模型培訓 - 詢問
Ollama:取代 OpenAI 和 Claude API 的自托管大型語言模型 - 咨詢詢問
相關課程
進階 Ollama 模型除錯與評估
35 小時使用 Ollama 構建私有 AI 工作流程
14 小時這項在 澳門(線上或線下)進行的講師主導實時培訓,旨在面向希望利用 Ollama 實施安全高效的 AI 驅動工作流程的高級專業人士。
在本課程結束時,參與者將能夠:
- 部署和配置 Ollama 以進行私有 AI 處理。
- 將 AI 模型集成到企業安全工作流程中。
- 在保持數據隱私的同時優化 AI 性能。
- 利用本地 AI 功能自動化業務流程。
- 確保符合企業安全和治理政策。
使用Ollama部署及最佳化大型語言模型
14 小時此澳門課程由講師帶領並現場實施(線上或線下),旨在幫助具備中等水平專業技能的從業人員,學習如何使用Ollama部署、最佳化及整合LLM。
完成培訓後,參與者將能夠:
- 使用Ollama設置並部署大型語言模型。
- 針對效能和效率最佳化AI模型。
- 利用GPU加速提升推理速度。
- 將Ollama整合至工作流程與應用程式中。
- 監控並維持AI模型的長期效能。
EXO:端到端本地 AI 集群部署
21 小時本課程在 澳門 提供(線上或線下 Live 培訓),旨在幫助希望為多個 Apple Silicon 或 Linux 節點部署、配置和管理 EXO 集群以進行私有 LLM 推理的系統管理員和 DevOps 工程師。
EXO for DevOps:建構私有 AI 基礎設施
21 小時此在 澳門(線上或線下)提供的現場講授實時培訓,主要針對希望自動化配置、監控和管理基於 EXO 建構的私有 AI 叢集生命週期的 DevOps 工程師和基礎架構架構師。
EXO 安全性與治理:離線模型管理
14 小時這項在 澳門 的導師指導即時培訓(線上或線下),旨在幫助希望強化 EXO 部署、控制模型存取,並治理完全在本地運行的人工智慧工作負載的安全工程師和合規官。
在Ollama上微調和自訂AI模型
14 小時這項在澳門(線上或線下)舉辦、由講師指導的即時培訓,旨在服務那些希望透過在Ollama上微調和自訂AI模型以增強效能及應用於特定領域的高階專業人士。
完成本課程後,學員將能夠:
- 建立高效的環境以在Ollama上微調AI模型。
- 準備用於監督式微調和強化學習的資料集。
- 優化AI模型的效能、準確性和效率。
- 在生產環境中部署自訂模型。
- 評估模型改進情況並確保其穩定性。
安全的本地協作式AI:受監管產業的私有Ollama開發
21 小時本在澳門(線上或線下)提供的講師親自指導培訓,主要對象為希望使用Ollama和開放模型,在內部基礎設施上建置並運行私人協作式AI解決方案之開發人員和技術團隊。
完成本培訓後,學員將能夠:安裝並設定Ollama、評估並在本地運行開放模型、建立簡單的協作式及檢索型工作流程,並為受監管環境實施安全與治理控制措施。
使用 Ollama 打造多模態應用
21 小時入門 Ollama:運行本地 AI 模型
7 小時此課程由講師指導進行實戰培訓(線上或線下),主要面向初級專業人士,幫助他們安裝、配置和使用 Ollama 在本地機器上運行 AI 模型。
完成本課程後,學員將能夠:
- 理解 Ollama 的基本概念及其功能。
- 設置 Ollama 以運行本地 AI 模型。
- 使用 Ollama 部署並與 LLMs 進行互動。
- 優化 AI 工作負載的性能和資源使用情況。
- 探索各行业中本地 AI 部署的案例。
Ollama 與數據隱私:安全部署模式
14 小時Ollama 在金融領域的應用
14 小時這門在 澳門 進行的授課式實地培訓,旨在賦予金融從業人員及資訊技術人員在本地實施 Ollama 的技能。學員將學習如何部署、配置並將大型語言模型整合至安全的金融工作流程中,同時應用合規與自動化的最佳實踐。
Ollama在醫療領域的應用
14 小時這門在 澳門 舉行的實地培訓,協助醫療專業人員和 IT 團隊部署 Ollama 以運行本地 LLM。學習如何將 AI 整合到臨床工作流程中,針對特定任務定製模型,並在安全的醫療環境中確保嚴格的数据隱私和法規遵循。
Ollama 負責任 AI 與治理
14 小時監管機構組織的主權AI:控制數據、模型與推理環境
7 小時這門於澳門舉辦的講師指導培訓課程(線上或線下),目標受眾為初級至中階的IT領導者、合規專業人員、安全團隊和企業架構師。他們希望運用主權AI原則與治理實踐,設計能保護敏感數據、支持本地化合規要求,並降低供應商鎖定風險的AI環境。
完成本培訓後,參與者將能夠:解釋主權AI概念,評估託管與治理選項,定義提示詞與日誌的控制措施,並創建實用的採用路線圖。