Ollama:取代 OpenAI 和 Claude API 的自托管大型語言模型培訓
Ollama 是一款開源工具,可在消費級和企業級硬體上本地運行大型語言模型。它將模型量化、GPU 分配和 API 服務抽象化為單一命令列介面,使組織能夠自托管 Llama、Mistral 和 Qwen 等 LLM,而無需將提示或數據發送給 OpenAI、Anthropic 或 Google。
這項由導師主導的現場培訓(線上或線下)面向希望使用 Ollama 用自托管的主權語言模型推理取代雲端 LLM API 的中級 AI 工程師和平台運營人員。
完成此培訓後,學員將能夠:
- 在支援 GPU 的 Linux、macOS 和 Windows 上安裝 Ollama。
- 從 Ollama 註冊表和 HuggingFace 拉取、量化並服務模型。
- 構建包含系統提示和參數調優的自定義 Modelfile。
- 通過與 OpenAI 兼容的 API 將本地 LLM 集成到應用程序中。
- 優化僅 CPU 和多 GPU 設置的推理性能。
課程形式
- 互動式講座和討論。
- 大量的練習和實踐。
- 在實時實驗室環境中進行動手實施。
課程定制選項
- 如需為本課程申請定制化培訓,請聯繫我們以安排。
課程簡介
AI 主權與 LLM 本地部署
- 雲端 LLM 的風險:數據保留、基於輸入訓練、外國管轄權。
- Ollama 架構:模型服務器、註冊表及與 OpenAI 兼容的 API。
- 與 vLLM、llama.cpp 和 Text Generation Inference 的比較。
- 模型許可證:Llama、Mistral、Qwen 和 Gemma 的條款。
安裝與硬體設置
- 在支援 CUDA 和 ROCm 的 Linux 上安裝 Ollama。
- 僅 CPU 的回退方案及 AVX/AVX2 優化。
- Docker 部署與持久化卷映射。
- 多 GPU 設置與 VRAM 分配策略。
模型管理
- 從 Ollama 註冊表拉取模型:ollama pull llama3。
- 從 HuggingFace 和 TheBloke 導入 GGUF 模型。
- 量化級別:Q4_K_M、Q5_K_M、Q8_0 的權衡。
- 模型切換與並發加載模型的限制。
自定義 Modelfile
- 編寫 Modelfile 語法:FROM、PARAMETER、SYSTEM、TEMPLATE。
- 溫度、top_p 和 repeat_penalty 調優。
- 針對角色特定行為的系統提示工程。
- 創建並發布自定義模型至本地註冊表。
API 集成
- 與 OpenAI 兼容的 /v1/chat/completions 端點。
- 流式響應和 JSON 模式。
- 與 LangChain、LlamaIndex 及自定義應用程序集成。
- 通過反向代理進行身份驗證和速率限制。
性能優化
- 上下文窗口大小調整與 KV 緩存管理。
- 批量推理與並行請求處理。
- CPU 線程分配與 NUMA 感知。
- 監控 GPU 利用率與內存壓力。
安全與合規
- 模型服務端點的網絡隔離。
- 輸入過濾與輸出審核管道。
- 提示和完成的審計日誌記錄。
- 模型溯源與哈希驗證。
最低要求
- 中間級 Linux 和容器管理知識。
- 高級層面對機器學習和變換器模型的理解。
- 熟悉 REST API 和 JSON。
受眾
- 替換雲端 LLM API 的 AI 工程師和開發人員。
- 因數據敏感性而無法使用雲端模型的組織。
- 需要物理隔離語言模型的情報和國防團隊。
需要幫助選擇合適的課程嗎?
macao@nobleprog.com 或 +852 81990613
Ollama:取代 OpenAI 和 Claude API 的自托管大型語言模型培訓 - 詢問
Ollama:取代 OpenAI 和 Claude API 的自托管大型語言模型 - 咨詢詢問
相關課程
進階 Ollama 模型除錯與評估
35 小時進階 Ollama 模型除錯與評估是一門深度課程,專注於診斷、測試和測量在本地或專用 Ollama 部署中的模型行為。
這門由講師帶領的實訓課程(線上或線下)針對初級以上的 AI 工程師、ML Ops 專業人員及 QA 從業者,協助他們確保基於 Ollama 的模型在生產環境中的可靠性、保真度與運作準備就緒。
完成本課程後,學員將能夠:
- 對 Ollama 託管的模型進行系統性除錯,並可靠地重現故障模式。
- 設計並執行健壯的評估流程,包含定量與定性指標。
- 實施可觀測性(日誌、追蹤、指標),以監控模型健康狀況及偏移。
- 自動化測試、驗證以及回歸檢查,並整合至 CI/CD 流程中。
課程格式
- 互動式講座與討論。
- 使用 Ollama 部署進行實作實驗室及除錯練習。
- 案例研究、小組排障Session以及自動化工作坊。
課程客製化選項
- 如需為此課程申請客製化培訓,請聯絡我們安排。
使用 Ollama 構建私有 AI 工作流程
14 小時這項在 澳門(線上或線下)進行的講師主導實時培訓,旨在面向希望利用 Ollama 實施安全高效的 AI 驅動工作流程的高級專業人士。
在本課程結束時,參與者將能夠:
- 部署和配置 Ollama 以進行私有 AI 處理。
- 將 AI 模型集成到企業安全工作流程中。
- 在保持數據隱私的同時優化 AI 性能。
- 利用本地 AI 功能自動化業務流程。
- 確保符合企業安全和治理政策。
使用Ollama部署及最佳化大型語言模型
14 小時此澳門課程由講師帶領並現場實施(線上或線下),旨在幫助具備中等水平專業技能的從業人員,學習如何使用Ollama部署、最佳化及整合LLM。
完成培訓後,參與者將能夠:
- 使用Ollama設置並部署大型語言模型。
- 針對效能和效率最佳化AI模型。
- 利用GPU加速提升推理速度。
- 將Ollama整合至工作流程與應用程式中。
- 監控並維持AI模型的長期效能。
EXO:端到端本地 AI 集群部署
21 小時本課程在 澳門 提供(線上或線下 Live 培訓),旨在幫助希望為多個 Apple Silicon 或 Linux 節點部署、配置和管理 EXO 集群以進行私有 LLM 推理的系統管理員和 DevOps 工程師。
EXO for DevOps:建構私有 AI 基礎設施
21 小時此在 澳門(線上或線下)提供的現場講授實時培訓,主要針對希望自動化配置、監控和管理基於 EXO 建構的私有 AI 叢集生命週期的 DevOps 工程師和基礎架構架構師。
EXO 安全性與治理:離線模型管理
14 小時這項在 澳門 的導師指導即時培訓(線上或線下),旨在幫助希望強化 EXO 部署、控制模型存取,並治理完全在本地運行的人工智慧工作負載的安全工程師和合規官。
在Ollama上微調和自訂AI模型
14 小時這項在澳門(線上或線下)舉辦、由講師指導的即時培訓,旨在服務那些希望透過在Ollama上微調和自訂AI模型以增強效能及應用於特定領域的高階專業人士。
完成本課程後,學員將能夠:
- 建立高效的環境以在Ollama上微調AI模型。
- 準備用於監督式微調和強化學習的資料集。
- 優化AI模型的效能、準確性和效率。
- 在生產環境中部署自訂模型。
- 評估模型改進情況並確保其穩定性。
安全的本地協作式AI:受監管產業的私有Ollama開發
21 小時本在澳門(線上或線下)提供的講師親自指導培訓,主要對象為希望使用Ollama和開放模型,在內部基礎設施上建置並運行私人協作式AI解決方案之開發人員和技術團隊。
完成本培訓後,學員將能夠:安裝並設定Ollama、評估並在本地運行開放模型、建立簡單的協作式及檢索型工作流程,並為受監管環境實施安全與治理控制措施。
使用 Ollama 打造多模態應用程式
21 小時Ollama 是一個平台,可讓您在本地端運行並微調大型語言模型與多模態模型。
本課程由講師親自授課(提供線上或線下選項),旨在幫助進階機器學習工程師、AI 研究者與產品開發人員,掌握使用 Ollama 打造及部署多模態應用程式的技術。
完成本培訓後,學員將能:
- 設定並運行基於 Ollama 的多模態模型。
- 整合文字、影像及音訊輸入,以應用於真實場景。
- 構建文檔理解與視覺問答系統。
- 開發具備跨模態推理能力的多模態智能體。
課程格式
- 互動式講授與討論。
- 使用真實多模態數據集的實作練習。
- 透過 Ollama 即時演練多模態管線的實作環節。
課程客製化選項
- 如需為本課程申請客製化培訓,請與我們聯繫以便安排。
入門 Ollama:運行本地 AI 模型
7 小時此課程由講師指導進行實戰培訓(線上或線下),主要面向初級專業人士,幫助他們安裝、配置和使用 Ollama 在本地機器上運行 AI 模型。
完成本課程後,學員將能夠:
- 理解 Ollama 的基本概念及其功能。
- 設置 Ollama 以運行本地 AI 模型。
- 使用 Ollama 部署並與 LLMs 進行互動。
- 優化 AI 工作負載的性能和資源使用情況。
- 探索各行业中本地 AI 部署的案例。
Ollama 與數據隱私:安全部署模式
14 小時Ollama 是一個平台,允許在本地運行大型語言和多模態模型,同時支援安全的部署策略。
這門由講師主導的現場培訓(線上或線下)針對希望以強化的數據隱私和法規合規措施部署 Ollama 的中級專業人士。
完成本課程後,學員將能夠:
- 在容器化和本地環境中安全部署 Ollama。
- 應用差分隱私技術以保護敏感數據。
- 實施安全的日誌記錄、監控和審計實踐。
- 執行符合合規要求的数据訪問控制。
課程形式
- 互動式講座與討論。
- 涉及安全部署模式的實作實驗室。
- 以合規為重點的案例研究及實用練習。
課程客製化選項
- 如需為本課程申請定制培訓,請聯繫我們進行安排。
Ollama 在金融領域的應用
14 小時Ollama 是一個輕量級平台,用於在本地運行大型語言模型。
這門由講師主導的現場培訓(線上或線下)旨在為希望實施、定制並在金融環境中運營基於 Ollama 的人工智能解決方案的中等水平金融從業者和 IT 人員設計。
完成本培訓後,參與者將獲得所需的技能,包括:
- 部署和配置 Ollama,以確保金融業務的安全使用。
- 將本地大型語言模型整合到分析和報告工作流程中。
- 調整模型以適應金融特定術語和任務。
- 應用安全、隱私和合規的最佳實踐。
課程格式
- 互動式講座與討論。
- 實戰金融數據練習。
- 針對金融場景的實操實驗室實施。
課程定制選項
- 如需為此課程申請定制培訓,請聯繫我們安排。
Ollama 在醫療保健領域的應用
14 小時Ollama 是一個輕量級平台,用於在本地運行大型語言模型。
這項由講師引導的實時培訓(線上或線下)面向希望臨床和行政環境中部署、定制並運營基於 Ollama 的 AI 解決方案的初級醫療保健從業人員及 IT 團隊。
完成此培訓後,參與者將能夠:
- 安裝並配置 Ollama 以確保其在醫療環境中的安全使用。
- 將本地 LLMs 集成到臨床工作流程和管理流程中。
- 為醫療保健特定術語和任務定制模型。
- 應用隱私、安全和監管合規的最佳實踐。
課程形式
- 互動式講座與討論。
- 實戰演示及引導練習。
- 在沙盒模擬的醫療環境中進行實際部署。
課程定制選項
- 如需為該課程提出定制培訓需求,請聯繫我們安排。
Ollama用於負責任的AI與治理
14 小時Ollama是一個平台,用於在本地運行大型語言模型和多模態模型,支持治理和負責任的AI實踐。
這門由講師指導的培訓課程(線上或線下)面向中級至高級專業人士,旨在幫助他們在基於Ollama的應用程序中實施公平性、透明度和問責制。
完成本培訓後,參與者將能夠:
- 在Ollama部署中應用負責任的AI原則。
- 實施內容過濾和偏見減輕策略。
- 設計用於AI對齊和可審計性的治理工作流程。
- 建立合規性的監控和報告框架。
課程形式
- 互動式講座與討論。
- 實戰治理工作流程設計練習。
- 案例研究及聚焦合規的練習。
課程自定義選項
- 如需為本課程申請自定義培訓,請聯繫我們以進行安排。
監管機構組織的主權AI:控制數據、模型與推理環境
7 小時這門於澳門舉辦的講師指導培訓課程(線上或線下),目標受眾為初級至中階的IT領導者、合規專業人員、安全團隊和企業架構師。他們希望運用主權AI原則與治理實踐,設計能保護敏感數據、支持本地化合規要求,並降低供應商鎖定風險的AI環境。
完成本培訓後,參與者將能夠:解釋主權AI概念,評估託管與治理選項,定義提示詞與日誌的控制措施,並創建實用的採用路線圖。