使用Ollama部署及最佳化大型語言模型培訓
Ollama提供了一種有效的方式,用於在本地或生產環境中部署和運行大型語言模型(LLM),讓您可以掌控效能、成本與安全性。
此課程由講師帶領並現場實施(線上或線下),旨在幫助具備中等水平專業技能的從業人員,學習如何使用Ollama部署、最佳化及整合LLM。
完成培訓後,參與者將能夠:
- 使用Ollama設置並部署大型語言模型。
- 針對效能和效率最佳化AI模型。
- 利用GPU加速提升推理速度。
- 將Ollama整合至工作流程與應用程式中。
- 監控並維持AI模型的長期效能。
課程形式
- 互動式講授及討論。
- 大量的練習和實作。
- 在實驗室環境中進行實作演練。
課程自訂選項
- 如需針對此課程要求自訂培訓,請聯繫我們安排。
課程簡介
介紹使用Ollama部署LLM
- Ollama功能概覽
- 本地AI模型部署的優勢
- 與雲端AI託管方案的比較
設置部署環境
- 安裝Ollama及所需依賴項
- 配置硬體及GPU加速
- 將Ollama容器化以實現可擴展的部署
使用Ollama部署LLM
- 加載及管理AI模型
- 部署Llama 3、DeepSeek、Mistral及其他模型
- 建立API及端點以存取AI模型
最佳化LLM效能
- 微調模型以提升效率
- 降低延遲並提升回應時間
- 管理記憶體及資源分配
將Ollama整合至AI工作流程
- 將Ollama連接至應用程式與服務
- 自動化AI驅動的流程
- 在邊緣運算環境中使用Ollama
監控及維護
- 追蹤效能並除錯問題
- 更新及管理AI模型
- 確保AI部署中的安全性與合規性
擴展AI模型部署
- 處理高負載的最佳實務
- 為企業用例擴展Ollama
- 本地AI模型部署的未來發展
總結及後續步驟
最低要求
- 具備機器學習和AI模型的基本經驗
- 熟悉命令列介面及腳本
- 了解部署環境(本地、邊緣、雲端)
目標受眾
- 最佳化本地和雲端AI部署的AI工程師
- 部署及微調LLM的機器學習從業者
- 管理AI模型整合的DevOps專家
需要幫助選擇合適的課程嗎?
macao@nobleprog.com 或 +852 81990613
使用Ollama部署及最佳化大型語言模型培訓 - 詢問
使用Ollama部署及最佳化大型語言模型 - 咨詢詢問
相關課程
進階 Ollama 模型除錯與評估
35 小時使用 Ollama 構建私有 AI 工作流程
14 小時這項在 澳門(線上或線下)進行的講師主導實時培訓,旨在面向希望利用 Ollama 實施安全高效的 AI 驅動工作流程的高級專業人士。
在本課程結束時,參與者將能夠:
- 部署和配置 Ollama 以進行私有 AI 處理。
- 將 AI 模型集成到企業安全工作流程中。
- 在保持數據隱私的同時優化 AI 性能。
- 利用本地 AI 功能自動化業務流程。
- 確保符合企業安全和治理政策。
在Ollama上微調和自訂AI模型
14 小時這項在澳門(線上或線下)舉辦、由講師指導的即時培訓,旨在服務那些希望透過在Ollama上微調和自訂AI模型以增強效能及應用於特定領域的高階專業人士。
完成本課程後,學員將能夠:
- 建立高效的環境以在Ollama上微調AI模型。
- 準備用於監督式微調和強化學習的資料集。
- 優化AI模型的效能、準確性和效率。
- 在生產環境中部署自訂模型。
- 評估模型改進情況並確保其穩定性。
使用 Ollama 打造多模態應用程式
21 小時入門 Ollama:運行本地 AI 模型
7 小時此課程由講師指導進行實戰培訓(線上或線下),主要面向初級專業人士,幫助他們安裝、配置和使用 Ollama 在本地機器上運行 AI 模型。
完成本課程後,學員將能夠:
- 理解 Ollama 的基本概念及其功能。
- 設置 Ollama 以運行本地 AI 模型。
- 使用 Ollama 部署並與 LLMs 進行互動。
- 優化 AI 工作負載的性能和資源使用情況。
- 探索各行业中本地 AI 部署的案例。
Ollama 與數據隱私:安全部署模式
14 小時Ollama 在金融領域的應用
14 小時這門在 澳門 進行的授課式實地培訓,旨在賦予金融從業人員及資訊技術人員在本地實施 Ollama 的技能。學員將學習如何部署、配置並將大型語言模型整合至安全的金融工作流程中,同時應用合規與自動化的最佳實踐。
Ollama在醫療領域的應用
14 小時這門在 澳門 舉行的實地培訓,協助醫療專業人員和 IT 團隊部署 Ollama 以運行本地 LLM。學習如何將 AI 整合到臨床工作流程中,針對特定任務定製模型,並在安全的醫療環境中確保嚴格的数据隱私和法規遵循。
Ollama:取代 OpenAI 和 Claude API 的自托管大型語言模型
14 小時Ollama 是一款開源工具,可在消費級和企業級硬體上本地運行大型語言模型。它將模型量化、GPU 分配和 API 服務抽象化為單一命令列介面,使組織能夠自托管 Llama、Mistral 和 Qwen 等 LLM,而無需將提示或數據發送給 OpenAI、Anthropic 或 Google。