聯繫我們

課程簡介

介紹 Ollama

  • Ollama 是什麼?它是如何運作的?
  • 在本地運行 AI 模型的好處。
  • 支持的 LLMs 概覽(如 Llama, DeepSeek, Mistral 等)。

安裝與設置 Ollama

  • 系統需求與硬體考量。
  • 在不同作業系統上安裝 Ollama。
  • 配置依賴項與環境設置。

在本地運行 AI 模型

  • 下載並在 Ollama 中加載 AI 模型。
  • 通過命令行與模型進行互動。
  • 針對本地 AI 任務的基本提示工程技巧。

優化性能與資源使用

  • 管理硬體資源以實現高效的 AI 執行。
  • 降低延遲並提升模型回應速度。
  • 對不同模型進行性能基準測試。

本地 AI 部署的應用案例

  • AI 驅動的聊天機器人和虛擬助手。
  • 數據處理與自動化任務。
  • 注重隱私的 AI 應用程序。

總結與下一步行動

最低要求

  • 對 AI 和機器學習概念有基本了解。
  • 熟悉命令行界面。

適合對象

  • 希望在不依賴雲端的情況下運行 AI 模型的開發者。
  • 關注 AI 隱私及具有成本效益部署的商務專業人士。
  • 探索本地模型部署的 AI 愛好者。
 7 小時

課程分類