聯繫我們

課程簡介

Ollama 用於 LLM 部署的簡介

  • Ollama 功能概覽
  • 本地 AI 模型部署的優勢
  • 與雲端 AI 託管方案的比較

設置部署環境

  • 安裝 Ollama 及必要依賴項
  • 配置硬體和 GPU 加速
  • 將 Ollama Docker 化以實現可擴展部署

使用 Ollama 部署 LLM

  • 加載和管理 AI 模型
  • 部署 Llama 3、DeepSeek、Mistral 及其他模型
  • 為 AI 模型訪問創建 API 和端點

優化 LLM 效能

  • 微調模型以提高效率
  • 降低延遲並提升響應速度
  • 管理記憶體和資源分配

將 Ollama 整合至 AI 工作流程

  • 將 Ollama 連接至應用程序和服務
  • 自動化 AI 驅動的流程
  • 在邊緣計算環境中使用 Ollama

監控與維護

  • 追蹤效能並調試問題
  • 更新和管理 AI 模型
  • 確保 AI 部署的安全性與合規性

擴展 AI 模型部署

  • 處理高負載的最佳實踐
  • 為企業用例擴展 Ollama
  • 本地 AI 模型部署的未來進展

總結與下一步

最低要求

  • 具備機器學習和 AI 模型的基礎經驗
  • 熟悉命令行界面和腳本編程
  • 理解部署環境(本地、邊緣、雲端)

受眾

  • 優化本地及雲端 AI 部署的 AI 工程師
  • 部署和微調 LLM 的機器學習從業者
  • 管理 AI 模型整合的 DevOps 專家
 14 小時

人數


每位參與者的報價

即將到來的課程

課程分類