聯繫我們
 課程時長 21 時間:

課程簡介

第一天 - 人工神經網絡

簡介與 ANN 結構

  • 生物神經元與人工神經元
  • ANN 的數學模型
  • ANN 中使用的激活函數
  • 典型的網絡架構分類

數學基礎與學習機制

  • 向量與矩陣代數復習
  • 狀態空間概念
  • 優化概念
  • 誤差校正學習
  • 基於記憶的學習
  • 赫布學習(Hebbian learning)
  • 競爭學習

單層感知器

  • 感知器的結構與學習過程
  • 模式分類器簡介及貝葉斯分類器
  • 作為模式分類器的感知器
  • 感知器的收斂性
  • 感知器的局限性

前饋人工神經網絡

  • 多層前饋網絡的結構
  • 反向傳播算法
  • 反向傳播:訓練與收斂
  • 利用反向傳播進行函數逼近
  • 反向傳播學習中的實務與設計議題

徑向基函數網絡(RBF)

  • 模式可分性與插值
  • 正規化理論
  • 正規化與 RBF 網絡
  • RBF 網絡的設計與訓練
  • RBF 的逼近特性

競爭學習與自組織人工神經網絡

  • 通用聚類程序
  • 學習向量量化(LVQ)
  • 競爭學習算法與架構
  • 自組織特徵圖
  • 特徵圖的特性

模糊神經網絡

  • 神經模糊系統
  • 模糊集合與邏輯背景
  • 模糊系統的設計
  • 模糊 ANN 的設計

應用場景

  • 討論若干神經網絡應用案例,分析其優勢與面臨的問題

第二天 - 機器學習

  • PAC 學習框架
    • 有限假設集合的保证 – 一致情況
    • 有限假設集合的保证 – 非一致情況
    • 通用性
      • 確定性場景 vs. 隨機性場景
      • 貝葉斯誤差與噪聲
      • 估計誤差與逼近誤差
      • 模型選擇
  • Rademacher 複雜度與 VC 維度
  • 偏差-變量權衡(Bias-Variance Tradeoff)
  • 正規化
  • 過擬合
  • 驗證
  • 支持向量機(SVM)
  • Kriging(高斯過程迴歸)
  • PCA 與核 PCA
  • 自組織圖(SOM)
  • 核誘導向量空間
    • Mercer 核與核誘導相似性度量
  • 強化學習

第三天 - 深度學習

本部分內容將結合第一天的 ANN 與第二天的機器學習主題進行講解

  • Logistic 與 Softmax 迴歸
  • 稀疏自動編碼器(Sparse Autoencoders)
  • 向量化、PCA 與白化(Whitening)
  • 自教導學習(Self-Taught Learning)
  • 深度網絡
  • 線性解碼器(Linear Decoders)
  • 卷積與池化(Convolution and Pooling)
  • 稀疏編碼(Sparse Coding)
  • 獨立成分分析(ICA)
  • 典型相關分析(CCA)
  • 演示與應用

最低要求

需具備良好的數學基礎。

需具備良好的基礎統計學知識。

雖非強制要求,但建議具備基礎編程技能。

客戶評論 (2)

即將到來的課程

課程分類