聯繫我們
 課程時長 21 時間:

課程簡介

第一天 - 人工神經網絡

簡介與ANN結構。

  • 生物神經元與人工神經元。
  • ANN模型。
  • ANN中使用的激活函數。
  • 典型的網絡架構類別。

數學基礎與學習機制。

  • 復習向量與矩陣代數。
  • 狀態空間概念。
  • 優化概念。
  • 誤差校正學習。
  • 基於記憶的學習。
  • 赫布學習(Hebbian learning)。
  • 競爭學習。

單層感知器。

  • 感知器的結構與學習。
  • 模式分類器 - 簡介與貝葉斯分類器。
  • 作為模式分類器的感知器。
  • 感知器收斂。
  • 感知器的局限性。

前饋ANN。

  • 多層前饋網絡的結構。
  • 反向傳播算法。
  • 反向傳播 - 訓練與收斂。
  • 利用反向傳播進行函數近似。
  • 反向傳播學習的實踐與設計問題。

徑基函數網絡(RBF)。

  • 模式可分性與內插。
  • 正則化理論。
  • 正則化與RBF網絡。
  • RBF網絡的設計與訓練。
  • RBF的近似性質。

競爭學習與自組織ANN。

  • 一般的聚類程序。
  • 學習矢量量化(LVQ)。
  • 競爭學習算法與架構。
  • 自組織特徵圖。
  • 特徵圖的性質。

模糊神經網絡。

  • 神經模糊系統。
  • 模糊集合與邏輯背景。
  • 模糊系統設計。
  • 模糊ANN設計。

應用

  • 討論幾個神經網絡應用的實例、其優點及面臨的問題。

第二天 - 機器學習

  • PAC學習框架
    • 有限假設集合的保證 – 一致情況
    • 有限假設集合的保證 – 不一致情況
    • 通用性
      • 確定性 vs. 隨機性場景
      • 貝葉斯誤差噪聲
      • 估計與近似誤差
      • 模型選擇
  • Rademacher複雜度與VC維度
  • 偏差-方差權衡
  • 正則化
  • 過擬合
  • 驗證
  • 支持向量機(SVM)
  • 克里金法(高斯過程回歸)
  • PCA與核PCA
  • 自組織圖(SOM)
  • 核誘導向量空間
    • Mercer核與核誘導相似度度量
  • 強化學習

第三天 - 深度學習

本課程內容將結合第一天和第二天所涵蓋的主題進行講解

  • Logistic回歸與Softmax回歸
  • 稀疏自動編碼器
  • 向量化、PCA與白化
  • 自學學習(Self-Taught Learning)
  • 深度網絡
  • 線性解碼器
  • 卷積與池化
  • 稀疏編碼
  • 獨立成分分析
  • 典型相關分析
  • 演示與應用

最低要求

對數學有紮實的理解。

對基礎統計學有良好的掌握。

雖然不要求具備基本編程技能,但建議擁有相關基礎。

客戶評論 (2)

課程分類