課程簡介

第 1 部分 – Deep Learning 和 DNN 概念

簡介 AI, Machine Learning & Deep Learning

    人工智慧的歷史、基本概念和通常應用遠非該領域所承載的幻想 集體智慧:聚合許多虛擬代理共用的知識 遺傳演算法:通過選擇進化出虛擬代理群體 常用學習機:定義。 任務類型:監督學習、無監督學習、強化學習 操作類型:分類、回歸、聚類、密度估計、降維 機器學習演算法示例:線性回歸、樸素貝葉斯、隨機樹 機器學習 VS 深度學習:機器學習仍然是當今最先進的問題(Random Forest s 和 XGBoosts)

 

神經網路的基本概念(應用:多層感知器)

    數學基礎的提醒。 神經元網路的定義:經典架構、啟動和 先前啟動的權重,網路深度 神經元網路學習的定義:成本、反向傳播、隨機梯度下降、 最大似然的函數。 神經網路建模:根據 問題的類型(回歸、分類......維度的詛咒。 多特徵數據和信號的 區別。根據數據選擇成本函數。 神經元網路對函數的近似:演示和示例 神經元網路分佈的近似值:演示和示例 數據增強:如何平衡數據集 神經元網路結果的泛化。 神經網路的初始化和正則化:L1 / L2 正則化、批量 歸一化 優化和收斂演算法

 

標準 ML / DL 工具

計劃進行簡單的演示,包括優點、缺點、在生態系統中的位置和用途。

    數據管理工具:Apache Spark、Apache Hadoop 工具 機器學習:Numpy、Scipy、Sci-kit DL 高級框架:PyTorch、Keras、Lasagne 低級深度學習框架:Theano、Torch、Caffe、Tensorflow

 

卷積 Neural Networks (CNN)。

    CNN的介紹:基本原理和應用 CNN的基本操作:卷積層,使用內核, 填充和步幅,特徵圖生成,池化層。擴展 1D、2D 和 3D。 介紹不同的 CNN 架構,這些架構帶來了最先進的分類技術 圖片:LeNet、VGG Networks、Network in Network、Inception、Resnet。介紹 每種架構帶來的創新及其更全域的應用(卷積 1x1 或殘差連接) 使用注意力模型。 適用於常見分類案例(文字或影像) 用於生成的CNN:超解析度、像素到圖元分割。介紹 增加圖像生成特徵圖的主要策略。

 

復發性 Neural Networks (RNN)。

    RNN的介紹:基本原理和應用。 RNN 的基本操作:隱藏啟動、隨時間反向傳播、 展開版本。 向門控循環單元 (GRU) 和 LSTM(長短期記憶)的演變。 介紹不同的狀態和這些架構帶來的演變 收斂和消失梯度問題 經典架構:時間序列的預測、分類...... RNN 編碼器解碼器類型架構。使用注意力模型。 NLP應用:單詞/字元編碼、翻譯。 視頻應用:預測視頻序列的下一個生成圖像。

代際模型:變分自編碼器 (VAE) 和生成對抗網路 (GAN)。

    介紹代際模型,與CNN連結 自動編碼器:降低維度並限制生成 變分自動編碼器:給定分佈 的代際模型和近似值。潛在空間的定義和使用。重新參數化技巧。觀察到的應用和 限制 生成對抗網路:基礎。 雙網路架構 (生成器和鑒別器),具有交替學習和成本函數。 GAN的收斂和遇到的困難。 改進的收斂性:Wasserstein GAN,開始。地球移動距離。 用於生成圖像或照片、文本生成、超解析度的應用程式。

深 Reinforcement Learning。

    強化學習的演示:在定義的環境中控制智慧體 按狀態和可能的行動 使用神經網路來逼近狀態函數 深度Q學習:體驗重播,並應用於視頻遊戲的控制。 優化學習策略。政策上和政策外。演員評論家 建築。A3C的。 應用:控制單個視頻遊戲或數字系統。

 

第 2 部分 – Theano for Deep Learning

Theano 基礎知識

    介紹 安裝和配置

Theano 函數

    輸入、輸出、更新、給定

使用 Theano 訓練和優化神經網路

    神經網路建模 邏輯回歸 隱藏層 訓練網路 計算和分類 優化 日誌丟失

測試模型

第 3 部分 – 使用 Tensorflow 的 DNN

TensorFlow 基礎知識

    創建、初始化、保存和恢復 TensorFlow 變數 進給、讀取和預載入 TensorFlow 數據 如何使用 TensorFlow 基礎設施大規模訓練模型 使用 TensorBoard 視覺化和評估模型

TensorFlow 力學

    準備數據 下載 輸入和佔位元 構建 GraphS 推理 損失 訓練
訓練模型 圖表
  • 會議
  • 火車環線
  • 評估模型 構建評估圖
  • 評估輸出
  • 斯凱恩加林
  • 啟動函數 感知器學習演算法 使用感知器進行二元分類 使用感知器進行文件分類 感知器的局限性
  • 從感知器到支援向量機

      內核和內核技巧 最大邊距分類和支援向量

    人造 Neural Networks

      非線性決策邊界 前饋和反饋人工神經網路 多層感知器 最小化成本函數 前向傳播 反向傳播 改進神經網路的學習方式

    捲積 Neural Networks

      GoALS 模型架構 原則 代碼組織 啟動和訓練模型 評估模型

     

      以下模組的基本介紹(根據時間安排提供簡要介紹):

    Tensorflow - 高級用法

    線程和佇列 分散式 TensorFlow 編寫文檔和共用模型 自訂數據讀取器 操作 TensorFlow 模型檔

    TensorFlow 服務

      介紹 基本服務教程 高級服務教程 Serving Inception 模型教程

    最低要求

    物理、數學和程式設計背景。參與圖像處理活動。

    代表們應該事先瞭解機器學習概念,並且應該從事 Python 程式設計和庫方面的工作。

      35 時間:
     

    人數


    開始於

    結束於


    Dates are subject to availability and take place between 09:30 and 16:30.
    Open Training Courses require 5+ participants.

    相關課程

    課程分類