资源名称:
《神经网络与深度学习》讲义(Notes on Artificial Neural Networks and Deep Learning)
作者介绍:
邱锡鹏(复旦大学计算机科学技术学院,副教授)
研究方向
统计机器学习
自然语言处理
对话系统/自动问答系统
#内容简介
##第一章:绪论:总结和深入阅读
##第二章:数学基础:
向量(向量的模,向量的范数)
矩阵
矩阵的基本运算(常见的矩阵,矩阵的范数)
导数(常见的向量导数,导数法则)
常用函数(logistic 函数,softmax 函数)
总结和深入阅读
##第三章:机器学习概述
机器学习概述(损失函数,机器学习算法的类型,机器学习中的一些概念,参数学习算法)
线性回归
线性分类(两类分类,多类线性分类)
评价方法
总结和深入阅读
##第四章:感知器
两类感知器(感知器学习算法,收敛性证明)
多类感知器(多类感知器的收敛性)
投票感知器
总结和深入阅读
##第五章:人工神经网络
神经元(激活函数)
前馈神经网络(前馈计算)
反向传播算法
梯度消失问题
训练方法
经验
总结和深入阅读
##第六章:卷积神经网络48
卷积(一维场合,两维场合)
卷积层:用卷积来代替全连接
子采样层
卷积神经网络示例:LeNet-5
梯度计算(卷积层的梯度,子采样层的梯度)
总结和深入阅读
##第七章:循环神经网络57
简单循环网络(梯度,改进方案)
长短时记忆神经网络:LSTM
门限循环单元:GRU
总结和深入阅读