Tag Archive: ResNet

[Reading] Deep Residual Learning for Image Recognition

Author: 2020-11-14

Deep Residual Learning for Image Recognition (2015/12) 1. 概述   文章的主要贡献有： 分析了过深的网络性能反而变差的原因，提出了通过残差学习（residual learning）来解决劣化的方法，使得训练更深的网络变得更加容易。相比于直接学习目标映射，学习目标映射与输入的残差更容易进行优化。 提出了用于残差学习的基础结…
Read more

Paper Reading

,

Deep Learning Note: 4-5 卷积神经网络案例分析（2）

Author: 2018-01-17

2. ResNet 　　由于存在梯度爆炸和梯度消失的问题，往往难以训练很深的神经网络。ResNet 通过将一层的激活值直接传递给更深的层，使得训练非常深（如超过 100 层）的神经网络成为可能。 2.1. Residual Block 　　ResNet 由 Residual Block 组成，为了说明 Residual Block 的结构，先看一个普通的两层网络结构，如图 1 所示： 　　其计算过…
Read more

Machine Learning

,