learn, build, evaluate
Aggregated Residual Transformations for Deep Neural Networks (2016/11) 1. 概述 文章的主要贡献有： 通过对一组具有相同拓扑的变换进行聚合，构造了一种简单高效的 block 结构。其中引入了“势”（cardinality）这一新的维度，即变换的数量，作为宽度和深度之外的另一个维度。 验证了即便在严格的复…
Read more
Neural Architecture Search with Reinforcement Learning (2016/11) 1. 概述 文章的主要贡献有： 提出了一种自动化搜索神经网络架构的方法，称为神经网络架构搜索（Neural Architecture Search，NAS）。这种方法使用循环神经网络（RNN）生成可变长度网络描述，以此来构建神经网络模型。其中的 …
Read more
Xception: Deep Learning with Depthwise Separable Convolutions (2016/10) 1. 概述 文章的主要贡献有： 指出通过控制对 $1 \times 1$ 卷积输出的分段数量，可以得到一系列结构，标准卷积和深度可分离卷积是分别位于两个极端。 通过将 Inception 模块替换为深度可分离卷积，文章给出了 Xce…
Read more
Inception-v4, Inception-ResNet and the Impact of Residual Connections on Learning (2016/2) 1. 概述 文章的主要贡献有： 在 Inception-v3 基础上，使用更统一的方式来设计不同尺寸的 block，以此构成 Inception-v4 的网络架构。 通过结合 Inception…
Read more
Deep Residual Learning for Image Recognition (2015/12) 1. 概述 文章的主要贡献有： 分析了过深的网络性能反而变差的原因，提出了通过残差学习（residual learning）来解决劣化的方法，使得训练更深的网络变得更加容易。相比于直接学习目标映射，学习目标映射与输入的残差更容易进行优化。 提出了用于残差学习的基础结…
Read more
Rethinking the Inception Architecture for Computer Vision (2015/12) 1. 概述 文章的主要贡献有： 给出了一系列网络设计原则来更有效地增大卷积网络，指出虽然增加网络尺寸和计算量可以有效提高性能，但在移动端等计算能力受限的场景下，保持计算量和参数数量也很重要。 以 Inception 模块为基础，通过使用分解…
Read more
Spatial Transformer Networks (2015/6) 1. 概述 文章的主要贡献有： 提出了一种对特征图进行空间变换的模块，称为 Spatial Transformer（ST）。该模块可以通过学习，对不同的特征图进行适当的变换，增强卷积神经网络对输入数据的空间不变性，从而提高网络性能。其主要特点有： ST 作为一个独立的模块，可以很容易地插入到已有的网…
Read more