Tag Archive: Normalization

Deep Learning Note: 2-3 优化问题

1. 标准化输入   对输入数据进行标准化(Normalizing)有利于提高学习速度。   例如对于如图 1 所示的数据,其标准化过程分为两步,首先让数据减去其均值(如图 2 中左图),然后再除以方差(如图 2 中右图):   计算过程为: \begin{equation} x := \frac{x – \mu}{\sigma} \tag{1} \end{equation}   其中…
Read more