Deep Learning Note: 2-3 优化问题
1. 标准化输入 对输入数据进行标准化(Normalizing)有利于提高学习速度。 例如对于如图 1 所示的数据,其标准化过程分为两步,首先让数据减去其均值(如图 2 中左图),然后再除以方差(如图 2 中右图): 计算过程为: \begin{equation} x := \frac{x – \mu}{\sigma} \tag{1} \end{equation} 其中…
Read more
learn, build, evaluate
1. 标准化输入 对输入数据进行标准化(Normalizing)有利于提高学习速度。 例如对于如图 1 所示的数据,其标准化过程分为两步,首先让数据减去其均值(如图 2 中左图),然后再除以方差(如图 2 中右图): 计算过程为: \begin{equation} x := \frac{x – \mu}{\sigma} \tag{1} \end{equation} 其中…
Read more