Deep Learning Note: 1-6 激活函数
1. 激活函数 1.1 Sigmoid 在设计神经网络时，需要选择隐藏层和输出层的激活函数（Activation Function）。之前一直使用 Sigmoid 函数作为激活函数： \begin{equation} \sigma(z) = \frac{1}{1 + e^{-z}} \tag{1} \end{equation} Sigmoid 函数的形状如图 1 所示，其导数为： \beg…
Read more
learn, build, evaluate
1. 激活函数 1.1 Sigmoid 在设计神经网络时，需要选择隐藏层和输出层的激活函数（Activation Function）。之前一直使用 Sigmoid 函数作为激活函数： \begin{equation} \sigma(z) = \frac{1}{1 + e^{-z}} \tag{1} \end{equation} Sigmoid 函数的形状如图 1 所示，其导数为： \beg…
Read more