Sigmoid 函数和 Softmax 函数的区别和关系
Sigmoid 和 Softmax 是在逻辑回归和神经网络中常用的两个函数，初学时经常会对二者的差异和应用场景产生疑惑。 Sigmoid 函数形式为： \begin{equation} S(x) = \frac{1}{1 + e^{-x}} \end{equation} Sigmoid 是一个可微的有界函数，在各点均有非负的导数。当 $x \rightarrow \infty$ 时，$…
Read more
learn, build, evaluate
Sigmoid 和 Softmax 是在逻辑回归和神经网络中常用的两个函数，初学时经常会对二者的差异和应用场景产生疑惑。 Sigmoid 函数形式为： \begin{equation} S(x) = \frac{1}{1 + e^{-x}} \end{equation} Sigmoid 是一个可微的有界函数，在各点均有非负的导数。当 $x \rightarrow \infty$ 时，$…
Read more