Activation Functions(激活函数) threshold linear 二 x)=中 piece-wise linear sigmoid f=f(x)(1-f(x) E:0 S形(Sigmoid)函数：连 续，光滑，严格单调， 关于(0,0.5)中心对称的 阈值函数。 7/66Activation Functions(激活函数) fs(x) = 1 1+e−x f ′ s = f (x)(1 − f (x)) S 形 (Sigmoid) 函数：连 续，光滑，严格单调， 关于 (0,0.5) 中心对称的 阈值函数。 7 / 66