8、最近常見的面試題

1、神經網絡中的**函數：對比ReLU與Sigmoid、Tanh的優缺點？ReLU有哪些變種？ ReLU 優點： 從計算的角度上，Sigmoid和Tanh**函數均需要計算指數，複雜度高，而ReLU輸入一個數值即可得到**值； ReLU函數被認爲有生物上的解釋性，比如單側抑制、寬興奮邊界（即興奮程度 也可以非常高）人腦中在同一時刻大概只有1 ∼ 4%的神經元處於活躍狀態，所以單側抑制提供了網絡的稀

>>阅读原文<<