深度學習第二講課後題

1. 人工神經元如何模擬生物神經元中的軸突,突軸和樹突的? 輸出層代表軸突,權重代表突軸,輸入層代表樹突。 2. 傳統神經網絡採用什麼訓練方法,存在哪些問題? 採用BP算法。 BP算法存在的問題: (1)梯度越來越稀疏:從頂層越往下,誤差校正信號越來越小; (2)收斂到局部最小值:尤其是從遠離最優區域開始的時候(隨機值初始化會導致這種情況的發生); (3)一般,我們只能用有標籤的數據來訓練:但大部
相關文章
相關標籤/搜索