深度學習筆記---數值計算

上溢和下溢 下溢：接近0的數被四捨五入爲0時發生。（要避免0被除等） 上溢：大兩級的數被近似爲∞時發生。（導致無限值變爲非數字） 必須對上溢和下溢進行數值穩定。 病態條件 條件數表徵函數相對於輸入的微小變化而變化的快慢程度。輸入被輕微擾動而迅速改變的函數對於科學計算來說可能是有問題的，因爲輸入中的舍入誤差可能導致輸出的巨大變化。 基於梯度的優化方法 x∗ =arg min f(x) f(x + ϵ

>>阅读原文<<