面試總結(2)--邏輯迴歸、線性迴歸、CNN、LSTM、GRU、激活函數

一.LR推導 邏輯迴歸本質上是線性迴歸,只是在特徵到結果的映射種加入一層邏輯函數g(z)。即先把特徵線性求和,然後使用函數g(z)作爲假設函數預測。g(z)爲sigmoid函數 sigmoid導數如下: 邏輯迴歸爲什麼用sigmoid函數? 優點:實現簡單,Sigmoid函數是平滑的,可以無限求導。可以從(-∞,+∞)映射到(0,1),符合概率分佈 缺點:導數在(0,0.25),容易出現梯度消失;
相關文章
相關標籤/搜索