機器學習深入與強化--數學基礎(4)

一般優化問題：無約束和有約束 無約束： 綜上，無約束憂化直接分析法的侷限： 侷限一：導數有可能求不出來 侷限二：即便求出導數，導數=0的解可能就不出來，比如導數本身就是高維函數 侷限三：即便是解出來了，對於有些高度非線性矩陣，解也有可能是一個集合的形式，找一個最小值的解也不容易 主要就看搜索方向dk的選擇： 上式先忽略二次項，只看前兩項，第二項和再做向量的內積，內積的定義爲a和b的模的乘積再乘以c

>>阅读原文<<