關於Fisher信息陣自然梯度摘錄

在網上摘錄了一些資料mark一下。 1.Fisher信息陣 作者：知乎用戶 鏈接：https://www.zhihu.com/question/26561604/answer/33275982 來源：知乎 著作權歸作者所有。商業轉載請聯繫作者獲得授權，非商業轉載請註明出處。 首先我們看一下 Fisher Information 的定義： 假設你觀察到 i.i.d 的數據 服從一個概率分佈,是你的目

>>阅读原文<<