筆記-關於神經網絡黑盒模型可解釋性，可視化

原博地址：深度學習黑盒可視化指南，從隱藏層開始 摘： 一旦神經網絡接收到相當大的所需數據集後，該網絡就會使用其精確的知識「權重」來證明或識別未知數據樣本上的模式。 即在經過大量數據集訓練以後，神經網絡就可以學會該數據集的知識，知識表現爲「權重」。知識可以用來判斷與數據集同分布的數據的模式，即pattern。 數據偏向問題的例子 文中關於識別隱匿的tank，卻表現爲識別天氣的模型。 這個故事的來源是

>>阅读原文<<