Neural Network Saturation 神經網絡飽和性

神經網絡分類器具有一組輸入節點,一組隱藏處理節點和一組輸出節點。如果使用tanh**功能,則隱藏節點的值通常在-1.0到+1.0之間。如果使用softmax**功能,則輸出節點的值將介於0.0和1.0之間。 飽和神經網絡是其中大多數隱藏節點的值都接近-1.0或+1.0且輸出節點的值都接近0.0或1.0的網絡。飽和不是一件好事。如果隱藏節點飽和,則意味着它們的**前積和相對較大(通常大於4.0)或較
相關文章
相關標籤/搜索