pytorch梯度裁剪（Clipping Gradient）：torch.nn.utils.clip_grad_norm

? 1 torch.nn.utils.clip_grad_norm(parameters, max_norm, norm_type=2) 1、梯度裁剪原理（http://blog.csdn.net/qq_29340857/article/details/70574528）  既然在BP過程中會產生梯度消失/爆炸（就是偏導無限接近0，導致長時記憶無法更新），那麼最簡單粗暴的方法，設定閾值，當梯度小於

>>阅读原文<<