bert模型參數簡化

  我們下載下來的預訓練的bert模型的大小大概是400M左右,但是我們自己預訓練的bert模型,或者是我們在開源的bert模型上fine-tuning之後的模型的大小大約是1.1G,我們來看看到底是什麼原因造成的,首先我們可以通過下一段代碼來輸出我們訓練好的模型的參數變量。   下面這段代碼可以輸出我們下載的官方預訓練模型的參數變量 import tensorflow as tf from te
相關文章
相關標籤/搜索