Bert——8G內存瞎玩

序 自己筆記本8G內存，想玩bert就是做夢…但是自己只是看看代碼以及效果，沒有實際用它做任務，所以不想買gpu服務器,所以就試着壓縮一下，看看效果，思路很簡單，減小block數。 貼一下自己找的bert代碼 第一次測試 Bert訓練好的模型的配置文件，改變layer層數。 由於原代碼的思路是：建立網絡結構，從訓練好的文件里加載模型參數，賦值給現在建立的結構，所以，其實你改變現在建立的結構就行了，

>>阅读原文<<