JavaShuo
欄目
標籤
華爲開源預訓練語言模型「哪吒、TinyBERT」可直接下載使用
時間 2021-01-19
標籤
圖像算法
華爲
開源預訓
神經網絡
語言模型
简体版
原文
原文鏈接
近日,華爲諾亞方舟實驗室的NLP團隊開源了兩個重要的預訓練語言模型-哪吒和TinyBERT, 可以直接下載,預先訓練和微調這兩個模型。 該項目是諾亞方舟實驗室用於開放各種預訓練模型的源代碼的項目。當前有兩個,並且不排除將來會添加更多模型。 Nezha是基於BERT優化和改進的預訓練語言模型。中文使用的語料庫是Wikipedia和Baike and News,而Google的中文語料庫僅使用Wiki
>>阅读原文<<
相關文章
1.
華爲諾亞方舟開源預訓練模型「哪吒」,4項任務均達到SOTA
2.
NLP中的預訓練語言模型(四)—— 小型化bert(DistillBert, ALBERT, TINYBERT)
3.
NEZHA & TinyBERT預訓練LM,華爲諾亞方舟出品
4.
預訓練語言模型綜述
5.
預訓練語言模型 | (3) Bert
6.
跨域預訓練語言模型(XLM)
7.
預訓練語言模型 | (2) transformer
8.
ACL2020預訓練語言模型部分開源代碼整理
9.
TensorFlow 使用預訓練模型 ResNet-50
10.
BERT 中文預訓練模型使用
更多相關文章...
•
Redis中使用Lua語言
-
Redis教程
•
Wireshark下載安裝和使用教程
-
TCP/IP教程
•
Git可視化極簡易教程 — Git GUI使用方法
•
委託模式
相關標籤/搜索
哪吒
C語言訓練
tinybert
可直接
訓練
源碼下載
資源下載
可使用
直接
預言
R 語言教程
PHP教程
Spring教程
應用
靜態資源
開發工具
0
分享到微博
分享到微信
分享到QQ
每日一句
每一个你不满意的现在,都有一个你没有努力的曾经。
最新文章
1.
安裝cuda+cuDNN
2.
GitHub的使用說明
3.
phpDocumentor使用教程【安裝PHPDocumentor】
4.
yarn run build報錯Component is not found in path 「npm/taro-ui/dist/weapp/components/rate/index「
5.
精講Haproxy搭建Web集羣
6.
安全測試基礎之MySQL
7.
C/C++編程筆記:C語言中的複雜聲明分析,用實例帶你完全讀懂
8.
Python3教程(1)----搭建Python環境
9.
李宏毅機器學習課程筆記2:Classification、Logistic Regression、Brief Introduction of Deep Learning
10.
阿里雲ECS配置速記
本站公眾號
歡迎關注本站公眾號,獲取更多信息
相關文章
1.
華爲諾亞方舟開源預訓練模型「哪吒」,4項任務均達到SOTA
2.
NLP中的預訓練語言模型(四)—— 小型化bert(DistillBert, ALBERT, TINYBERT)
3.
NEZHA & TinyBERT預訓練LM,華爲諾亞方舟出品
4.
預訓練語言模型綜述
5.
預訓練語言模型 | (3) Bert
6.
跨域預訓練語言模型(XLM)
7.
預訓練語言模型 | (2) transformer
8.
ACL2020預訓練語言模型部分開源代碼整理
9.
TensorFlow 使用預訓練模型 ResNet-50
10.
BERT 中文預訓練模型使用
>>更多相關文章<<