JavaShuo
欄目
標籤
華爲開源預訓練語言模型「哪吒、TinyBERT」可直接下載使用
時間 2021-01-19
標籤
圖像算法
華爲
開源預訓
神經網絡
語言模型
简体版
原文
原文鏈接
近日,華爲諾亞方舟實驗室的NLP團隊開源了兩個重要的預訓練語言模型-哪吒和TinyBERT, 可以直接下載,預先訓練和微調這兩個模型。 該項目是諾亞方舟實驗室用於開放各種預訓練模型的源代碼的項目。當前有兩個,並且不排除將來會添加更多模型。 Nezha是基於BERT優化和改進的預訓練語言模型。中文使用的語料庫是Wikipedia和Baike and News,而Google的中文語料庫僅使用Wiki
>>阅读原文<<
相關文章
1.
華爲諾亞方舟開源預訓練模型「哪吒」,4項任務均達到SOTA
2.
NLP中的預訓練語言模型(四)—— 小型化bert(DistillBert, ALBERT, TINYBERT)
3.
NEZHA & TinyBERT預訓練LM,華爲諾亞方舟出品
4.
預訓練語言模型綜述
5.
預訓練語言模型 | (3) Bert
6.
跨域預訓練語言模型(XLM)
7.
預訓練語言模型 | (2) transformer
8.
ACL2020預訓練語言模型部分開源代碼整理
9.
TensorFlow 使用預訓練模型 ResNet-50
10.
BERT 中文預訓練模型使用
更多相關文章...
•
Redis中使用Lua語言
-
Redis教程
•
Wireshark下載安裝和使用教程
-
TCP/IP教程
•
Git可視化極簡易教程 — Git GUI使用方法
•
委託模式
相關標籤/搜索
哪吒
C語言訓練
tinybert
可直接
訓練
源碼下載
資源下載
可使用
直接
預言
R 語言教程
PHP教程
Spring教程
應用
靜態資源
開發工具
0
分享到微博
分享到微信
分享到QQ
每日一句
每一个你不满意的现在,都有一个你没有努力的曾经。
最新文章
1.
升級Gradle後報錯Gradle‘s dependency cache may be corrupt (this sometimes occurs
2.
Smarter, Not Harder
3.
mac-2019-react-native 本地環境搭建(xcode-11.1和android studio3.5.2中Genymotion2.12.1 和VirtualBox-5.2.34 )
4.
查看文件中關鍵字前後幾行的內容
5.
XXE萌新進階全攻略
6.
Installation failed due to: ‘Connection refused: connect‘安卓studio端口占用
7.
zabbix5.0通過agent監控winserve12
8.
IT行業UI前景、潛力如何?
9.
Mac Swig 3.0.12 安裝
10.
Windows上FreeRDP-WebConnect是一個開源HTML5代理,它提供對使用RDP的任何Windows服務器和工作站的Web訪問
本站公眾號
歡迎關注本站公眾號,獲取更多信息
相關文章
1.
華爲諾亞方舟開源預訓練模型「哪吒」,4項任務均達到SOTA
2.
NLP中的預訓練語言模型(四)—— 小型化bert(DistillBert, ALBERT, TINYBERT)
3.
NEZHA & TinyBERT預訓練LM,華爲諾亞方舟出品
4.
預訓練語言模型綜述
5.
預訓練語言模型 | (3) Bert
6.
跨域預訓練語言模型(XLM)
7.
預訓練語言模型 | (2) transformer
8.
ACL2020預訓練語言模型部分開源代碼整理
9.
TensorFlow 使用預訓練模型 ResNet-50
10.
BERT 中文預訓練模型使用
>>更多相關文章<<