ELECTRA:预先训练文本编码器作为鉴别器,而不是生成器

ELECTRA是一种用于自我监督的语言表示学习的新方法。 它可以用于使用较少的计算来预训练变压器网络。

相关的项目 - 更多比较

Popular
205 8.8k 1.2k

Flair 一个非常简单最先进的NLP框架
 
10.0 10.0
  3天前
Popular
174 5.9k 719

P PyText 是一个工业级的开源 NLP 工具包,可用于在 PyTorch 中开发 NLP 模型,并通过 ONNX 部署。其预训练模型包括文本分类、序列标注等。」
 
10.0 10.0
  昨天