预训练的语言模型:参数,数据,方法?

发布于 2025-02-06 02:33:37 字数 312 浏览 2 评论 0原文

我正在研究预训练的LMS,特别是以下LMS:

  • BERT
  • ALBERT
  • ROBERTA
  • XLNET
  • DISTILBERT
  • BIGBIRD
  • CONDBERT,

我正在寻找信息来比较这些LMS,例如:参数的数量,图层,数据。 。

换句话说

​//i.sstatic.net/ailuo.png“ alt =“在此处输入图像说明”> ,

但我找不到在线信息!你能帮我吗?

谢谢。

I am doing a research on pre-trained LMs, specifically the following LMs:

  • BERT
  • ALBERT
  • RoBERTa
  • XLNet
  • DistilBERT
  • BigBird
  • ConvBERT

I am looking for information to compare these LMs like: number of parameters, layers, data on which they were pre-trained...

In other words, I want to extend the following table to the other LMs:

enter image description here

But I can't find information online! Can you please help me?

Thanks.

如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。

扫码二维码加入Web技术交流群

发布评论

需要 登录 才能够评论, 你可以免费 注册 一个本站的账号。
列表为空,暂无数据
我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
原文