BigBird (由
该论文 引入) 是解决这个问题的最新模型之一。
BigBird 依赖于
块稀疏注意力 而不是普通注意力 (
即 BERT 的注意力)，与 BERT 相比，这一新算法能以低得多的计算成本处理长达
4096 的序列。在涉及很长序列的各种任务上，该模型都实现了 SOTA，例如长文档摘要、长上下文问答。
声明：本站所有文章，如无特殊说明或标注，均为本站原创发布。任何个人或组织，在未征得本站同意时，禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益，可联系我们进行处理。