修正循环 Transformer
原文标题:Rectified Looped Transformer
导读
循环 Transformer 通过重复使用共享模块来增加有效深度,这项研究用修正方法让这种参数高效的语言建模路线更可靠。
推荐理由
涉及模型 · 与本主题相关
来源:arXiv cs.AI · arxiv.org
原文标题:Rectified Looped Transformer
循环 Transformer 通过重复使用共享模块来增加有效深度,这项研究用修正方法让这种参数高效的语言建模路线更可靠。
涉及模型 · 与本主题相关
来源:arXiv cs.AI · arxiv.org