输入路径影响小样本而非零样本绑定:小型 Transformer 的全枚举研究
原文标题:Input Pathways Shape Few-Shot, Not Zero-Shot, Binding in Tiny Transformers: A Fully-Enumerable Study
导读
这项全枚举研究发现,信息以符号、干净编码还是纠缠感知向量进入 Transformer,会影响小样本绑定能力,但对零样本绑定影响不大。
推荐理由
与本主题相关
来源:arXiv cs.AI · arxiv.org