DECODE:诊断可解释性工具自身的失效
原文标题:DECODE: Diagnosing Interpretability Failures in Automated Interpretation Process
导读
这项工作指出用大模型自动解释大模型内部表征时会出现哪些失效,并给出诊断方法。
推荐理由
涉及模型与大模型 · 与本主题相关
来源:arXiv cs.AI · arxiv.org
原文标题:DECODE: Diagnosing Interpretability Failures in Automated Interpretation Process
这项工作指出用大模型自动解释大模型内部表征时会出现哪些失效,并给出诊断方法。
涉及模型与大模型 · 与本主题相关
来源:arXiv cs.AI · arxiv.org