AttentionSwitch:用稀疏注意力头选择与缩放联合学习防御 LLM 越狱
原文标题:AttentionSwitch: Jailbreak Defense for LLMs via Joint Learning of Sparse Attention-Head Selection and Scaling
导读
这项工作通过联合学习选出并缩放关键注意力头,让大模型更难被越狱攻击绕过。
推荐理由
涉及模型与大模型 · 与本主题相关
来源:arXiv cs.AI · arxiv.org
原文标题:AttentionSwitch: Jailbreak Defense for LLMs via Joint Learning of Sparse Attention-Head Selection and Scaling
这项工作通过联合学习选出并缩放关键注意力头,让大模型更难被越狱攻击绕过。
涉及模型与大模型 · 与本主题相关
来源:arXiv cs.AI · arxiv.org