对齐诅咒:模态对齐让文本攻击迁移到音频
原文标题:The Alignment Curse: Modality Alignment Supercharges Audio Attacks via Text Transfer
导读
研究发现,端到端全模态模型强化文本与音频的对齐后,针对文本的攻击可以迁移到音频上,放大了音频攻击的风险。
推荐理由
涉及模型 · 与本主题相关
来源:arXiv cs.AI · arxiv.org
原文标题:The Alignment Curse: Modality Alignment Supercharges Audio Attacks via Text Transfer
研究发现,端到端全模态模型强化文本与音频的对齐后,针对文本的攻击可以迁移到音频上,放大了音频攻击的风险。
涉及模型 · 与本主题相关
来源:arXiv cs.AI · arxiv.org