CoPre-MoE:面向多模态持续指令微调的 MoE 整合与保留
原文标题:CoPre-MoE: Consolidating and Preserving MoE for Multimodal Continual Instruction Tuning
导读
这项工作让多模态大模型持续学新能力时不遗忘旧能力,整合与保留并重的混合专家方案。
推荐理由
涉及模型与多模态 · 与本主题相关
来源:arXiv cs.AI · arxiv.org
原文标题:CoPre-MoE: Consolidating and Preserving MoE for Multimodal Continual Instruction Tuning
这项工作让多模态大模型持续学新能力时不遗忘旧能力,整合与保留并重的混合专家方案。
涉及模型与多模态 · 与本主题相关
来源:arXiv cs.AI · arxiv.org