多模态大语言模型中的灾难性遗忘研究
Investigating the Catastrophic Forgetting in Multimodal Large Language Models
Yuexiang Zhai, Shengbang Tong, Li Xiao, Mu Cai, Qing Qu, Yong Jae Lee, Yi Ma
arXiv (Cornell University) · 2023-09-19
摘要
继GPT-4取得成功之后，多模态大语言模型（MLLM）研究领域的关注度急剧上升。该研究方向侧重于通过对预训练大语言模型和视觉模型进行微调来开发通用大语言模型。然而，灾难性遗忘——一种广为人知的现象，即经过微调的模型无法保持与预训练模型相近的性能——依然是多模态大语言模型固有的问题。在本文中，我们提出EMT：多模态评估工具，用于评估多模态大语言模型中的灾难性遗忘，将每个多模态大语言模型视作图像分类器。我们首先应用EMT对多个开源微调多模态大语言模型进行评估，发现几乎所有受评估的多模态大语言模型都未能在标准图像分类任务上保持与其视觉编码器相同的性能水平。此外，我们继续对多模态大语言模型LLaVA进行微调，并利用EMT在整个微调过程中对性能加以评估。有趣的是，我们的研究结果表明，在图像数据集上进行的早期阶段微调通过增强文本与视觉特征的对齐，提升了模型在其他图像数据集上的性能。然而，随着微调的推进，多模态大语言模型开始出现幻觉现象，导致泛化能力显著下降，即便图像编码器处于冻结状态也是如此。我们的研究结果表明，多模态大语言模型尚未在标准图像分类任务上展现出与其视觉模型相匹敌的性能，当前的多模态大语言模型微调流程仍有改进空间。
本摘要由 AI（Hy-MT2-Pro）翻译生成，仅供参考，请以原文为准。
AI 综述
基于全文生成- 主要观点
- 论文的核心论点是：当前多模态大语言模型（MLLM）的指令微调流程存在灾难性遗忘，微调后的模型无法保持其视觉编码器在标准图像分类任务上的性能。支撑性论断包括：将每个MLLM视为图像分类器后，LLaVA、Otter、InstructBLIP、LENS等开源模型在MNIST、CIFAR-10、CIFAR-100、miniImagenet上大多低于其视觉编码器的零样本表现；对LLaVA-7b/13b的继续微调显示，早期微调通过增强文本与视觉特征的对齐而提升跨数据集泛化，但随着训练推进模型开始幻觉，泛化能力显著下降，且这一退化在图像编码器冻结时依然发生。论文将失败模式归纳为错误预测、内在幻觉（如无视“只回答单一标签”的指令而输出多个类别）与外在幻觉（如输出不可验证的额外描述）。作者还提出基础语言模型的作用不可忽视：使用Flan-T5的LENS在各项任务上表现最差，而采用LLaMA的Otter、LLaVA、InstructBLIP相对较好。问题域聚焦于MLLM从视觉编码器继承图像分类能力时的遗忘机制，而非认知推理或一般幻觉评测。
- 研究方法
- 论文提出EMT（Evaluating MulTimodality）两阶段评测路径：向被测MLLM输入分类数据集图像并提示其仅输出[class labels]中的单一标签，再用GPT-3.5对输出做后处理以判定分类正确率。材料构成包括四个图像分类数据集（MNIST、CIFAR-10、CIFAR-100、miniImagenet）与四类开源MLLM（LLaVA、Otter、InstructBLIP、LENS），并按视觉编码器架构（ViT-L-14、ViT-H-14、ViT-g-14）分组比较。为验证理论预期，作者先用ResNet18在前50%类别上预训练100个epoch、再在后50%不重叠类别上微调100个epoch，并记录预训练类别的训练准确率；随后以交叉熵微调CLIP ViT-L-14视觉编码器1至14个epoch，观察域内与域外准确率变化。在MLLM微调实验中，作者将四个数据集手工改写为LLaVA指令格式，对LLaVA-7b与LLaVA-13b分别采用线性适配器微调与LoRA微调3个epoch，在2张NVIDIA A100上逐epoch用EMT记录准确率。理论分析部分借助神经坍缩与少数类坍缩框架，将微调中缺席的预训练类别视为样本量为零的少数类，以解释分类器收敛导致的遗忘。材料中未明确提及随机种子、重复实验次数及评判器与人工标注的一致性检验。
- 学术贡献
- 在方法创新层面，EMT是材料所称首个通过图像分类任务考察MLLM灾难性遗忘的评测框架，把生成式多模态模型的输出转化为可量化的分类准确率，填补了既有MLLM评测（偏重认知推理或幻觉）未检验视觉编码器能力继承的空白。在理论建构层面，论文将神经坍缩/少数类坍缩引入MLLM微调分析，用ResNet18与CLIP的受控实验为“微调即不平衡训练”的解释提供支撑。在实证发现层面，论文区分了早期微调的特征对齐收益与后期过拟合引发的幻觉拐点，并给出线性微调与LoRA微调在遗忘速度上的差异，对多模态指令微调策略与评测基准设计两个子议题具有直接价值。在材料层面，作者将四个标准分类数据集重构为LLaVA指令微调格式并公开评测流程，为后续复现提供可操作的数据管线。
- 存在局限
- 评测链条以GPT-3.5作为自动判分器，论文未报告该判分与人工标注的一致性，格式异常的输出可能被计为错误，从而混淆模型能力与评判噪声。样本域仅限四个图像分类数据集与单一分类任务，未覆盖检测、分割、视觉问答等MLLM的典型用例，遗忘结论能否外推尚不明确。继续微调实验只针对LLaVA-7b/13b，且受算力限制仅采用线性适配器与LoRA，未做全参数微调；对四个开源模型性能差异的解释（如基础LM强弱）停留在假设层面，作者亦注明精确原因超出研究范围。理论部分在ResNet18与CLIP上验证少数类坍缩，但向MLLM的推演主要依靠类比，未直接测量微调后分类头的几何结构或特征对齐度。此外，EMT提示词按数据集固定为单一措辞，未做提示敏感性分析。
- 进一步研究方向
- 可在同一LLaVA检查点上设置全参数微调、LoRA与仅适配器三组对照，逐epoch运行EMT并以验证集损失定位幻觉拐点，检验“早期对齐收益—后期遗忘”曲线是否随微调容量改变。可将EMT扩展为分类、检测与视觉问答的多任务评测套件，对同一微调检查点跨任务测量遗忘幅度，以判断遗忘是任务依赖还是模态对齐的普遍退化。可在微调过程中提取视觉-文本嵌入的余弦对齐度与分类头类中心夹角等几何量，直接检验少数类坍缩对MLLM的预测，而非仅依赖ResNet/CLIP的旁证。可抽取GPT-3.5判分样本进行人工双盲复核，估计判分误差并给出准确率的置信区间。还可固定同一视觉编码器、配对LLaMA与Flan-T5两类基础LM做控制变量微调，以隔离基础语言模型对遗忘程度的贡献。
本综述由 AI（deepseek-flash）阅读开放获取全文自动生成，仅供参考，不代表原文作者观点，请以原文为准。
参考文献
相关论文
话题：Multimodal Machine Learning Applications