RARE：混合专家语言模型中表征操控与专家路由的解耦
RARE: Decoupling Representation Steering from Expert Routing in Mixture-of-Experts Language Models
Zhibo Zhang, Zhen Ouyang, Ling Shi, Kailong Wang
arXiv (Cornell University) · 2026-08-21
摘要
表征工程为调控语言模型行为提供了一种轻量化的手段，即通过修改中间隐藏状态来实现，但将其直接应用于混合专家模型时会引发结构上的不匹配问题。我们通过一系列实证研究验证了这一失效模式，发现保留清晰的路由机制能够显著恢复操控效果，且在内容受控的条件下，路由对语义内容的敏感度要高于对行为变化的敏感度。基于这些发现，我们提出了RARE——一种适用于混合专家模型的、与路由机制无关的表征工程框架。RARE将任意行为扰动投影到路由矩阵的零空间中，从而消除路由可识别的成分，并进一步修正传播至选定下游层的路由偏移。为了确定该框架中最优的扰动估计器，我们在三种操控场景——有害性调控、真实性调控与事实编辑场景下，对六种异构的开源权重混合专家模型上的五种估计器进行了评估。在有害性调控方面，RARE的平均攻击成功率达到53.3%，同时仍能保持67.8%的MMLU准确率，其整体效能与实用性的平衡表现优于基准方法。此外，该方法还将TruthfulQA MC1的平均准确率从41.0%提升至58.6%，CounterFact的效力则从16.8%提高到96.3%。这些结果证明，路由一致性是适配混合专家模型的表征工程所必须考虑的重要架构因素。
本摘要由 AI（Hy-MT2-Pro）翻译生成，仅供参考，请以原文为准。
AI 综述
基于摘要生成- 主要观点
- 论文指出，representation engineering 直接应用于 Mixture-of-Experts（MoE）语言模型时存在结构错配，并通过经验研究验证了这一失效模式。其核心发现是，保留 clean routing 能实质恢复 steering 性能，且在控制内容条件下，routing 对语义内容比行为变化更敏感。为此作者提出 RARE，一个 router-agnostic 的 representation engineering 框架，将任意行为扰动投影到 router matrix 的 null space，以移除 router-visible 成分，并校正传播到选定下游层的 routing drift。研究在 harmfulness、truthfulness、factual editing 三个 steering 场景中检验该框架。结果显示，RARE 在 harmfulness steering 上达到 53.3% 平均 attack success rate 并保留 67.8% MMLU accuracy，将 TruthfulQA MC1 accuracy 从 41.0% 提升至 58.6%，将 CounterFact efficacy 从 16.8% 提升至 96.3%。作者据此主张，routing consistency 是 MoE 模型适配 representation engineering 时的重要架构考量。
- 研究方法
- 论文首先开展一系列 empirical studies，验证 representation engineering 在 MoE 中的结构错配，并通过控制内容比较 routing 对语义内容与行为变化的敏感性，观察保留 clean routing 对 steering 性能的恢复效果。方法核心是 RARE：将任意 behavioral perturbations 投影到 router matrix 的 null space，去除 router-visible components，并进一步校正传播至 selected downstream layers 的 routing drift。为确定该框架中的最佳 perturbation estimator，作者在五个 estimators 之间进行评估。评估样本覆盖六个 heterogeneous open-weight MoE models，任务场景包括 harmfulness、truthfulness、factual editing。评价指标包括 attack success rate、MMLU accuracy、TruthfulQA MC1 accuracy 与 CounterFact efficacy。
- 学术贡献
- 论文在理论层面识别了 MoE 中 representation engineering 的结构错配，并将 routing consistency 明确为适配 MoE 的架构考量。在方法层面提出 RARE，通过 null-space projection 与 downstream routing drift correction，将 representation steering 与 expert routing 解耦，且该框架被描述为 router-agnostic。论文还给出 perturbation estimator 的评估与选择流程，并在六个 open-weight MoE 模型、三类 steering 场景上报告了 harmfulness、truthfulness、factual editing 的效果。其贡献直接面向 MoE 可解释性与控制、representation engineering、安全对齐、真实性提升与事实编辑等议题。
- 存在局限
- 实验样本限于六个 open-weight MoE 模型，材料中未明确提及闭源 MoE、多语言、多轮对话或长上下文设置。三类 steering 场景集中于 harmfulness、truthfulness、factual editing，材料中未明确提及偏见、风格、拒答、工具调用等行为维度。评价指标以 attack success rate、MMLU accuracy、TruthfulQA MC1 accuracy 与 CounterFact efficacy 为主，材料中未明确提及人工评估、生成流畅度、语义一致性或安全性的细粒度评估。五个 estimators 的具体类型、选择准则、null-space 维度、投影方式以及 selected downstream layers 的选择依据未在材料中明确给出，方法消融链条不完整。RARE 依赖 router matrix 与选定下游层，材料中未明确提及其对 router 结构变化、专家数量变化或路由稀疏度变化的鲁棒性。
- 进一步研究方向
- 可在更多 MoE 架构与闭源模型上复现 RARE，并加入多语言、多轮对话与长上下文设置，检验 routing consistency 假设是否跨设置成立。可对五个 estimators 做系统消融，报告 null-space 维度、投影方式、下游层选择与 routing drift 校正强度对 attack success rate、MMLU accuracy、TruthfulQA MC1 accuracy、CounterFact efficacy 的影响。可将 steering 场景扩展至偏见、风格、拒答、工具调用等行为，并加入人工评估与语义保持指标，检验行为控制是否以内容保真度下降为代价。可建立 router-visible 与 router-invisible 扰动的量化指标，比较保留 clean routing 与不保留时对 steering 性能的因果贡献。可探索无需访问 router matrix 的近似投影或黑盒 MoE steering 路径，材料中未明确提及该类方案。
本综述由 AI（deepseek-flash）基于摘要自动生成，仅供参考，不代表原文作者观点，请以原文为准。
参考文献
相关论文
话题：Adversarial Robustness in Machine Learning