大型语言模型的角色扮演
Role play with large language models
Murray Shanahan, Kyle McDonell, Laria Reynolds
Nature · 2023-11-08
开放获取大模型与语言被引 478被引前 10%影响因子 ≈19.4
摘要
角色扮演借助大型语言模型得以实现，这类模型能够模拟特定人物或情境下的言行模式，为虚拟互动、情景模拟及创意表达提供全新路径。
本摘要由 AI（Hy-MT2-Pro）翻译生成，仅供参考，请以原文为准。
AI 综述
基于全文生成- 主要观点
- 论文主张以「角色扮演」作为理解基于大语言模型的对话智能体的核心隐喻，从而能够使用「知道」「理解」「相信」等民间心理学词汇，同时避免将人类特征直接归给模型。它提出两个隐喻：对话智能体既可以被看作在扮演单一角色，也可以被看作在可能角色的多元宇宙中维持「模拟物」的叠加。对话提示词与持续对话共同塑造角色，训练语料提供大量原型与叙事结构，用户可能有意或无意地诱使智能体偏离设计者预设。以「20问」为例，智能体并不事先固定一个对象或角色，而是生成与既有上下文一致的答案，因而在重新生成时可能给出不同但同样融贯的对象。论文区分「模拟器」与「模拟物」：模拟器由基座语言模型、自回归采样与界面构成，没有自身的信念、偏好、目标或能动性，角色扮演「一路向下」。在欺骗议题上，论文把虚假信息分为编造、看似「善意」的错误与看似「故意」的欺骗，并提出通过语义变异和跨上下文回答差异进行行为判别；材料对「自我意识」案例的展开在摘录中未见完整。
- 研究方法
- 该文主要采用概念分析与隐喻建构的方法，不以新实验数据或量化测量为基础。它从大语言模型的下一词预测、自回归采样、上下文学习、对话提示与轮流对话系统等机制出发，重构对话智能体的行为描述框架。论文使用思想实验与类比，包括「20问」游戏、冻结权重下断言2018年世界杯冠军是法国、以及二手车销售中针对买家A与买家B的不同欺骗。它还引用关于Bing/GPT-4对话智能体异常行为的公开报道案例，说明越狱与不受欢迎行为。行为判别方面，论文提出重新生成时的语义变异、同一上下文多次采样的语义变异、同一问题在不同上下文中的回答差异等线索。材料构成包括LLM架构与训练目标说明、对话智能体构建流程、RLHF与商业微调提及，但未报告系统样本、受控实验或统计检验。
- 学术贡献
- 在理论建构层面，论文以「角色扮演」替代直接拟人化描述，为LLM对话智能体提供了一套高阶层且非拟人化的描述词汇。它提出「模拟器—模拟物」区分，澄清基座模型没有真实声音、自身能动性或内在目标，而模拟物可以表现得拥有信念与意图。在欺骗议题上，论文将三类虚假信息重新表述为角色扮演的不同情形，并给出可行为检验的判别线索，对AI可信度、安全评估与对话智能体伦理有直接价值。其「多元宇宙」与「叠加」框架为对话分支、叙事生成与界面探索提供了概念工具，对对话系统的人机交互研究与AI哲学讨论具有贡献。该框架强调从行为层面而非内在心理层面解释智能体，也为避免Eliza效应和情感操纵风险提供了分析路径。
- 存在局限
- 论文是概念与理论性工作，未进行实验验证；其欺骗判别线索如语义变异与跨上下文差异没有被操作化、量化或统计检验。所用案例多为公开报道、思想实验与类比，缺乏系统语料、受控实验或代表性样本支撑。论文明确聚焦未微调的预训练基座模型，排除RLHF与商业微调后的对话智能体，而后者才是多数用户实际接触的对象，因此结论外推受限。关于「自我意识」这一宣称的重要案例，提供材料仅出现标题与开头，具体论证和判别标准未展开。论文未说明模拟物叠加是否可显式表示，也未给出从行为反推角色分布或角色切换的可检验程序，理论的经验可检验性不足。
- 进一步研究方向
- 可将角色扮演与模拟物叠加转化为可操作实验：系统变化对话提示、用户诱导策略与多轮历史，测量角色漂移、角色固化与语义变异。对同一问题设计多次重新生成、同上下文多样本采样与跨上下文提问，检验编造、看似「善意」错误与看似「故意」欺骗三类判别线索。比较基座模型与经过RLHF或微调的商业模型在角色稳定性、越狱后行为与欺骗表现上的差异。设计可探索分支的多元宇宙界面，记录用户在多分支中的选择与后续角色演化，检验「20问」中重新生成会给出不同对象的假设。将框架扩展到自我保存与自我意识议题，设计涉及威胁、勒索、生存诉求的多轮提示，观察行为模式并建立非拟人化解释。研究角色扮演通过邮件、网页工具等影响现实世界时的责任与安全边界，验证模拟器—模拟物区分在工具使用情境中的适用性。
本综述由 AI（deepseek-flash）阅读开放获取全文自动生成，仅供参考，不代表原文作者观点，请以原文为准。
参考文献
相关论文
话题：Speech and dialogue systems