论文发现提示词诱导的意识形态人格会重构大语言模型内部表征并干扰安全监测

该研究通过提取9000多个常见词汇和33个语义轴的表示，对比了采用自由派与保守派政治人格的大语言模型与两个中立基线，证实提示词诱导的人格设定会系统性地改变词汇在语义轴上的投影以及轴之间的对齐方向，使其符合指定的意识形态。这种内部表征的几何重构意味着传统假设特征在不同上下文中保持一致的监控方法存在根本缺陷。

实验进一步测试了这种重构对真实性（truthfulness）和道德性（morality）等安全相关特征的影响。当使用未针对人格进行训练的线性探针、基于稀疏自编码器（SAEs）的分类器以及手动选择的词汇表示分类器时，这些工具在面对被设定为特定政治人格的模型时产生了分歧结果，对争议性陈述给出了带有政治倾向的真实性与道德评分。这表明常规提取的内部表征在模型采纳不同人格时会表现出不同的几何关系。

事实层面确认了人格提示能改变模型隐空间的几何结构；推断层面指出这可能导致现有的特征提取与监控机制失效；猜测层面认为若不加区分地应用通用监测工具，可能会误判模型的安全状态或产生偏见输出。这一发现要求在进行模型对齐与安全评估时，必须考虑上下文依赖的表征动态变化。