说明：arXiv网页摘要接口仅公开**Abstract**，**Introduction、Conclusion**正文内容不在返回的元数据中，无法直接获取原文，因此仅完成摘要原文+翻译；文章主要内容、创新点基于摘要信息整理。# Representational alignment yields generalizable safety in language models arXiv:2609.04022 | https://arxiv.org/abs/2609.04022## 一、文章主要内容现有的大语言模型对齐方法大多针对模型**输出文本（行为层面）**做优化，这类方法在标准提示下安全效果不错，但面对对抗改写、陌生话术包装的有害意图时很容易失效，鲁棒性差。文章借鉴认知科学的**原型理论（Prototype theory）**：人类的道德概念是围绕典型原型案例构建，新样本会依据和原型的相似度完成分类。作者对23个不同规模、不同对齐阶段的大模型开展评测，发现当前LLM内部表征并没有建立起类似人类的道德概念原型结构：模型难以区分互斥的道德类别，也无法保留类别内部精细的典型度，该缺陷不会随参数量增大、对齐训练而自动消失。为此作者提出**表征相似度优化（representational similarity optimization）**，该方法不去监督模型生成的输出文本，而是直接改造模型内部隐空间表征，让隐层表征的相似结构对齐人类道德判断的分类逻辑。在使用完全相同的251334条道德标注数据集的对照实验中：1. 传统行为对齐：在标准样本上输出层面学会道德判断，但内部道德分类结构几乎不变，对抗场景下安全性反而变得更脆弱；2. 本文表征对
说明：arXiv网页摘要接口仅公开**Abstract**，**Introduction、Conclusion**正文内容不在返回的元数据中，无法直接获取原文，因此仅完成摘要原文+翻译；文章主要内容、创新点基于摘要信息整理。# Representational alignment yields generalizable safety in language models arXiv:2609.04022 | https://arxiv.org/abs/2609.04022## 一、文章主要内容现有的大语言模型对齐方法大多针对模型**输出文本（行为层面）**做优化，这类方法在标准提示下安全效果不错，但面对对抗改写、陌生话术包装的有害意图时很容易失效，鲁棒性差。文章借鉴认知科学的**原型理论（Prototype theory）**：人类的道德概念是围绕典型原型案例构建，新样本会依据和原型的相似度完成分类。作者对23个不同规模、不同对齐阶段的大模型开展评测，发现当前LLM内部表征并没有建立起类似人类的道德概念原型结构：模型难以区分互斥的道德类别，也无法保留类别内部精细的典型度，该缺陷不会随参数量增大、对齐训练而自动消失。为此作者提出**表征相似度优化（representational similarity optimization）**，该方法不去监督模型生成的输出文本，而是直接改造模型内部隐空间表征，让隐层表征的相似结构对齐人类道德判断的分类逻辑。在使用完全相同的251334条道德标注数据集的对照实验中：1. 传统行为对齐：在标准样本上输出层面学会道德判断，但内部道德分类结构几乎不变，对抗场景下安全性反而变得更脆弱；2. 本文表征对
