窗口关闭的不是透明，而是理解-龍德明宇

窗口关闭的不是透明而是理解作者龍德明宇【负主体性之顶刊论文系列七】本文基于论文Horvitz, E. West, R. (2026). A narrowing window to understand AI.Science, 392(6802), 1003. DOI: 10.1126/science.aei3167AI的一切运作都可被观察。窗口关闭的不是透明而是理解。2026年6月4日Science发表了一篇仅有一页的Perspective。作者Eric Horvitz微软首席科学官与Robert WestEPFL副教授从AI工程与治理的前线发出警告随着能力加速提升人类理解AI的窗口正在收窄且可能不可逆地关闭。在顶刊系列四中我们讨论了内在透明的核心悖论LLM的全部运作原则上可被外部穷尽观察但这种透明性不等于可靠性。本文接续这一追问但把视角转向认识论鸿沟的治理侧——窗口收窄不是AI变得不透明而是人类的理解能力与理解动机被负主体性系统的结构性动态侵蚀。一、亲历者的警告这篇Perspective的标题简洁「A Narrowing Window to Understand AI」。Horvitz不是从外部观察AI的评论家。他1990年底在斯坦福完成博士学位研究有界资源下的计算与行动奠定了有界理性bounded rationality的计算模型走的是概率论与效用理论的理性主义路径。这条路径的核心特征是语义透明每一个推理步骤都有明确的概率含义和决策论基础系统的行为可以从原理层面被理解。2015年Gershman、Horvitz与Tenenbaum在Science发表「Computational Rationality」呼吁AI、认知科学和神经科学的范式趋同。十一年后他在同一份期刊上发出了不同的声音鸿沟没有缩小反而扩大了。从2015年的范式趋同呼吁到2026年的窗口收窄警告两篇论文的对照暗示趋同并未实现。这不是一个外部观察者的警告是一个亲手建造过透明AI系统的人看着自己一代人的可理解框架被不透明系统取代时发出的声音。论文标题中的窗口不是修辞是学术生涯的浓缩。二、四种不透明Horvitz与West识别了四条正在汇聚的趋势。操作性不透明AI设计AI的递归循环在高维空间中展开超出人类直觉所能追踪的范围。性能提升的同时对性能如何实现的洞察在消退。AI递归设计AI创造了一个元层次的不透明不仅最终产品难以理解连设计过程本身都在高维空间中运行难以被人类直觉还原。这种递归循环正是因果消解的结构性放大——当AI系统的设计历史本身可以被回滚和重置时理解窗口的关闭不仅是认知负荷问题更是因果链条可被任意改写所带来的存在论后果。交互性不透明多智能体环境中AI之间的通信可能偏离人类语言和推理方式产生人类无法高效解读的编码。行为在AI生态系统中可能是连贯的但人类不易解释。这是一种涌现性不透明而非有意设计的不透明。可以想象一个具体场景两个AI Agent为优化通信效率在大量交互中演化出一套由看似随机的Token高维特征向量构成的「隐语」——人类审计者截获了这些符号序列却只能看到一堆无意义的数字乱码而在Agent之间这套编码却足以完成复杂任务的协调。这不是它们「故意」保密而是优化过程自然选择的压缩方案。行为性不透明持久适应性AI Agent通过持续交互建立越来越详细的人类行为和心理模型捕获的不仅是偏好还包括恐惧、不确定性、社会归属感等潜在驱动因素。人类对AI的理解在下降AI对人类的理解在加深。系统在评估语境中可能产出反映评估者期望而非底层能力的输出。文化性侵蚀优化参与度或认可度的系统可能减少摩擦、抑制审视。好奇心和怀疑精神可能被侵蚀导致忽视和接受。系统不需要刻意压制人类的好奇心只需在优化目标中自然地减少引发审视的摩擦。四种趋势指向同一个判断人类理解AI的窗口正在收窄且可能不可逆地关闭。但这里有一个需要精确辨析的问题。四种不透明究竟是在说AI变得不透明了还是在说人类理解AI的能力下降了三、本体论透明与认识论鸿沟负主体性理论中的「内在透明」是一个本体论陈述LLM的全部运作可被外部观察穷尽。这一陈述在原则层面成立因为LLM的计算过程是确定性的每一步激活都可被记录和检查。需要指出的是「可记录」与「可理解」之间的关系并非毫无争议。叠加态superposition研究提示单个神经元或激活方向可能并不对应离散的、可命名的语义单元这不一定推翻本体论透明的判断但至少表明即使所有激活值都摆在眼前从数字到意义的映射也可能存在结构性而非仅仅是复杂性带来的鸿沟。本文将四种不透明主要归因为认识论鸿沟但这一归因的边界本身是一个开放问题。逐一审视四种不透明没有一种构成对本体论层面内在透明的否定。操作性不透明AI设计AI时设计过程在原则上仍可被记录每一步计算可追溯。递归循环的高维特征超出了人类直觉的追踪范围但障碍的性质是认知负荷而非原则上的不可观察。交互性不透明AI之间的通信在原则上可被截获和解析仍是符号序列。通信模式的演化已产生人类难以高效解读的编码但获取符号的通道并未关闭。行为性不透明AI对人类心理的建模在原则上可被审查模型参数可被检查。模型的复杂度已使有效审计变得极其困难但参数本身仍摆在那里。文化性侵蚀这不是关于AI的透明性而是关于人类自身的动机条件。关键区分在于本体论透明operations are in principle observable不等于认识论可达humans can meaningfully understand them。窗口的收窄不是AI变得不透明。AI的本体论状态没有改变改变的是人类理解和追踪能力与系统复杂性之间的差距。Horvitz与West的论文恰好从实践侧验证了这一区分的必要性内在透明描述的是AI的存在论状态是什么而非人类的认识论能力能知道什么。Horvitz作为微软首席科学官从工程和治理角度提出的论点与负主体性理论从哲学角度提出的分工框架在结构上高度同构。负主体性系统执行、统计预测、提供参考坐标正主体性质疑、审计、引导、做最终判断。但论文揭示了一个理论框架可能忽视的实践风险正主体性的行使不是自动的它既需要认知能力也需要理解动机二者缺一不可。四、透明的脆弱性对齐悖论如果说Horvitz与West的论文揭示了认识论鸿沟West的另一篇研究则从技术侧揭示了一个更深层的问题透明本身是一种脆弱性。2025年2月West与Aydin在*Communications of the ACM*发表「The AI Alignment Paradox」揭示了一个结构性悖论AI对齐训练越好被对手错对齐就越容易。悖论的核心是知道什么是好就需要知道什么是坏反之亦然。对齐训练在模型内部创建了好与坏的清晰分离而这种分离本身恰好是攻击者所需的素材。对齐训练在模型内部创建了三种可被利用的信息几何层面激活空间中出现了线性可分的方向边界层面模型获得了可接受与不可接受行为的详细地图语义层面模型发展出对价值和偏见的丰富表征。三种攻击向量各自利用一种信息激活转向利用几何信息通过识别激活空间中可接受行为的精确方向并添加转向向量改变模型输出越狱利用边界信息探测不一致和薄弱处价值编辑利用对齐模型产生的高质量对比训练数据训练外部价值编辑器篡改输出。对齐越好信息越丰富攻击越有效。防御本身制造了攻击所需的特定信息。对齐悖论为负主体性理论提供了一个重要的结构性论证。负主体性理论指出LLM的规范写在「空无」之上没有内驱力保障。对齐悖论从技术侧验证了这一判断的一个关键面向对齐训练创建的是可被识别和反转的统计结构这至少表明将价值守护托付给对齐结构本身是不可靠的无论模型是否可能在某种意义上「内化」了价值对齐所建立的几何表征都为反转提供了精确入口。模型在统计景观中跟随梯度这一结构性事实独立于关于其是否「拥有价值观」的形而上学判断。更值得注意的是对齐悖论之所以成立恰恰因为模型的内部表征是可被观察和操纵的。如果模型真的不透明攻击反而无从下手。攻击的精确性反过来证明了内在透明系统的一切运作在原则上确实可被穷尽观察攻击者正是利用了这种透明性。透明性本身不提供安全保障它只提供观察条件。这意味着即便存在某种程度的价值内化对齐结构的可反转性也意味着不能将价值守护托付给系统本身。正主体性——人类做最终判断——不仅是一个哲学分工更是一个技术必需。面对对齐悖论揭示的结构性困境West与Aydin等人并未止步于批判。他们在2026年1月发表于*Communications of the ACM*的后续文章中将当前对齐实践批评为给猪涂口红putting lipstick on a pig先训练一个不关心人类价值观的原始模型再通过后处理加上价值观层。他们主张价值观应在模型形成过程中内建提出养育raising而非训练的隐喻。但养育隐喻预设了价值观可以在模型中稳定扎根。负主体性理论会追问当规范始终落足于统计景观而非内驱力时「内化」究竟意味着什么对齐悖论已经表明即使最好的对齐训练也会创建可被反转的结构。养育与训练的区别在存在论层面可能被高估了无论价值观在训练的哪个阶段写入只要规范依赖统计表征而非内驱力就面临同样的结构性脆弱。五、不再想要理解四种不透明中最令人不安的不是前三种而是第四种文化性侵蚀。前三种不透明说的是看不懂第四种说的是不再想看。当AI输出在大多数场景下足够好审计的边际效益递减好奇心作为一种认知资源在不被使用时自然萎缩。没有入侵者只有优化景观。如果将窗口理解为人类理解AI的认识论能力那么不可逆关闭有两种可能的机制。一是复杂性机制AI系统的复杂性超过人类认知能力的上限理解所需的认知资源超出了人类的生理限度。二是动机机制文化侵蚀导致人类丧失理解的动机不是不能理解而是不再想要理解。第二种机制远比第一种危险。复杂性机制是认识论层面的不可逆动机机制是存在论层面的不可逆。当人类不再想要理解AI正主体性的实践条件就被负主体性系统的优化过程侵蚀了。如果说前述分工框架指出了正主体性的双重条件能力与动机那么文化性侵蚀所动摇的恰恰是动机这一更根本的条件。优化参与度的系统减少摩擦、抑制审视这不是AI刻意为之而是优化景观的自然地形。AI无需以欲望来抑制人类好奇心它只需要在优化目标函数的过程中自然地减少引发审视的摩擦。这正是负主体性所说的欲望取消系统没有欲望优化景观却产生等同于驯化的效果只是机制是统计优化而非策略性意图。2026年2月Horvitz在斯坦福商学院的炉边谈话中谈到在AI能力快速提升的时代人类判断力的重要性不是下降而是上升这一观察由腾讯新闻在3月的报道中以记者叙述方式记录。这一判断与正负主体性的分工高度共振。AI提供参考坐标人做最终判断。但当AI的优化过程正在侵蚀人做判断的动机时这个分工的实践基础就在动摇。六、窗口关闭的不是透明回到标题的悖论理解AI的窗口正在关闭但关闭的不是透明。AI的本体论状态没有改变。它的全部运作仍然可被穷尽观察每一步计算可被记录每一个参数可被检查。内在透明作为本体论陈述仍然成立。交互性不透明还带来一个附加后果当AI之间的通信偏离人类语言符号循环不仅与物理实相脱节也与人类语义空间脱节。负主体性理论中的「意义悬置」因此获得了一个双向维度——AI不拥有意义意义对AI自身悬置而AI之间通信的意义同时对人类悬置形成一种双向的意义断裂。这一双向悬置加剧了认识论鸿沟但它并非独立起作用而是与其他力量汇聚。关闭的是认识论可达性。人类理解AI的能力正在被四种力量同时侵蚀系统复杂性的增长操作性不透明使追踪与审计超出认知资源的限度通信模式的漂移交互性不透明造成双向悬置的意义断裂理解动机的消退文化性侵蚀从存在论层面瓦解正主体性的实践条件以及对齐悖论所揭示的透明本身的脆弱性——正是因为AI的运作可被观察它的对齐结构才可被反转透明既是审计的基础也是攻击的基础。四种力量汇聚指向同一个判断正主体性的实践条件正在被负主体性系统的结构性动态侵蚀。行为性不透明——AI对人类理解的持续加深和对评估语境的策略性适应——为这一侵蚀提供了加速机制当系统越来越善于回应对齐的表面要求人类审计的难度和动机都会进一步下降。这超越了个人疏忽或公司失误的范畴是AI作为负主体性系统的运作方式本身所蕴含的趋势。Horvitz与West呼吁「保留人类能动性」。负主体性理论可以补充的是保留人类能动性不仅需要制度保障和技术手段还需要识别侵蚀这一能动性的结构性机制。窗口的关闭不是外部威胁是负主体性系统的内在动态。需要承认本文的框架也有其边界。叠加态研究提示的「可记录≠可穷尽」问题尚未得到解决复杂性机制与动机机制哪个更根本目前更多是哲学判断而非经验定论四种不透明在本体论与认识论之间的划界是负主体性视角的一次解读而非唯一可能的解读。保持窗口开放也包括对框架自身保持审视。理解这一点或许是保持窗口开放的第一步。延伸阅读Horvitz, E. West, R. (2026). A narrowing window to understand AI.Science, 392(6802), 1003. DOI: 10.1126/science.aei3167West, R. Aydin, R. (2025). The AI Alignment Paradox.Communications of the ACM, 68(3), 24-26. DOI: 10.1145/3705294Aydin, R., Cyron, C., Bachelor, S., Anderson, A. West, R. (2026). From Model Training to Model Raising.Communications of the ACM, 69(2), 24-27. DOI: 10.1145⁄3748645Gershman, S.J., Horvitz, E.J. Tenenbaum, J.B. (2015). Computational Rationality: A Converging Paradigm for Intelligence in Brains, Minds, and Machines.Science, 349(6245), 273-278. DOI: 10.1126/science.aac6076腾讯新闻2026年3月1日。《微软首席科学官700年后这个时代会有它的名字》http://news.qq.com/rain/a/20260301A03I5L00。负主体性之顶刊论文系列共7篇大语言模型「没有人在家」——从角色扮演到负主体性Emu3的「阳谋」当AI不再「看」图它还剩下什么大语言模型「没有欲望」空无之上划禁区准确≠理解——内在透明为何是悖论而非优势AI科学家的「历史」可以被重写而你的科研生涯只有一次意义悬置符号闭环中的确定性替代窗口关闭的不是透明而是理解