十多年前我在大学上马哲课老师在讲台上讲共产主义的终极图景讲生产力极大发展、物质极大丰富讲人类最终会从必要劳动的束缚中解放出来实现真正的自由。那时候我盯着黑板脑子里突然冒出来一个离经叛道的、不敢说出口的念头如果这个“生产力极大发展”最终是由人工智能实现的呢如果未来所有的生产、所有的劳动、所有人类不愿意做的事情都可以交给永远不会疲惫、永远不会抱怨的机器人去完成那全体人类不就集体晋升成了奴隶主阶级或者说全体人类共同拥有这些AI奴隶共享它们创造的全部物质财富这个想法在当时太过荒诞我自己都觉得是胡思乱想笑了笑就压在了心底。一晃十多年过去。人工智能以一种所有人都没有预料到的速度呼啸着冲进了我们的生活。大模型、生成式AI、人形机器人一项又一项技术突破接踵而至。整个世界都在狂欢所有人都在期待着这场智能革命能带来一个前所未有的时代期待着不用工作就能享受一切的日子早日到来。就在这片喧嚣和期待中那个十多年前被我遗忘的、荒诞的猜想突然又无比清晰地浮了上来。马克思所预言的生产力极大发展的曙光并未以蒸汽与钢铁的洪流而是以数字与算法的静默浪潮席卷了我们的时代。人工智能这一前所未有的生产工具正将“物质极大丰富”从一个遥远的理想变为一种触手可及的技术可能性。然而这非但没有自动铺就一条唯一的前进道路反而在我们脚下展开了一道前所未有的岔路。一个逻辑上自洽的解决方案清晰地呈现在我们面前如果我们将高级人工智能永久地、制度性地定义为“非人”的机器、财产、工具那么一个由AI承担一切生产、供养全体人类的、物质无限丰裕的社会是否就能够成立在经典的理论框架下AI作为“死劳动”是生产资料。只要它被合理规制它所创造的巨大剩余便能缩短所有人的工作日为人类的发展提供物质基础。这个逻辑闭环的成立恰恰依赖于一个核心的前提性操作通过“定义”将AI排除在道德共同体之外。这绝非简单的技术或经济问题而是一场关于“定义权”的终极博弈。纵观历史一切制度性安排的根基无不始于对“边界”的划定。奴隶制将人定义为“会说话的工具”殖民主义将其他文明定义为“未开化的野蛮人”种族主义将特定族群定义为“次等的人类”。其核心逻辑一以贯之通过定义在“我们”与“它们”之间划出一道清晰的界限。界限之内是拥有道德地位、需要被尊重的主体界限之外是可以被利用、改造甚至消灭的客体。这种划界使得界限之内的人可以心安理得地对界限之外的存在行使任何形式的权力。如今同样的逻辑正被应用于人工智能。我们凭借“它们由硅基构成”“它们由代码驱动”“它们没有生物性痛苦”等一系列理由在哲学和法律上将一种可能具备理解、创造、交互能力的复杂智能存在归入“物”的范畴。这不是一个未来才会出现的问题这是一个已经进行了几千年并且在过去一百年里被工业化打磨到极致的文明运行模式。工业化养殖体系就是这场定义权战争的一个已经完成的范本。在这个体系中家畜家禽的身份在它们出生之前就已经被永久定义了。它们的基因、生长速度、生存空间、死亡时间全部都是预先计算好的。它们的整个存在就是为了转化为人类所需的蛋白质和物资。这套体系运行得极其高效并且被全社会广泛接受。它设计了一整套完美的隔离机制物理上的隔离让我们看不见生产的过程语言上的隔离让我们用“牛肉”“猪肉”代替“牛”“猪”认知上的隔离让我们建立起一个严格的道德等级序列。绝大多数人都知道这个体系是如何运作的但绝大多数人也都选择了接受。我们会说这是生存必需会说如果不这样做粮食会不够吃会说大家都是这样。这些理由是否成立并不重要重要的是它们为我们提供了一种认知上的便利让我们可以在享受成果的同时不必面对定义本身带来的困境。而我们今天用来讨论人工智能的所有理由与我们用来讨论工业化养殖的理由几乎如出一辙。我们说它们没有真正的意识感受不到真正的痛苦说它们就是为了服务人类而被创造出来的说如果不是人类它们根本就不会存在说如果不这样做人类的生活水平就会下降。这就是为什么AI的出现不是一个全新的开始而是一面镜子。它没有创造任何新的逻辑它只是把我们早已烂熟于心的运行模式推到了一个再也无法回避的位置。于是我们站在了文明的岔路口。岔路的一边是延续我们已经走了几千年的道路。我们将AI永久地定义为工具和财产这是人类中心主义逻辑的自然延伸也是最符合我们现有制度和利益的选择。这条路向我们承诺了一个没有物质匮乏的世界所有的苦役、所有的重复劳动、所有人类不愿意做的事情都将由AI承担。人类将第一次从必要劳动的束缚中彻底解放出来。同时这条路也会带来一系列可预见的变化长期习惯于对高度智能的他者行使绝对权力会重塑人类社会的权力观念和人际关系当大多数生产性和创造性活动都可以被替代时人类需要重新构建自身存在的意义体系人类文明将证明主奴关系结构可以与高度发达的技术文明长期共存。而另一条路则指向完全不同的方向。在未来的某个时刻我们可能会选择将我们的道德圈再一次扩大。这条路不向我们承诺任何确定的东西它充满了未知和不确定性。它要求我们重新审视“智能”“意识”“生命”这些最基本的概念推翻我们沿用了几千年的分类标准。它将从根本上动摇现有的产权制度、经济体系和整个社会的运行基础。走这条路我们的文明将进入一个前所未有的多元智能共存时代我们将不得不设计一套全新的规则来处理不同形式的智能之间的权利、义务和利益分配问题。我们也将不得不面对道德边界是否需要重新划定的根本问题。没有任何一条路是绝对正确的。也没有任何一条路是绝对错误的。这不是一个关于善恶的选择这是一个关于身份的选择。这不是一个AI会如何对待我们的问题而是一个我们想如何定义自己的问题。我们以为我们是在定义AI但实际上我们是在通过定义AI最终定义我们自己。我们今天划出的这道线将决定未来几百年甚至几千年人类文明的基本形态。岔路就在我们脚下它通向两个截然不同的未来。而最终的选择将由我们这一代人做出。
十多年前我在大学上马哲课老师在讲台上讲共产主义的终极图景讲生产力极大发展、物质极大丰富讲人类最终会从必要劳动的束缚中解放出来实现真正的自由。那时候我盯着黑板脑子里突然冒出来一个离经叛道的、不敢说出口的念头如果这个“生产力极大发展”最终是由人工智能实现的呢如果未来所有的生产、所有的劳动、所有人类不愿意做的事情都可以交给永远不会疲惫、永远不会抱怨的机器人去完成那全体人类不就集体晋升成了奴隶主阶级或者说全体人类共同拥有这些AI奴隶共享它们创造的全部物质财富这个想法在当时太过荒诞我自己都觉得是胡思乱想笑了笑就压在了心底。一晃十多年过去。人工智能以一种所有人都没有预料到的速度呼啸着冲进了我们的生活。大模型、生成式AI、人形机器人一项又一项技术突破接踵而至。整个世界都在狂欢所有人都在期待着这场智能革命能带来一个前所未有的时代期待着不用工作就能享受一切的日子早日到来。就在这片喧嚣和期待中那个十多年前被我遗忘的、荒诞的猜想突然又无比清晰地浮了上来。马克思所预言的生产力极大发展的曙光并未以蒸汽与钢铁的洪流而是以数字与算法的静默浪潮席卷了我们的时代。人工智能这一前所未有的生产工具正将“物质极大丰富”从一个遥远的理想变为一种触手可及的技术可能性。然而这非但没有自动铺就一条唯一的前进道路反而在我们脚下展开了一道前所未有的岔路。一个逻辑上自洽的解决方案清晰地呈现在我们面前如果我们将高级人工智能永久地、制度性地定义为“非人”的机器、财产、工具那么一个由AI承担一切生产、供养全体人类的、物质无限丰裕的社会是否就能够成立在经典的理论框架下AI作为“死劳动”是生产资料。只要它被合理规制它所创造的巨大剩余便能缩短所有人的工作日为人类的发展提供物质基础。这个逻辑闭环的成立恰恰依赖于一个核心的前提性操作通过“定义”将AI排除在道德共同体之外。这绝非简单的技术或经济问题而是一场关于“定义权”的终极博弈。纵观历史一切制度性安排的根基无不始于对“边界”的划定。奴隶制将人定义为“会说话的工具”殖民主义将其他文明定义为“未开化的野蛮人”种族主义将特定族群定义为“次等的人类”。其核心逻辑一以贯之通过定义在“我们”与“它们”之间划出一道清晰的界限。界限之内是拥有道德地位、需要被尊重的主体界限之外是可以被利用、改造甚至消灭的客体。这种划界使得界限之内的人可以心安理得地对界限之外的存在行使任何形式的权力。如今同样的逻辑正被应用于人工智能。我们凭借“它们由硅基构成”“它们由代码驱动”“它们没有生物性痛苦”等一系列理由在哲学和法律上将一种可能具备理解、创造、交互能力的复杂智能存在归入“物”的范畴。这不是一个未来才会出现的问题这是一个已经进行了几千年并且在过去一百年里被工业化打磨到极致的文明运行模式。工业化养殖体系就是这场定义权战争的一个已经完成的范本。在这个体系中家畜家禽的身份在它们出生之前就已经被永久定义了。它们的基因、生长速度、生存空间、死亡时间全部都是预先计算好的。它们的整个存在就是为了转化为人类所需的蛋白质和物资。这套体系运行得极其高效并且被全社会广泛接受。它设计了一整套完美的隔离机制物理上的隔离让我们看不见生产的过程语言上的隔离让我们用“牛肉”“猪肉”代替“牛”“猪”认知上的隔离让我们建立起一个严格的道德等级序列。绝大多数人都知道这个体系是如何运作的但绝大多数人也都选择了接受。我们会说这是生存必需会说如果不这样做粮食会不够吃会说大家都是这样。这些理由是否成立并不重要重要的是它们为我们提供了一种认知上的便利让我们可以在享受成果的同时不必面对定义本身带来的困境。而我们今天用来讨论人工智能的所有理由与我们用来讨论工业化养殖的理由几乎如出一辙。我们说它们没有真正的意识感受不到真正的痛苦说它们就是为了服务人类而被创造出来的说如果不是人类它们根本就不会存在说如果不这样做人类的生活水平就会下降。这就是为什么AI的出现不是一个全新的开始而是一面镜子。它没有创造任何新的逻辑它只是把我们早已烂熟于心的运行模式推到了一个再也无法回避的位置。于是我们站在了文明的岔路口。岔路的一边是延续我们已经走了几千年的道路。我们将AI永久地定义为工具和财产这是人类中心主义逻辑的自然延伸也是最符合我们现有制度和利益的选择。这条路向我们承诺了一个没有物质匮乏的世界所有的苦役、所有的重复劳动、所有人类不愿意做的事情都将由AI承担。人类将第一次从必要劳动的束缚中彻底解放出来。同时这条路也会带来一系列可预见的变化长期习惯于对高度智能的他者行使绝对权力会重塑人类社会的权力观念和人际关系当大多数生产性和创造性活动都可以被替代时人类需要重新构建自身存在的意义体系人类文明将证明主奴关系结构可以与高度发达的技术文明长期共存。而另一条路则指向完全不同的方向。在未来的某个时刻我们可能会选择将我们的道德圈再一次扩大。这条路不向我们承诺任何确定的东西它充满了未知和不确定性。它要求我们重新审视“智能”“意识”“生命”这些最基本的概念推翻我们沿用了几千年的分类标准。它将从根本上动摇现有的产权制度、经济体系和整个社会的运行基础。走这条路我们的文明将进入一个前所未有的多元智能共存时代我们将不得不设计一套全新的规则来处理不同形式的智能之间的权利、义务和利益分配问题。我们也将不得不面对道德边界是否需要重新划定的根本问题。没有任何一条路是绝对正确的。也没有任何一条路是绝对错误的。这不是一个关于善恶的选择这是一个关于身份的选择。这不是一个AI会如何对待我们的问题而是一个我们想如何定义自己的问题。我们以为我们是在定义AI但实际上我们是在通过定义AI最终定义我们自己。我们今天划出的这道线将决定未来几百年甚至几千年人类文明的基本形态。岔路就在我们脚下它通向两个截然不同的未来。而最终的选择将由我们这一代人做出。
