2025年1月中旬，“双体实验室”举办了一次关于人工智能的小型讨论会，由林峰担任主持和提问，金观涛、余晨回答相关问题，从哲学认识论角度反思了人工智能的过去、现状和未来，刘青峰也加入讨论。会后，林峰、宋福杰、徐书鸣进行了书稿整理，金观涛、刘青峰对讨论稿做出重新梳理和表述，林峰、余晨参与最终定稿。这次讨论会的参与者还有桑田、宋福杰、李金茂、袁振、曹方麟、刘蘅、简直等。感谢刘蓬先生资助并参加了这次活动。

本文是这次讨论会文稿的节选。讨论会全部文章收录于金观涛《我的哲学探索》一书别册《关于AI的对话：智能的过去、现在与未来》

与谈人简介

金观涛

生于1947年，现任中国美术学院南山讲座教授、香港中文大学中国文化研究所高级名誉研究员。主要著作有《系统的哲学》《历史的巨镜》《轴心文明与现代社会》《消失的真实》《真实与虚拟》。与刘青峰长期合作研究，合著代表作有《兴盛与危机》《开放中的变迁》《中国现代思想的起源》《观念史研究》《中国思想史十讲（上卷）》。

林峰

毕业于西安交通大学，长期从事电信与互联网设备领域的硬件研发与供应链管理工作。著有《“理解”供应链——系统论视角下的供应链概念》。双体实验室播客主理人。

余晨

易宝支付联合创始人、总裁，易宝公益联合发起人，元宇宙与人工智能三十人论坛理事会理事，2019、2023年度中国公益人物，复旦大学哲学课堂客座教授。著有畅销书《看见未来：改变互联网世界的人们》。双体实验室总顾问。

刘青峰

香港中文大学中国文化研究所名誉研究员，香港中文大学《二十一世纪》双月刊创刊编辑。毕业于北京大学，曾任郑州大学教师、中国科学院副研究员，《自然辩证法通讯》编辑。著有《让科学的光芒照亮自己》《公开的情书》。与金观涛长期合作研究，合著有《兴盛与危机》《开放中的变迁》《中国现代思想的起源》《观念史研究》《中国思想史十讲（上卷）》。

林峰

讲到这里，我想回到金老师在讨论刚开始时所指出的，当前的人工智能革命应视为现代科技本身的“脱嵌”。

今天，人工智能研究者千方百计地想办法消除大语言模型中的幻觉（hallucinations），然而，基于人工智能的工作原理是将“使用语言”这个本由主体规定的确定过程变为没有主体的概率过程，那幻觉就是不能彻底消除的。科学真实中主体可悬置，这是在科学真实领域中智能可以和主体分离的原因，而与主体分离后的人工智能会产生幻觉，也就意味着真实性有丧失的可能，这不正是智能“脱嵌”带来的问题吗？

余晨

《轴心文明与现代社会》中对“脱嵌”有一个定义，就是现代市场经济和科技发展从束缚它的有机体中解放出来时，不能完全被纳入一个新的容量不断增大的社会整合框架中去。这个新的整合框架就是现代社会结构。今天，人们普遍把现代社会当作契约社会，然而它是建立在理性和终极关怀二元分离之上的。现代社会的有效运作，不能离开终极关怀，因道德和人生的终极价值由终极关怀规定。今天，“脱嵌”之所以在各个方面出现，是因为建立在理性之上的现代契约社会，正面临道德和人生终极价值丧失的危机。然而，人工智能导致的“脱嵌”也能归为终极关怀和理性的分离吗？

刘青峰

从我的感受来看，确实是有这样的问题。我用一些搜索网站查询信息时，首先跳出来的是AI给出的答案。面对AI给出的答案，我往往感到无趣和沮丧。因为我是一个从小就有求知欲望、爱学习、活到老学到老的人，我想要的不是一个众所周知的平庸答案，而是能够在求知过程中感到愉悦。刚才余晨讲现代社会危机的根源是终极关怀退出公共领域，可能主要是指宗教和传统生死观。AI如此强大，似乎无所不知、无比正确，我想，那些有宗教信仰的人会质疑它是否要扮演造物主。而对我这样的人来说，一旦失去求知过程的乐趣，活着的意义在哪里？

自小我就对星空充满好奇心。1961年加加林上天，我就觉得人太伟大了，居然可以离开地面进入太空，这激励我考上了北京大学物理系。星空的神秘感对我而言始终存在。在我进入老年后，2021年詹姆斯·韦伯空间望远镜上天的时候，我还非常有兴趣地去了解它整个过程中的挫折和成功，去了解怎么计算这个拉格朗日点。这一切今后还有意义吗？这让我想起《星际穿越》里反复出现的一首诗：

不要温和地走进那个良夜，

老年应当在日暮时燃烧咆哮；

怒斥，怒斥光明的消逝。

这些诗句中有一种坚守和热爱。当人工智能的浪潮把人类吞没时，人会不会失去对未知的神秘感和好奇心？实际上，追求知识和以知识追求为生命意义并不是一回事。人需要的是对生活意义的不懈追求，不是一个答案。有追求，这才是人啊！

金观涛

青峰的说法有道理，背后涉及求知能不能成为终极关怀的问题，但现代人除了把认知作为生命意义外，似乎没有其他的选择了。20多年前，我和青峰在中山大学做观念史研究的报告，一位做自然辩证法研究的朋友评论说，当年你们提出大历史观，今天却在咬文嚼字。当时，我想到了清代学者戴震。任何知识哪怕再微小，它也代表了真实性追求。

人工智能的出现，动摇了这种意义。本来测定蛋白质三维结构需要科学家用冷冻电镜来观察和试验，现在人工智能一下子就做到了。如果知识就是一个正确答案，用人工智就能得到，求知过程意义何在？

从历史上看，求知能否作为终极关怀，这本来就有争议。古希腊文明之所以出现超越视野转向，就是因为求知不能解决生死问题。现代性需要终极关怀与理性的二元分离，依据的正是认知理性必须和其他终极关怀分裂共存，而不是仅仅用认知这一种超越视野作为生命意义。在此意义上，求知意义的丧失使得现代性面临的挑战更为严峻了。它不仅要求各种超越视野的纯化和多元共存，还要求在人工智能时代重塑求知本身的意义。

林峰

我认为，有了人工智能后，认知作为终极关怀不会改变，改变的只是求知方法。21世纪的大学生已经高度依赖人工智能了，2025年初ChatGPT有次宕机了，导致很多学生连论文都写不下去了，有些喜欢夸大其词的自媒体惊呼：“学术因此倒退了100年。”写学术论文是求知和获得新发现，现在可借助于人工智能，这说明人工智能正在重新定义求知过程。

其实，被重新塑造的还包括人与人之间的情感交流。2013年有一部科幻电影叫《她》（Her）。Her是个和ChatGPT类似的AI，在电影中是一个完美的恋爱对象。男主人公原本有情感障碍，与很多人都合不来，Her出现后，与他谈了一场完美的恋爱。电影的结局有个反转，Her在某一天突然觉醒了，认为男主人公与自己不匹配。

余晨

美国物理学家迈克斯·泰格马克出版过一本名为《生命3.0》的书，他设想了十几种未来人工智能时代中可能出现的情况，例如机器把人干掉了，或人把机器降伏，其中一种很特别的情况叫“善意的独裁者”。人不再作为知识的追求者，因为所有的科学定律都已经被机器发现过了。然而，泰格马克认为人还可以找到活下去的意义，这就是和幼儿园的小孩一样，被老师带着玩游戏，让人工智能带领着人类再发现一遍科学定理，这不仅有乐趣，还没有任何风险。

金观涛

我认为余晨提出的例子并不意味着人工智能创造了求知的新形态。让人工智能带着人类再发现一遍科学定理，实际上是历史上曾经发生过的在某种价值和意识形态指导下做研究的重演。中世纪就是在神学笼罩下做各种学问，20世纪还出现过在不同主义支配下的科学研究，都不仅仅是在老师带领下的玩游戏。

至于人工智能可以改变人的情感交流，更是一种幻觉。《她》这部电影讲的究竟是恋爱还是一种自恋？人工智能没有主体，Her的主体其实是爱她的那个男主人公给予她的。人和人工智能谈恋爱只是我和我的另一部分相爱。自古以来就有自恋，人工智能对其赋予了恋爱的形态。至于电影的结局，不过是人从自恋中醒过来。这表明，在人类的感情生活中，还是那句老话：太阳底下没有新事物。

刘青峰

关键是人工智能不可能有主体。我年轻时爱看阿西莫夫的书，他提出机器人三定律。机器人有主体，道德戒律才有意义。现在大语言模型问世了，人工智能没有主体，机器人三定律一条都不成立。这种机器人用于战争，是人类的悲剧。我喜欢看《星球大战》系列电影，其中的小机器人R2-D2非常可爱，能够非常机灵地解决很多问题。后来还出来一个C-3PO，是一个礼仪机器人。包括《星际穿越》在内，很多的科幻电影中既有反思，也有父女之间的感情。我觉得AI时代，拍不出这样的电影。

余晨

刚才谈到人工智能对人类社会的威胁，大众一般会想到好莱坞电影呈现的内容—机器觉醒并消灭人类。但在现实中，人工智能的威胁更体现在以下两个方面：第一，人工智能的出现，使得获得真相的成本更高。这样，人类社会就会真正进入一个后真相时代，民主社会运作的基础也就不存在了。第二，人工智能在理论上可能创造出比现有生产力高出几个数量级的财富，但分配问题也就显现了出来，很可能会因此带来更大的贫富差距。在工业时代，人的才能大体呈现出正态分布，流水线上最熟练的工人比最不熟练的工人可能也就高出两倍的才能。

而在互联网时代，人的才能差异可能会呈现出幂律分布，一个好的程序员在收入上可能比普通程序员高出十倍以上。在人工智能时代，这个差别可能会发生指数级的增长。现在有一个新概念叫“超级个体”，在人工智能技术的支持下，萨姆·奥尔特曼认为未来可能会出现一个人的独角兽企业（即市值10亿美元以上的公司）。

最近另一个流行的概念是AIAgent，也就是人工智能代理，它是一种能够代表用户或其他系统自主执行任务的智能体。那么，未来也许只需要一个人指挥成千上万的Agent，就能运营一家公司，形成一个独角兽企业。这会带来财富分配的危机。

林峰

针对刚才我们提到的人工智能对人类社会的潜在威胁，很多人工智能专家也在试图寻找预防和控制的办法，其中一个尝试叫“超级对齐”。最早是OpenAI在2023年建立的一个团队提出的。“超级对齐”的主要目标就是试图让人工智能在价值观上与人类对齐，以防止在人工智能的自由意志涌现之后，威胁人类社会。当然，“超级对齐”对价值的定义是功利性的，属于价值函数或效用函数内的概念。

金观涛

什么是价值？我认为价值是主体对对象的评价，这个评价规定了主体对对象的态度、行为方式。举个例子，一个男孩爱上一个女孩，表明男孩对女孩有一个评价—她是值得爱的。但光有评价还不够，这个男孩对女孩的行为方式、说话态度都要发生转变，这才构成价值。

因此，价值包含两个层面：第一，价值是主观的，是对主体而言的；第二，一旦价值产生，就会改变主体对对象的行为方式。一旦价值社会化，被所有人接受之后，就会发生普遍观念和社会行动的互动。我刚才也说过，人工智能中不可能产生主体性，试图与人类价值的“超级对齐”很可能实现不了，即便实现了，出现的也不是价值问题。这一切可能引发未知的社会灾难。不过，这个社会灾难不是机器造成的，而是来源于人类自身。

余晨

价值是要有主体的，但“超级对齐”并不要求机器有主体性和意识。以核能的开发为例，人类要设计一套符合自身价值的规定和协议，防止核能开发中发生违背人类价值的事情。“超级对齐”的思路也是如此。

机器不具备价值主体性，这在很多时候是一件好事。正因为机器不具备意识和主体性，它才不是道德的主体和对象，人也不需要对机器担负伦理责任。人可以奴役机器为其服务而不需要有任何道德负担，因为机器没有意识，不会产生痛苦。

然而，“超级对齐”过程中，经常会出现很多非预期的后果—毕竟现实的社会系统太复杂了。哲学家尼克·博斯特罗姆于2003年提出一个思想实验，名为“极致曲别针制造机”（paperclip maximiser）。人工智能得到一个指令：尽可能多地生产曲别针。在这个一切都是为了尽可能搜集资源去制造曲别针的过程中，机器人和人类发生冲突，并消灭了人类。

刘青峰

作为思想史研究者，我还有一个担心，这就是机器迭代过程中是否有可能将过去的历史记忆都清洗掉。未来人们可能认为不再需要保存一种hardcopy（实体文档）的史料，而完全依赖机器，这时，一旦电脑宕机了，人类文明的记忆就彻底遗失了。我曾问过AI一个历史上的小问题，得到的回复是它处理不了，因为这个问题不在它的训练数据中。人们可能有一种幻觉：人工智能可以处理历史上所有的材料。

林峰

就像金老师在讨论会开场所说的，21世纪还剩下四分之三，在这段时间内，人工智能对人类社会的影响究竟会是正面的还是负面的？有意思的是，作为AI教父的辛顿对此持悲观态度。他认为未来30年内人工智能导致人类灭亡的概率高达10%~20%。

金观涛

这是我欣赏辛顿的地方。他向公众道歉，承认自己做了一件对人类有危险的事情，这种精神不简单。辛顿的担心是有可能出现的，但如果人类灭亡，导致这一可怕后果的原因不是人工智能超过人类，而是人类无法驾驭人工智能，解决不了它带来的社会问题。技术本身不会让人类灭亡，人类的灭亡是由于当技术带来重大社会问题时人类还没有在认知上做好准备，以至于不能应对。就像我们前面反复提及的，人工智能的本质是智能和主体的分离，分离后的智能完全可能被一些人控制，并损害个人自由，还可能被用于战争。现代社会正处在危机中！

其实，人类一直面临如何与自己发明的技术相处的问题。除了驾驭技术，人类还要去发现新的生活意义。农业革命之后，人类不再像部落社会那样逍遥了，定居本身是一件让人烦恼的事情，大部分人都要辛苦地耕作，生活变得不堪重负。但只要建立了跨地域文明，人就不得不适应这种变化，去发现新的人生意义。进入现代社会之后，个人的自主性得到高度扩张，同时也出现了一系列新的问题，如原本属于传统社会的意义的消失和孤独感。这时，求知和努力工作本身成了很多人的人生意义。

今天，当人工智能可以取代各种原来由人完成的工作时，以工作养家为意义就会受到挑战，必须重新确立人生的意义。我同意美国哲学家诺齐克的说法—人不是体验幸福的机器，而是意义的追求者。人工智能只是将现代社会中被隐藏的问题放大，让我们不得不面对而已。

林峰

金老师，在《轴心文明与现代社会》中，您提出21世纪人类正面临“新轴心时代”，人工智能革命似乎正在为这个“新轴心时代”添加更多的变数。现在已经是1月13日中午了，我们的对话已经持续了一天半。您能否对这一天半的讨论做一个总结呢？

金观涛

我还是回到轴心文明大历史观和真实性哲学来分析今天人类的处境。

有人说我们正在进入晚期现代社会，我不同意这种说法。现代社会必须经过不断改进才能成熟，今天也正处于自我改进的过程之中。现代性起源于天主教文明中终极关怀与理性的二元分裂，经历了近百年的宗教战争，才在加尔文教社会中形成。自从法国大革命开启天主教文明的现代转型起，在民族国家兴起、全球市场经济和科技的高速发展所带来的第一次“脱嵌”危机中，20世纪发生了两次世界大战，人类发明了足以毁灭自己的核武器。

但在两次世界大战后，现代社会实行了一次自我改进，此后出现了冷战结束和第二次全球化。第二次全球化展开半个世纪后，现代社会又面临第二次“脱嵌”的可能，人工智能革命是其中科技“脱嵌”的表现。也许，乐观点儿看，它可能加快现代社会第二次自我改进的进程。历史表明，现代社会作为轴心文明的新形态是在大风大浪中发展起来的，它一直在不断探索，并寻找一种可以保持现代市场经济和科技不断发展的社会结构。

如果把我们人类正在经历的现代社会第二次“脱嵌”看作走向新轴心时代，那么，我有两点看法。第一，现代社会不能没有终极关怀，而终极关怀的几种类型是在两千多年前的轴心时代形成，至今人们无法创造新的形态；第二，今日全球市场经济和科技“脱嵌”的原因是与终极关怀的萎缩乃至消失有关的，必须意识到这是不可避免的。早在轴心文明起源时，四种终极关怀中的认知理性就是不稳定的，后来被宗教文明吸纳、消化。在传统社会向现代社会转型中，终极关怀和认知理性处于二元分离状态，似乎找到了两者共存的方法。现在看来，事情没有那么简单。随着认知理性无限制地扩张，终极关怀必定会受到冲击，乃至萎缩、消失。今天，很多人试图回到旧宗教中去，怀念现代性起源时两者共存的状态，这份用心可能是良好的，但我们真能回得去吗？

我认为，在当今的现代社会，终极关怀仍然是道德和人生终极意义的来源，终极关怀不会消失，我们唯一能做的是将终极关怀“纯化”，使它们和现代社会科技认知相一致。轴心文明有四种超越视野，每种超越视野中又有若干种终极关怀，它们互相之间也是存在冲突的，这样，终极关怀的纯化不仅是化解它们和科学理性的不一致，还要能做到多元共存。

另外，作为现代性基石的个人自由虽然起源于加尔文教，但是我根据真实性哲学，论证了个人自由是元价值，和宗教没有关系；而要把独立自由的个人组织起来，只能是建立契约社会。当契约出现问题时，必须根据每个时代的问题做出改进。今天，无论是终极关怀的纯化还是契约社会的重建，都需要科学和人文的再一次合作。只有这样，我们才会有信心去开启现代社会进一步改进的探索之路。

当下，人类碰到的最大的问题是人文精神被科学乌托邦摧毁。在科技进步发展到人工智能革命所掀起的巨浪面前，很多人文学者不知道发生了什么。本来语言是人文研究的基础，现在机器会说话了，人工智能好像有了主体，人文学者的信心正在被人工智能摧毁。

我在《历史的巨镜》中曾写道：“现代性起源于人的解放，知识挣脱信仰和道德至上束缚的牢笼，个人从社会有机体中独立出来以申诉追求真理和创造的权利，但思想的死亡也是虚无对现代人的胜利。从此，一个个必定死亡的个体在孤独的黑暗里发问：生命的意义何在？同类的回声即使震耳欲聋，但也无助于克服死亡的恐惧。这将是人类心灵面临的真正的黑暗时代。”如何在现代性受到挑战的时代，高扬人的主体性，这正是人文学者的责任。我希望人文学者站起来，恢复自己的自信和勇气。要知道，在人工智能时代，人类比以前更需要人文研究和艺术创造！这是我对本次对话的总结。

文章节选自《我的哲学探索》一书别册《关于AI的对话：智能的过去、现在与未来》

《我的哲学探索》

内容简介：

这本书是一个以思想为志业的学者，毕生探索历程和研究成果的集成之作。40年间物换星移，从青葱年代到暮色将至，思想者的岁月波澜壮阔。而数十年如一日地苦苦追求真理，不仅要有直面骄阳的魄力，还需耐得住长久的孤独，接受可能的失败。尤其是在如今理想主义不再流行，人文精神被科技热潮消解殆尽的时代里，许多人可能不禁要问，这样的哲学探索究竟有何意义呢？当现代世界深陷精神困境，大多数人或是选择激流勇退宣布“哲学已死”，或是躲进被后现代粉饰的对立狂欢，或是藏在思辨游戏的安乐窝里假寐。孤独的思想家仿佛只身行走于幽深密林。