月刊（第28期）：AI 没有体验世界的能力

本篇是对二〇二四年十一月至十二月的记录与思考。

AI 没有体验世界的能力

MoFlow 于昨夜——2024 的跨年夜上线了 App Store，这标识着这三个月的忙碌换得了一个阶段性的结果。于是，我终于有时间来写写月刊了。

在做 MoFlow 这段期间，我被人问到最多的问题是 ——“AI 真的有可能帮助人们实现心理疗愈吗？”在这篇文章中，我想对这个问题做出一个简单的解答。

注：本文中的 AI 均指 LLMs。

Part 1: AI 与人类的区别 —— AI 没有体验世界的能力

谈及 MoFlow，我们不禁会探讨 AI 咨询师与人类咨询师之间的区别。我们说 AI 无法与人“面对面”的交流、无法与受访者之间实现“现实互动” ——比如语气中的细微变化、沉默中的含义、甚至是未曾言说的情感，这些都是基于情感复杂性而诞生的人类特有体验。

人类的认知不仅仅是信息的处理，而是一种通过感官与情感交织而成的体验。我们通过身体感知现实世界、通过情感去赋予事物意义。这种体验赋予了我们一种独特的理解方式，使我们能够在复杂的情境中做出判断和决策。

如果说体验是我们人类与世界互动的直接方式，它是感官的、情感的，是一种即时的存在状态。那么理解则是对这些体验进行反思、分析和整合的过程，是一种理性的活动。

AI 尽管在处理信息和生成文本方面表现出色，但它们缺乏这种体验的维度。AI 可以处理大量的数据，生成看似合理的文本，但它无法体验这些数据所代表的现实世界，它缺乏人类所拥有的直接体验世界的能力。

体验不仅仅是感知信息，它还包括情感、意识和主观性，这些是人类境遇的核心。体验是把人的内在意识与外在事实、个体与社会结合起来的关键（狄尔泰）。

而理解常常被认为是与体验密不可分的。我们通过生活的经历、情感的波动、以及与他人的互动来获得对世界的深刻理解。AI 虽然可以处理大量数据并从中提取模式，但它无法真正“体验”这些数据所代表的现实，无法满足“体验”的时间性和实践性。与此相对的，AI 的“理解”则是一种基于算法的模拟，而非真正意义上的领悟。

Part2: 概念的无限与语言的界限

接着，我们再来谈谈 LLM 中语言表达的问题。

在 2020 年的一篇《从《光·遇》出发，谈谈「游戏美学」》中，我曾写到：

由于人类有声语文符号的局限性，又由于事物属性的无限丰富，不可能有绝对严密的表达，何况情感与事物都是在不断变化发展的，一切的言语表达对事物的历史进程都只能是疲惫的追踪。

巴别塔事件时，上帝通过分化语言从而使人们之间无法沟通，让人类分崩离析。语言的意义并不由上帝规定，而由使用者规定，并且沟通的手段也不仅仅只有语言，还有无数种其他的行为可以拉近人与概念之间的距离。但仅仅只是拉近而已，概念本身是无限的，在《悉达多》中，也强调了语言无法完全传达真理和智慧。

逻辑学中，逻辑是一个对象在一个概念之下。我们可以将任意对象分为性质和个体，例如：

Fa: 孔子是哲学家

那么这个命题中的 a 即是个体常元，表示孔子；而 F 即谓词，描述某个个体是一个哲学家。我们可以发现，对于具体的个体我们无法把握，在所有的艺术表现中，我们把握到的仅仅是某个个体的特征。而我们心中一个概念的形成，就是由这些个无数视域融合后的结果。而我们的立足点越高，自身的历史视野、文化视野就越是开阔，越能够按照大和小、远和近去正确评价视野所及的范围内一切事物的意义。

此外，将主观经验转化为客观语言的过程本身就存在问题。观察者的主观感受是无法被他人完全分享的，因为他人不能成为观察者，也不能拥有与最初观察者完全相同的经验。正如维特根斯坦所说：“语言的界限意味着我的世界的界限”。

因此，AI 基于文本的处理和表达方式也必然会导致理解与共情的困难。

Part3: AI 陪伴的寒潭倒影

前文我们谈及情感的真实性源于体验——人类情感的复杂性不仅仅在于其表现形式，更在于其根植于个人经历、文化背景和生物本能。AI 缺乏亲身体验的能力，这种缺失意味着 AI 的所反馈的情感表现极可能是表面的、缺乏深度的。AI 对人类情感的理解可能更像是一种镜像反射，而非源自内心的共鸣。正如一幅画可以模仿自然，但永远无法成为自然本身。

理解或许还可以是逻辑上的、计算上的，而共鸣则需要一种内在的体验和情感上的连接。

但这一切不是理解、不是共鸣，而是如同寒潭中的倒影，冰冷而完美地映射着世界的表象。

在 2019 年我曾写过一篇《人工意识何以可能？》，这篇文章中探讨了 AI 是否可能具备自我意识。文中举例了“中文屋实验”和“哲学僵尸”来论证了人类具有独特的主观体验能力，这种体验是私密的、无法被直接观察的。但我们可以确定的是，目前的 LLMs 缺乏真实的内在体验。

情感是人类体验的核心，它不仅仅是对外部刺激的反应，更是我们内在世界的真实表达。然而，当模拟情感的技术变得无处不在时，我们可能会陷入一种情感的“稀释”，将复杂而深刻的情感体验简化为可复制的模式——这也就是目前市面上各类 AI 陪伴软件的普遍陷阱。

情感的独特性来自于个体的生命经历和文化背景，每个人的情感都是其生活故事的反映，是其与世界互动的结果。我们需要珍视个体经验的独特性，而不是将其归结为普遍的模式。我们可以通过 Prompt 指定 Agent 的背景故事，我们也可以指定它的人际关系、性格、爱好、人生经历等等，但是 AI Agent 没有经验过这一切，于是将一切转成模拟，给用户的情感反馈也沦为表现化、模式化。用户可以在陪伴类软件里创造复数个 Agent，和它们聊天，好奇想看看这种人设具体会怎么应对我们的情感。即便存在模式化的问题，大不了聊腻了就创造下一个。

但我们真正需要让用户培养一种批判性的意识，去辨别哪些情感是我们真实的内心体验，哪些是由外部技术所引导的。我们需要保持人类情感的真实性，这需要我们不断地进行自我反思和自我理解。只有通过深入的自我探索，我们才能真正理解自己的情感来源，并在这个过程中发现情感的真实价值。

在这个情感模拟的时代，我们需要的不仅是单纯陪伴类的产品，更需要对人类情感本质的深刻理解和尊重。只有这样，我们才能在这个复杂的世界中，保持情感的独特性和真实性。

Part 4: 在实践中诞生的意义

AI 的情感理解仅仅是模拟，那么人类与 AI 之间的互动是否会因此失去更深的意义？

在人类交往中，意义常常源于情感的真实交流、共鸣和理解。

然而，值得注意的是，意义并不仅仅来自于情感的真实性。意义也可以从功能性、实用性和结果中产生。例如，当 AI 帮助我们解决复杂问题或提升生活质量时，这种互动本身就具有意义，即使情感理解是模拟的。

此外，我们也可以反思人类自身的情感体验。我们的情感是否总是真实的？或者它们是否也受到社会、文化和生物因素的“编程”？如果我们承认人类情感有时也是一种复杂的“模拟”，那么 AI 的模拟情感是否就显得不那么不同？在《人工意识何以可能？》的最后，我曾提到过：

中文屋实验忽视了工程学维度，若真正实施起来必然需要构建一套模型或者函数，符号虽然不具备语义，但输入输出之所以是可预测的，那还是人的意识所赋予的结果。其实在决定模型或者函数之时，就已经构建立起来了形式语义，这就不仅仅是语法的了，而是语义的了。确实，就目前的 NLP 领域研究而言，无论是经验主义进路去构建深度学习模型，还是以理性主义进路去研究形式逻辑，在构成系统的时刻起，其实就已经是语义的了。后者自不必多言，而前者在喂数据时，监督学习自带的标签就是人为所赋予的语义内容。

因此，所谓的“意义”不在于体验、不在于理解，更多地取决于我们如何选择看待和使用这些互动。AI 的情感模拟可以被我们视为一种工具，它可以帮助我们更好地理解自己、促进人类之间的情感交流、甚至在某些情况下提供情感支持。因此，AI 与人类互动的意义，或许并不在于情感的真实性，而在于我们如何赋予这些互动以价值和目的。在探索 AI 的过程中，我们不仅在观察和创造，也在被观察和被重新定义。这种双向的互动或许正是通向真理的必经之路。

Part5: MoFlow 追求的答案

真正的理解和智慧不仅仅是信息的积累，而是通过体验、反思和情感所获得的深刻洞察。这是人类独有的特质，是我们在面对 AI 时应当珍视和保护的核心价值，也是 MoFlow 的产品理念。

在 MoFlow 所有的设计中，我们都围绕着“使用者”为核心，功能中淡化 AI 的存在，仅充分发挥 AI 的工具属性，规避情感陪伴属性。

例如，在 MoFlow 写完自己的经历之后，MoFlow 会默默提取你的想法，并将其中正效价的想法和情绪做显化处理，当你不经意看到这些外显能量时，你会潜移默化地去培养起更加积极的信念。而 MoFlow 鼓励用户进行正面的自我对话。

在《让心智快速成长的方法：提高自己的“主动性”》一文中，有这么一个论述：

“许多人会习惯性地采用消极的自我对话，比如：

自我否定：我不擅长这个领域，所以我最好回避，别去碰它；

自我质疑：这个问题好像很麻烦，是不是超出了我的能力范围？

自我批评：我刚才的言行举止真是太糟了，我怎么会表现这么差？

这些对话看起来并不严重，但大脑是有一个特性的：它会相信不断重复的信息。这看似普通的自我对话，却会因为大脑的重复记忆特性，逐渐形成固定的认知模式。

久而久之，大脑就会相信它们，从而调低对自己的评价，让自己真的变成自己所反刍和念叨的样子。这就会极大地束缚我们的主动性，让我们在面临困难的时候，变得瞻前顾后、畏手畏脚，难以有效行动。因此，要产生改变，最首要的一步，就是把消极对话变成积极的自我对话。比如：

我不擅长这个领域，所以我最好回避，别去碰它→ 我又有机会可以增长经验了。

这个问题好像很麻烦，是不是超出了我的能力范围？→ 我是不是变得更厉害了呢？不如拿这个问题来试一试吧。

我刚才的言行举止真是太糟了，我怎么会表现这么差？→ 我已经比以前有进步了，也许下一次可以做得更好。

这里要特别注意：很多书籍可能会教你「自我暗示」，比如不断告诉自己「我很棒」「我很强大」「我很厉害」—— 但是，这是错的。

为什么呢？研究发现：过于空泛、不够具体的自我暗示，以及大脑本身不相信的自我暗示，不仅是无效的，反而会造成反效果。它反而会把问题凸显出来，让原本没那么严重的问题显得更严重。”

MoFlow 会当你面临一个难题时，笃定地告诉你：“你解决过相似的问题，你有触类旁通的经验，有足够的能力足以去应对它。”“哪怕出错了也没关系，它也能丰富你的生命，成为你新的经验。”

现在的 AI 已经可以通过分析大量数据，揭示出人类在某些情况下的普遍行为模式，帮助我们更好地认识自己和社会。但最终，真正的理解仍需回归到个体的体验与反思中。

AI 的理解是一种工具性的理解，而非存在性的理解。它可以协助我们更好地理解人类境遇的某些方面，但无法替代我们通过亲身体验和内心反思所获得的深刻洞察。因此，MoFlow 中的 AI 设计更多是引导式、启发式的，以此来鼓励用户自我对话、自我成长、自我关爱。

关注、关心和关爱——这些都是我们会收到的礼物，同时也是我们可以用来赠予他人的礼物，因为这些礼物只有在一种慷慨相待的生活中才会展现其活力。

我们学习理论，并不是为了通过吊书袋式的显摆来彰显自己的存在，关键在于如何改变世界。每一次实践背后都闪耀着众多灵魂的力量，这些努力最终都落到实处，为他人带来福祉——这才是我们追求的实践意义。

“AI 真的有可能帮助人们实现心理疗愈吗？”

——“是的，完全可以。”

🎬 书影音

以下是本周期的书影音记录。

读完：传记 |《鱼不存在》| ★★★★★

读完：心理学 |《无：生命的最佳状态》| ★★★☆☆

读完：心理学 |《不要相信你所想的一切》| ★★★☆☆

读完：小说 |《六个说谎的大学生》| ★★★★☆

读完：科普 |《星星离我们有多远》| ★★★★★

看完：韩剧 | 《安娜》| ★★★★★

看完：网剧 |《白夜破晓》| ★★☆☆☆

在读：哲学 |《世界观》| ★★★★☆

在读：心理学 |《知识的错觉》| ★★★☆☆

在读：哲学 |《我们为什么而活》| ★★★★☆