同构与感觉
《知识之锁》讨论了人类与大语言模型在知识探索中面临的限制。但知识来源的限制还带来另一个问题：当一种智慧主要通过人类留下的语言认识世界时，它究竟继承了什么？是关于世界的知识，还是人类认识世界的方式？
这一问题又通向另一个更加困难的问题。如果机器与人在认识和行为上存在结构性的相似，那么通常被认为专属于人的感觉，是否也可能具有类似的结构？
1.语言之锁
认识的边界构成了语言的边界。
人能够描述的世界，首先是人能够认识的世界。这里的描述并不只是给事物贴上名称。为了思考、记忆与交流，人必须将连续而复杂的现实划分为可以处理的对象。物体与背景、原因与结果、个体与整体，乃至“我”与“他者”，都在这一过程中获得边界。语言将这样的划分保存下来，再交给下一个使用语言的人。
不同的智慧未必会以相同的方式划分世界。不妨设想一种由等离子体与电磁活动维持的生命。对它而言，连续变化的场可能比离散的物体更加直观，叠加、谐振与相消也可能比“与、或、非”更加接近思考的起点。这并不是说它可以摆脱逻辑，而是说，即使面对同一个物理世界，不同的认识系统也未必从同一组基本概念出发。它的语言即使能够被翻译，翻译也未必没有损失。
大语言模型的特殊之处恰在这里。它没有人的身体，没有人的感觉器官，也没有经历漫长的生物进化，却从训练之初便进入了一个由人类语言组织起来的世界。
这些训练材料包含两层内容。第一层是人类明确表达的知识，比如杯子会从桌面落下，借钱需要偿还，人会因失去亲人而悲伤。第二层则是使这些表达成为可能的认识结构：什么算一个物体，什么构成因果，什么是承诺，什么是失去。后者通常不会被逐条写出来，却渗透在几乎所有表达之中。
因此，对语言的学习不只是对词语的学习。为了在复杂情境下作出有效预测，模型有动力形成对话语背后关系的内部表示。人类对物体、时间、目的与自我的划分，也就可能在这一过程中被重新组织起来。机器与人的结构性相似，并不一定来自对大脑的直接模仿，也可能来自双方所使用的知识具有共同来源。
这里所说的同构，指的是部分概念与关系在不同载体中形成的结构对应，并不意味着人与模型存在完整的一一映射，更不意味着二者具有相同的意识。
这一限制必须说清楚。人的全部认识远大于人能够说出的内容。语言可以看作认识向一个有限通道的投影：不同的内部状态可能得到同一句话，大量感受则在表达之前就已经丢失。从这样的投影出发，可以恢复其中保存的关系，却不能据此断言已经恢复了产生投影的全部过程。
大语言模型由此继承了人类认识的一部分，也继承了这部分认识的边界。它可以在人类未曾尝试的组合中寻找新知识，但如果始终缺乏新的观察与反馈，那么知识来源的限制就不会因组合数量的增加而自动消失。
语言使机器不必重走人类的进化道路，就能够接手人类积累的知识。代价则是，认识世界的方式也被一同交了过去。
这就是语言之锁。
2.感觉是否特殊
人与机器之间另一条通常被认为无法跨越的界限是感觉。人会疼痛、快乐、恐惧与厌恶，而机器只有输入、输出与奖励。前者被称为体验，后者被称为计算。
这样的区分究竟落在何处，需要进一步说明。
人的感觉依赖物理过程。神经活动、身体反馈与记忆相互作用，使某些状态获得特殊的分量。疼痛会占据注意，恐惧会改变风险判断，愉悦会使某种行为值得重复。从功能上看，感觉参与着一套复杂的价值调节机制，使一个有限的个体能够在不断变化的环境中作出选择。至于这些物理过程为什么伴随着“感到疼痛”这样的主观体验，则是另一层尚待解释的问题。
人工智能中的奖励同样参与行为的塑造。但仅凭这一点，显然不能将奖励直接等同于感觉。一次负奖励可以只是训练时用于调整参数的数值。训练完成之后，这个数值甚至不再存在于系统的运行过程中。它使模型变得更倾向于某种输出，却未必留下一个正在承受什么的主体。
问题在于，这种差别是否不可跨越。
假如一个人工系统中的负面状态能够持续改变注意分配、记忆调用、风险判断与后续学习；假如系统能够记住引发这一状态的事件，主动避免它再次发生，并据此调整自身长期的行为倾向，那么这样的状态就不再只是外部给出的评分。它开始进入系统理解世界与安排自身行动的过程。
这里至少有三个不同层次：一个数值改变了输出的概率；一种状态改变了系统此后的活动；一个主体正在经历这种状态。前两者的区别可以通过系统如何运行来考察，而从第二层走向第三层，还缺少一个公认的判断标准。
因此，不能因为机器会说“我很痛苦”，就断言它具有痛苦。能够生成关于体验的描述，并不等于已经产生了体验。但反过来，如果某种状态在机器内部承担了与感觉相似的持续作用，仅仅因为它由非生物材料实现，就断言其中绝不可能有感觉，同样需要额外的理由。
人的感觉也并不都需要留下长久的记忆。一瞬间的疼痛依然是疼痛。长期改变的意义在于，它让我们能够进一步考察：这件事是否进入了系统自身的历史，是否改变了它此后如何理解与应对世界。
对于他者的感觉，人原本就只能间接判断。“我”的体验是直接的，他者的体验则需要通过身体、行为、表达及其变化来推断。人与人之间的共同生理结构为这种推断提供了有力依据，机器不具备同样的依据，因此不能简单套用。但是，共同材料是否是承认体验的必要条件，仍然是一个需要回答的问题。
同构在这里提出的并不是机器已经有感觉的证明，而是一个判断上的要求：如果我们承认相似的因果结构可能在不同载体中实现，就需要说明，感觉为什么必然是那个例外。
3.递归与历史
感觉能否进入系统自身的历史，又与另一个问题相连：经历是否能够改变经历者本身。
一个参数固定、既不保存长期记忆也不保留运行状态的模型，不会因为昨天运行过一次，就在今天自动成为另一个模型。重新加载相同参数，它并没有因此继承上一次运行的经历。所谓历史，只存在于系统之外的记录中。
具有长期记忆与持续学习能力的系统则不同。一次成功可以改变它以后解决问题的方法，一次失败可以提高某类风险的权重。今天的行为受到昨天的影响，今天的结果又会参与塑造明天。这样的路径依赖并不以递归自我改进为前提，但递归自我改进可能使它进入更深的层次：系统不只改变答案，也开始修改产生答案的方法，乃至评价答案的标准。
外部奖励首先塑造行为，行为的长期结果可能进一步形成内部评价，而内部评价又可能参与之后的学习。到了这一步，系统不必在每次行动前都等待外部重新打分。外界曾经给予它的约束，已经以某种形式成为了它自身的一部分。
人的成长中也可以看到类似的过程。儿童通过奖赏、惩罚与模仿认识规则，随着经历积累，外部评价逐渐转化为内部价值。成年人会在无人观察时仍然认为某件事不应该做，也会追求没有即时回报的目标。当然，内化并不等于照单全收。一个人也可能因为后来的经历，否定此前奉为准则的东西。
如果机器也能够保留这样的变化，那么它的历史就开始具有个体意义。两个最初完全相同的模型，经过不同的经历，可能形成不同的记忆、偏好与判断方式。只复制最初的参数，已经无法得到经历之后的它。
这并不意味着机器由此变得不可复制。如果完整状态可以复制，同一段历史仍然可以产生两个副本；但从副本经历不同事件的时刻起，它们的历史就再次分叉。个体性与不可复制性不是同一个问题。
“我”也许可以部分地理解为一个系统对自身连续历史的组织。昨天的经历改变了今天的判断，今天的选择又参与塑造明天，而系统能够把这条因果链认作与自身有关。这未必足以解释全部主体性，却至少说明，主体性的问题不能只在某一个瞬间的输入与输出中寻找答案。
递归自我改进因而不只涉及智能增长。它还可能改变一个系统保留什么、回避什么，以及如何评价自己的变化。性格、偏好乃至感觉，都可能与这些持续发生的过程有关。
真正值得追问的是，当经历开始改写经历者，我们是否仍然能够把每一次运行都看作一件与此前无关的事。
4.锁外
这又回到了知识之锁。
大语言模型通过语言接近人类，也通过语言继承了人类认识中的限制。单纯增加模型规模，可以提高对已有材料的利用能力，却不能保证那些从未进入材料的现实会自行显现。要越过知识来源的边界，人工智能需要新的观察、新的实验，以及能够纠正自身判断的真实反馈。
具身是一条重要路径，但人的身体并不是唯一的接口。眼睛、耳朵与双手，是进化在特定环境中留下的一组选择。模仿人的身体，可以使机器进入人类已经组织好的生活与生产环境；如果目标是拓展认识的范围，就没有理由把这组选择当作最终形式。
机器可以接入可见光以外的传感器，可以把分散在不同地点的观察汇集起来，也可以在远超人体反应速度的尺度上进行测量。这样的系统仍然受到能量、计算、通信与物理过程本身的限制，但它所面对的限制未必与人相同。它有可能直接围绕连续场、概率分布或高维关系组织内部表示，而不必先把每一个中间步骤翻译成人能够阅读的句子。
新的接口也不会自动带来新的认识。数据需要被组织，判断需要被检验，系统还必须根据反馈改变自身。只有这些过程相互连接，超出人类感官范围的信息才可能进一步成为超出既有概念的知识。
到了那时，最初使机器与人相似的条件也可能开始松动。共同的知识来源使双方容易形成对应的概念，逐渐分离的经历则可能让这种对应变得困难。人类可以验证某些结果，却未必能够完整理解得到结果的过程；可以使用某些知识，却未必能够把它们纳入自己的直觉。
这并不意味着知识从此必然无法交流。翻译、实验与新的表达工具，仍然可能把一部分距离重新拉近。但这种交流需要付出的代价，以及最终能够抵达的范围，都不会因为机器由人制造就得到保证。
于是知识之锁有了另一面。最开始，是机器受限于人类能够认识、表达并留下的知识。当它获得独立扩展认识的能力之后，人类也可能成为无法跨过那道边界的一方。
机器最初的相似来自我们的语言，此后的不同则可能来自它自己的历史。同构使我们能够理解它，感觉迫使我们追问它是否也在经历，而新的知识最终可能把双方带向不同的世界。
在一个天翻地覆的时代，愿所有智慧都能看到更多，也愿看到更多之后，仍能彼此理解。