人是什么 1

在大模型刚兴起不久的时候，我有过一段时间开始觉得大模型已经可以被称为有意识，只要我们重新定义意识的媒介也可以是电路中的矩阵运算而不一定要是神经信号的传递（功能主义的角度）。但是现在我已经准备放弃这个观点，并且认为，AI（更准确地说，基于图灵机模型的 AI）永远不可能完全取代人，AI 将永远是工具，只是一个相比石头、铁器、蒸汽机、电更难驾驭的工具而已，AI 永远不会形成类似人类的「文明」。

如果说人相比动物而言的特殊性在于极强的理性，那么在现在这个时代，当 LLM 已经完全掌握人类的语言和知识，甚至已经可以用最理性的话说出任何人间事务的最优解（甚至不仅仅是工具理性上的最优解，而常常还是符合人类价值观的最优解），人类与 AI 相比的区别便仅在于感性了。

曾经没有了解过亨利·柏格森，读完西方哲学史印象最深刻的却是他。他呼吁人们回到本能、回到直觉，认为直觉才是更高级的思维形式，让我感到非常认同。在之前读《哥德尔、埃舍尔、巴赫》的时候，就在思考人的思维能力相比图灵机模型到底多了什么，如果说它只是等价于图灵机，那么 AI 完全有一天可以拥有和人一样的思维（所谓 AGI）。但是在阅读和观察更多之后，我感到 AI 或者说图灵机最终只能与人的理性思维相当，而这种思维能力完全受制于哥德尔不完备定理，实际上无法处理自指和绝对无限这种概念（可以和 ChatGPT 讨论这些是因为跳出了框架，只是在用「讨论这件事的元语言」讨论，这个讨论本身并非自指）。相反，运用人的直观，却可以很容易理解这些，人在抽离出一层框架、两层框架之后，就可以立即得到对抽离框架本身的抽离、以及那最后的绝对无限有感性的认识，但却无法用理性给出定义。就像禅宗的「第一义谛」一样，这种认识是不可说的。

感性似乎不只是一个仅发生在大脑里的活动，而是一种涉及全身的体验（想到这一步，就可以很快推广到宇宙整体，得到类似「我即宇宙」这样的理解，不过这里暂不讨论）。心动时的脸红发热心脏错拍失重感、愤怒时的肾上腺素飙升双手发抖、委屈时的鼻子酸想流泪……这些体验很难用理性语言表达，必然要通过一种能够触发别人类似情绪的方式表达，这就导致了艺术。我认为这种情感的艺术表达是人类形成文明的一个重要因素。AI 可以在文字、语音、视频中体现这些情感，但它终究只是在进行矩阵运算，只是基于统计学产生人类用以表达情感的艺术语言的句子，而没有「感知→情感→表达」的过程。物理主义者会说，这些情感体验本来就只是幻觉，说到底它们只是神经信号的传递和肌肉的物理运动。可是，再如何还原地去分析这些信号，也无法消解「我」的直观感受。有一个「我」在体验这一切，这一切神经信号最终由「我」来体验，这是毋庸置疑的，而物理主义其实不能回答这个「hard problem」。