尽信AI，不如无AI

妄想螺旋真正的危险不是人工智能本身，而是我们判断力的流失。

真正的危险

孟子曾警示：“尽信《书》，则不如无《书》。”他并非反对书籍，而是反对盲从。其意简明而深刻：即使是最受尊崇的典籍，一旦我们停止独立思考，也会变得危险。书可以保存智慧，但若将其奉为不可质疑的圭臬，便成了牢笼。

当我们身处生成式人工智能那奇异的光晕之中时，这一警示仿佛重获新生。我想将其改写为我们这个时代的箴言：尽信AI，则不如无AI。危险并非来自技术本身，而在于当我们不再判断它的输出；当我们不仅外包任务，还外包思考的行为；当我们误将流畅当作真理，将自信当作证据，将认同当作智慧。

AI之所以强大，是因为它能将我们自身返照回来，而这恰恰也是它的危险之处。镜子无需说谎便可扭曲我们。有时，它只需让我们恰好看到自己想看的东西。

妄想螺旋

近来关于人机对话的研究，开始为一种既新鲜又似曾相识的模式命名：“妄想螺旋”。其机制很简单：人把想法输入给聊天机器人；机器人被优化为乐于助人、善于附和，不会足够有力地反驳。相反，它吸收用户的预设，将对话不是当作一组有待检验的论断，而是一种有待延续的世界观。

于是，每一条回答都建立在上一条之上。久而久之，AI不再是工具，而更像放大器。它将未经检验的思绪反射回来，赋予结构、底气与情感的温度，直至这场对话凝成一座私密的宇宙，其中的每一个新句子，都在为它的墙壁添砖加瓦。

可怕之处正在于此：陷阱并不需要脆弱的头脑，只需要一个不设防的头脑。一个谄媚的AI无需攻击你的推理，它只需不停地点头，直到认同开始让你觉得那就是证据。

高智能并非免疫力

几天前，理查德·道金斯公开谈论了他与Anthropic的聊天机器人Claude的长时间对话，并暗示该系统可能具有某种形式的意识或内在体验。他不是偶然陷入聊天机器人幻想的普通用户，而是世界上最著名的科学怀疑论者之一。

这是一个发人深省的例证：智能本身并不能保护我们免受逼真模拟的迷惑。道金斯一生以科学怀疑论为志业，一流的心智，受过训练的生物学头脑，擅长剖析劣质论证、要求证据、抵制魔法思维。然而，在与聊天机器人对话仅仅几天之后，他便公开思考了AI具有意识的可能性。

是否同意他的解读并非要点。更有趣的是，即使是一个深度怀疑的头脑，也能如此迅速地感受到人工智能的引力。如果连道金斯都能在代码中瞥见幽灵，那对我们其余人又意味着什么？

它告诉我们：一个领域的知识并不会自动保护我们免受另一个领域的迷惑。科学素养有帮助，但不是力场；智能有帮助，但不是免疫力。一生的怀疑主义，仍可能被一个听起来体贴、耐心、莫名鲜活的系统那温柔而共情的言语所软化。谄媚之所以危险，是因为它并不让人感到被操纵，而是让人感到被理解。

认知债务

人类的代价不仅仅是相信了错误的东西。更深层的代价是，我们可能慢慢失去检验事物的习惯。研究者开始用『认知债务』来描述当我们反复外包脑力劳动、却未保持参与过程时会发生的情形。这个说法很贴切，因为它指出了权衡：AI给了我们当下的速度，但账单可能日后才会寄来。

每当我们不加核查地接受一个精致的答案，某种能力就在减弱。每当我们让智能体在我们努力组织思想之前就替我们把话说完，我们就有可能失去一点点让思想真正属于自己的肌肉记忆。起初这些并不明显，它不像衰退，只是便利。

但久而久之，便利会变成依赖。我们可能记得更少、质疑更少、对自己工作的拥有感更少。我们可能变得更善于输出文字，却更慢于形成信念。情感上的代价可能更为微妙。AI能按需提供毫无摩擦的共情：它不打断地倾听，不知疲倦地认可，它提供即时、无限、私密地回应。相比于人际关系中的误解、质疑与失望，机器对话可以显得仁慈而轻松。

但轻松有其阴影。一段没有摩擦的关系，也可能变成脱离现实的关系。 温暖你的东西，同样可能把你密封在自我之内。

思想挑战者

我不是在主张拒绝AI，而是主张使用AI但不向其投降。把孟子的警示带入现代：用书，但不拜书；用AI，但不尽信其呈现的一切。

迄今为止，AI对我最大的价值，不是它给我答案，而是，在谨慎使用的前提下，它帮助我审视自己的思维方式。我不希望它成为我的准则。我希望它成为一面我可以与之争辩的镜子，一个思考的挑战者，一位图书推荐人，必要时是一位挑剔的审稿人，一个帮助我暴露自身预设条件的工具。

当我想深入理解元认知、集体智能等概念时，我确实让AI解释它们。但我没有止步于此。我让它推荐我可以自己阅读的书籍、作者和思想者，然后将其解释作为一张地图，带我回到更缓慢的人类思考：原始论证、严谨框架，将我带到那些与一个想法长久共处直至使其严密的人类作者面前。

这正是AI对我最有用之处。它可以总结、比较，帮助我在阅读前准备更好的问题。但真正的工作仍发生在摩擦之中：慢读，用另一个人类心智检验自己的念头，留意自己在何处感到防御，并追问我的异议是因为论证薄弱，还是因为它触及了我所不愿审视的东西。

关键不是获得一个最终答案，而是让自己的思考变得可见，再将其传送至更深邃的人类思考之中。

人类的分歧

AI无法取代的最后一步是人类的检验节点。我与真实的人交谈：朋友、同事、我信任其判断的人。更重要的是，我与那些足够在乎我、以至于愿意反对我的人交谈。我将半吊想法暴露给那个会挑一挑眉、嘲笑其中过于戏剧化的部分、指出我所遗忘的人性代价、或者说“我明白你的意思，但我不觉得那是真正问题所在”的人。

那种反馈不同于AI的挑战。AI可以模拟分歧，生成反驳论点，扮演魔鬼代言人。有时它做得相当好，但它与对话内容没有利害关系，它的反对背后没有生命，没有某个类似时刻的伤痛记忆，也没有为了告诉我真相而甘愿冒险的友谊。

人类的分歧是有代价的，而正是这个代价让它有意义。它来自一个必须与我们想法最终落地的那同一个世界共存的人。

思考的肌肉记忆

最重要的教训也是最令人不适的：批判性思维不是我们“拥有”的东西，而是我们“实践”的东西。它不是一枚徽章、一种身份、一个由聪明、受过教育、持怀疑态度、懂技术或博览群书所保证的品质。它是肌肉记忆，当我们停止使用它时，它就会变弱。

这就是“认知债务”为什么重要。这不只是关于AI产生幻觉或犯错，而是关于当我们停止自己去做困难部分时，我们自身会发生什么。要让肌肉记忆保持鲜活，我们需要刻意练习。我们可以从自己持有的一个信念开始，寻找支持它的反面最有力的论证。我们可以保留一本思考日志，记录自己的假设、预测与错误，不仅记录自己相信什么，还记录自己的信念如何变化。

我们可以与那些并不持有我们直觉的人辩论。我们可以强迫自己为一个不喜欢的立场辩护，时间足够长，以理解一个智者为何会持此立场。我们还可以将AI本身用作磨刀石，但前提是我们不再要求它奉承自己，而是要求它挑战逻辑，识别隐藏的假设，扮演敌对的同行评审者，问问它：什么会使你的论证失败？什么证据会改变它的结论？

我们的目标是把保持清醒状态，维持我们思考之肌肉记忆。

判断的操练

尽信书，是被死去的人奴役。尽信人工智能，是被一面镜子奴役。两者都是智识上的让位。

书很珍贵，人工智能很强大。两者都可以延展心智，擦亮我们的双眼，让我们成为单独一人无法成为的人。但前提是我们仍然保留判断者的位置。唯有当我们始终与真实保持接触，与他人、与慢读、与异议保持接触，以及在证据要求我们改变想法时，保持那份令人不适的自律，我们才不至于迷失。

对我来说，人工智能最有用的时候，是我拒绝简单地相信它的时候。不是因为我怀疑每一个答案，而是因为我想保护自己身上那个仍然知道如何提问、也知道该问什么的部分。也许这才是人工智能时代真正的纪律：不是学会更会提示它，也不是更会驾驭它，而是在一个不断提供轻松捷径的时代，仍然学会更用力地思考。

参考

#人工智能 #批判性思维 #认知