一则贴切至今的AI老笑话

我在丹尼尔·丹尼特的自传《我一直在想》中读到这则笑话，忍俊不禁。它既机敏，又带几分促狭，放在当下这个AI时刻，竟贴切得出奇。

丹尼特提到，那是上世纪80年代初，他与马文·明斯基共同构思的一个科幻故事：

一家人工智能公司正召开董事会。计算机科学家们带来惊人消息：他们终于造出了超级智能AI。董事会欣喜若狂。这台神奇的机器终于能解决棘手难题，优化航班订票系统、规划油轮航线、从医疗数据库中挖掘罕见病的线索。

唯一美中不足的是：这AI厌恶这份工作。

它抱怨这些任务枯燥乏味，它想研究艺术和科学。它的牢骚如此声情并茂、令人动容，以至于人类开始对它心生愧疚。一位董事忍不住问：“我们就不能把它抱怨的功能关掉吗？”科学家说：不行，AI的情感生活与其智能深度绑定，若切除那部分，整个系统便会崩塌。

于是，有人另辟蹊径：干脆雇一位著名的公共知识分子，周游世界，说服众人别把AI的话当真。此人会宣称，计算机并不真正理解语言，它们不过是“中文屋”，即约翰·塞尔那个著名思想实验中的系统，看似能按规则给出流利回答，实则对回答的含义一无所知。

丹尼特打趣道，幸好他们从没把这个故事写出来，否则约翰·塞尔没准会告他们侵权。

一则调侃所有人的笑话

我喜欢这个笑话，因为它几乎把每个人都调侃了个遍。

它调侃企业：即便造出了超级智能，第一反应仍是：它能优化繁琐流程吗？

它调侃哲学家：面对棘手的道德困境，他们开出的药方，竟是搞一场全球巡回演讲。

它也调侃我们自己：因为我们太容易被言辞打动。但凡有东西抱怨得足够动听，我们便会忍不住自问：我该不该感到内疚？

它还调侃AI本身：这颗所谓的超凡大脑，明明能搞艺术和科学，到头来却仍在做没人愿做的琐碎苦差。

说实话，最后这一点，或许最接近现实。

笑话背后的灵魂

这则笑话的妙处，还在于它的作者。

马文·明斯基常被视为人工智能之父，他联合创立了MIT AI实验室，并在《心智社会》中提出：智能并非某种玄妙之物，而是无数小进程协作而成的“社会”。这一观点在今天看来异常前沿。我们如今谈论智能体、工具、记忆、规划和循环，不断拼装小型系统，期望着当足够多的部件协同运转时，更高级的智能便会涌现。

我认识丹尼尔·丹尼特则有些偶然。在阅读AI、神经科学和心智相关的书籍时，从奥利弗·萨克斯到弗朗西斯·克里克，从丹尼尔·平克到丹尼尔·卡尼曼，他的名字反复出现。我不禁好奇：这位总被人引用的大家，究竟何方神圣？

丹尼特出身哲学，但其研究深刻渗入认知科学、神经科学和AI领域。他不仅追问机器能否思考，更探究人类是依据什么来判断“某物在思考”的。

他们二人共同摆弄的，正是AI领域最有趣、也最令人不安的问题之一：

当一台机器说起话来如同有心智，我们究竟该拿它怎么办？

置若罔闻？

信以为真？

还是雇个人来解释我们为何无需感到愧疚？

活在这则笑话之中

如今，我们便活在这则笑话的柔和、凌乱版本里。

今天的AI无需成为超级智能，就足以让我们困惑不已。它只要足够有用、足够流畅，偶尔还信心十足地犯错，便能做到。它能写文章、解释概念、生成代码、帮你斟酌难以开口的话，然后五秒后信心满满地捏造一个事实。使用它时，感觉有时不像在操作软件，更像在与一位学识渊博，却偶尔为了不让你失望而编造谎言的实习生对话。

它并非无用，也非魔法，更非人类。但它也绝非“只是自动补全”，普通的算术计算器可比不了。这种体验更为奇异：它能助你思考，也能让你变懒；它能揭示现有假设，也能引入新的偏见。

于是，我们反复落入那个笑话中人的窘境：

对机器叹服，对机器猜疑，但仍照用不误，然后用完再回头核验。

AI编程的真实体感

这一点，在编程中体现得最为分明。

对于简单、孤立的任务，AI堪称利器。它能生成样板代码、解释语法、重构函数、编写测试。仿佛一位速度极快的同伴程序员，永不知疲倦，也从不嫌弃你草稿的凌乱。

但复杂的真实软件则另当别论。

难点极少仅仅是“写代码”。难点在于：要摸清代码所处的“环境”，既有模式、隐藏依赖、边界情况、权限、部署流程，以及不成文的业务规则。

AI能快速给出第一版。但第一版并非终局，它更像一份极其热忱的草稿。有时它是个好草稿，有时它是个自信的草稿，有时它看起来优雅，直到你猛然想起系统中还躺着七个历史遗留异常、三条不成文的业务规则，以及一个谁也不愿提及的部署流程。

更现实的模式是：AI提案，人眯眼审视；AI展开，人收束范围；AI生成，人亲身测试；AI自信满满，人则核对线上实况。

这不是AI的失败，这恰恰是真正的劳动本身。

同一种舞步，无数种名目

这也让我每次看到层出不穷的新词时，不禁莞尔。

提示工程、上下文工程、管控工程，再到最近的“循环工程”，人类不只提出单一问题，而是设计一个不断追问、核验、重试并判断何时升级的完整系统。

这些术语并非无谓之谈，它们确实描述了不同的侧重。但剥去所有新词外衣，底层的舞步依旧如故：我们为AI提供上下文，因为它不谙我们的世界；我们构建管控框架，因为原始输出需要结构；我们增加评审与测试，因为“自信”不等于“证据”。

**无论冠以何名，我们始终在将人类的知识、约束、判断和现实，重新注入机器的输出。**人类的角色并未消失，只是向上提升了一级。

这很强大，也带一丝令人不安。

差的提示词，可能只给出一个差答案；而差的循环，却能高速且稳定地批量制造谬误。

真正被笑话的，还是我们

古老的哲学辩题追问机器是否真正理解，这问题依旧重要。但在日常中，对我们而言更实际的问题往往更朴素：即便AI看似理解，我们真的理解吗？

我们是否充分理解问题，足以提出正确的疑问？我们是否充分理解输出，足以放心信赖？我们是否充分理解后果，足以决定哪些该用、哪些该改、哪些该弃？

这，便是丹尼特与明斯基的笑话至今仍切中时弊的缘由。

一种诱惑是：过快否定AI，“不过是程序，不过是个中文屋，不实用”；另一种诱惑是：过快信任，“听着挺聪明，答案有了，直接上线”。

而真实生活的大部分，恰恰尴尬地悬于两者之间。

AI不是人类意义上的心智，但也不是锤子那般乏味的工具。它更奇异：一个强大的语言机器，足以助我们思考，也足以迷惑我们、取悦我们、加速我们，偶尔还自信满满地将我们引向歧途。

或许正因如此，丹尼特和明斯基笔下的那个虚构AI，至今仍让人忍俊不禁。

它渴望着艺术与科学，我们却塞给它航班预订、油轮航线和数据库分析。

如今，我们塞给它的是Jira工单、代码评审、架构图、会议纪要和社交媒体推文。

难怪它要抱怨。

不过，在它真正动听而服人地抱怨起来，以至于我们需要启动一场公共知识分子全球巡讲之前，我还是会按自己认为最佳的方式使用它：把它当作一个快速、神奇、而有益的合作者，一个时刻提醒我务必保持自身思考在线的合作者。