模仿游戏：Alan Turing 与图灵机逐字稿

冷开场：一个没有被直接回答的问题

0:00

一九五零年，Alan Turing 写下一篇讨论机器与智能的论文。

他从一个后来被反复引用的问题开始：机器能思考吗？

但他没有直接回答。

因为只要先问什么算机器、什么算思考，讨论就会落进词语的日常用法。每个人都能带着自己的定义进来，却未必能得到一个可以共同检查的结果。

Turing 于是换了一个问题。

他安排一场模仿游戏，让判断落到外部可以观察的问答上。

这不是答案。至少还不是。

它更像一项决定：先把什么可以检查规定清楚，再看看这项检查究竟能证明多少。

[001]

先不要急着把 Turing 只记成“图灵测试”前面的那个名字。他是本期故事的主角。

Alan Mathison Turing，一九一二年出生，一九五四年去世，是英国数学家。到写下这篇论文时，他三十八岁，已经跨过了几个彼此不同的工作世界。

他在 Cambridge 的 King's College 接受数学训练。在那里，他研究什么叫可以机械执行的计算，并写出那篇后来让“图灵机”得名的论文。

随后，他到 Princeton University 深造，一九三八年取得博士学位。回到英国后，他在一九三九年进入政府密码机构。战争期间，他参与破解 Enigma 的工作，也参与 British Bombe 的设计。那不是他一个人的发明，后面我们会看到波兰密码分析人员、Gordon Welchman 和工程团队怎样进入这段历史。

战争结束后，他进入英国国家物理实验室 NPL。一九四六年，他提出 ACE 计算机的设计计划；一九四八年前后，他又写下《Intelligent Machinery》，参与 Manchester Mark I 相关工作，继续追问机器能否通过改变结构和接受教育，表现出新的能力。

所以，一九五零年坐在这个问题面前的，不是一位只在书房里猜测未来的旁观者。

他做过形式证明，参加过限时的密码分析，设计过电子计算机，也进入过真实机器的使用与编程环境。他先后面对过几种不同的边界：数学上什么算得出来，工程上什么造得出来，程序怎样进入机器，以及外部表现究竟能证明什么。

这不是一张把成果都归给 Turing 的英雄清单，而是一张人物地图。后面的故事会重新走一遍这条路，把每个阶段的同事、前人、机器和限制放回原位。

[057]

为什么一个数学家会用这种方式处理问题？

为什么在机器思考之前，他要先决定机器一步能够做什么？

时间只倒退这一次。

先回到纸带出现以前，再走进一九三五年。

第一章：在逻辑问题以前，他先学会了怎样算

2:43

Robin Gandy 后来为 Turing 的论文写导读时，先记下的不是一台机器，而是一种习惯。

按 Gandy 的后见叙述，Turing 在学校里曾经为计算圆周率设计自己的方法，并算到小数点后三十六位。他走路、骑车或者洗碗时，也会在脑中计算数学和物理问题。

这段回忆没有把他写成一台永不出错的计算器。Gandy 紧接着说，他有时很有条理，有时也会犯错。

他熟悉实际计算的凌乱，也熟悉完全机械、每一步都不含糊的理想。后来纸带上的动作会从这组差异里变得容易理解。

但这只是 Gandy 多年后的叙述。它不能证明少年时期已经存在“图灵机计划”，更不能把圆周率的三十六位变成一条通往一九三六年的命定道路。

[022]

进入 Cambridge 的 King's College 以后，Turing 已经在严格的数学训练中站稳了脚跟。

英国国家物理实验室，也就是 NPL，后来回顾，他在 King's 获得奖学金，并在数学荣誉学位考试第二阶段取得优异成绩。

这些履历在这里不负责预告一位天才将会成功。它们只说明 Turing 当时的位置：一个已经受过严格训练、能够正面进入数理逻辑问题的年轻数学家。

真正改变问题方向的，是 Max Newman 的一门课。

[023]

Gandy 后来回顾，一九三五年春，Turing 参加了 Max Newman 的数理逻辑课程。Newman 当时在 Cambridge 教授这门课。

课程讨论 Entscheidungsproblem，决定问题，也触及 Gödel 关于形式系统内部限制的不完备性结果。对 Turing 眼前这条线来说，决定问题提出的压力最直接：是否存在一种机械方法，能对一类数学命题逐一给出是或否的判断？

Newman 没有替 Turing 交出纸带、状态或通用机器。他在这段故事里的作用更具体：把一个尚未解决、又必须先定义“机械方法”的问题，放到 Turing 面前。

[002]

第一章（续）：先定义方法，机器才能出现

4:48

先校准一个今天已经改变含义的词。

一九三六年，听到 computer，不能先想象屏幕、键盘、处理器和内存。

在 Turing 的论证里，computer 首先可以是一个做计算的人：他拿着纸笔，按照规则，一步一步处理符号。

当时已经有机械计算器、统计制表设备和其他专用机器路线，但还没有今天意义上通用的电子存储程序计算机。

所以 Turing 面对的不是“怎样造一台更快的电脑”。他先要回答：所谓一套机械方法，到底允许一个计算者做哪些动作？

这个时代差异很重要。后面出现的纸带、状态和移动，都是数学模型里的限制，不是从一台现代电脑拆下来的零件。

[046]

假设你想证明：不存在一种通用的决定程序。

这句话里最难抓住的，可能不是“不存在”，而是“程序”。

如果所谓方法可以在关键一步依赖直觉，失败时再说操作者没有领会；如果它可以临时增加一条没有写下的规则，那么任何“不存在”的证明都抓不住它。

Gandy 的后见解释很明确：要证明谓词演算不存在普遍有效的机械判定方法，必须先限制并精确定义所谓的“有效方法”，也就是 effective method。

顺序不能反过来。

不是先画出纸带，再寻找一个数学问题来装进去；而是证明需要一个不会随解释漂移的对象，才迫使 Turing 分析计算过程。

[024]

Turing 接着分析这个用纸笔计算的人，当时也常把他叫作 human computer，人类计算员。

这个人一次只能注意有限的信息，只能辨认有限种符号，也只能按有限规则做下一步。

这不是对所有人类思想的定义。它只分析一种非常受限的活动：机械计算。

Gandy 后来还提醒，Turing 不只关心怎样证明某种方法不存在。他也关心正面的问题：哪些数、哪些函数能够被计算。

于是问题改变了形状。

不再先问一个人是否理解他写下的符号，而是问：如果每一步都必须清楚到可以被别人重复，这一步最少需要什么？

[003]

Gandy 还留下过一个很容易被讲成传奇的回忆。

他说，Turing 后来告诉他，一九三五年夏天躺在 Grantchester Meadows 的草地上时，论文的“main idea”来到脑中。

但 Gandy 紧接着承认，所谓“main idea”究竟指什么，只是他的推测。他猜，那也许是 universal machine 与 diagonal argument 的结合。

因此，草地只能帮助我们定位想法形成的大致时期，不能替我们还原一个决定性的顿悟瞬间。真正能够承受解释的，仍然是论文里写下的动作。

[025]

第二章：纸带上的一步

7:35

先只看一格。

一条被分成方格的纸带。机器此刻只能扫描其中一格。

格子里可能有一个符号，也可能是空白。机器还处在一种当前状态里。Turing 把它叫作 m-configuration。

符号和状态放在一起，才决定下一步。

机器可以写下一个符号，可以擦掉已有符号，可以向左移动一格，也可以向右移动一格。动作完成，新的格子和新的状态再决定下一步。

它没有鸟瞰整条纸带。也不需要先知道这串符号对人意味着什么。

它只需要把这一步做得足够明确。

这就是前一章缺少的定义落点。effective 不再只是一句“照规则办”，而是一套可以列出、执行、复查的有限动作。

[004]

纸带在这里不是后来机房里飞快穿过读带器的打孔纸带。

Turing 原文只说，它是纸的类比，被分成一格一格；机器一次只扫描当前格。

可以把它想成一名办事员面前很长的方格纸。他只能透过一个小窗口看见一格，手里的规则卡也只指向当前一行。窗口里的符号和规则卡的位置，共同决定下一步。

这条带子的用途，是把外部笔记保留下来，让每一步只依赖有限信息。它是否打孔、用什么材料制造，并不是数学模型的通用性来源。

真实的实体打孔纸带要到后面的 Colossus 才进入故事。那是特定机器保存和高速读取密文符号的输入介质，不能倒过来解释 Turing 一九三六年为什么选择 tape。

[047]

纸带最容易让人误会的地方，是它看起来太简单。

可它的力量恰好来自限制。

计算者能够一眼认出的符号种类有限，能够同时注意的格子有限，下一步能改变的位置也有限。把这些限制集中到“当前格”和“当前状态”，不是为了模仿人的全部生活，而是为了隔离一种活动：按照明确规则计算。

一旦动作被隔离出来，问题就能被交给证明。

纸带不是电脑屏幕的祖先图，也不是一幅硬件草图。它是一个证明对象，让“可能的计算过程”第一次获得足够窄、又足够一般的操作边界。

[026]

如果只到这里，每一台机器都像一张固定动作表。

换一个任务，就换一台机器。

Turing 再走了一步：机器的描述也可以被编码成符号，交给另一台机器读取。

这台 universal computing machine 不必为每个任务重新造一套物理结构。它读取另一台机器的 standard description，再模仿那台机器的动作。

这里第一次出现了本期容易混淆的“模仿”。

一九三六年的模仿，是一台机器执行另一台机器的描述。它不是模仿一个人说话，也不是证明机器理解了那份描述。

[005]

到这里，纸带同时打开了两个方向。

一个方向向前问：给定清楚的描述，哪些序列和过程可以算？通用机器怎样执行它们？

另一个方向向边界问：是否存在一种一般过程，能从机器的 description number 判断它是否是持续打印无穷多个 figure 的 circle-free machine？是否存在解决 Entscheidungsproblem 的通用机械程序？

Turing 的论文并不只是一篇“不可能性证明”。它也把可计算对象组织成一个正面研究领域。

这点会阻止一个过于顺手的说法：图灵机不是为了宣布机器无能而造出来的。它先把能力写清楚，边界才跟着变得可证明。

[027]

第三章：同一个边界，不止一条路线

11:13

Turing 并不是唯一一个逼近这条边界的人。

在他的论文里，他直接承认研究数理逻辑的数学家 Alonzo Church 已经得到相近的 Entscheidungsproblem 结论，并登记 Church 的 effective calculability 与自己的 computability 之间的等价关系。

Church 的结果先行，定义方式与 Turing 不同，却落在同一个困难上：怎样把有效计算从直觉变成形式对象。

这里不需要把两条路线排成一场只有一个冠军的竞赛。

更有意思的是，相互独立的形式化为什么能被比较。只有当每条路线都把自己的规则写清楚，“它们是否表达同一类可计算过程”才成为可以证明的问题。

[006]

Gandy 后来描述了两份工作相遇的次序。

按他的导读，Turing 在一九三六年四月把一份已经完成的打字稿交给 Newman。之后，Newman 收到 Church 的 offprint 与相关材料，Turing 才在自己的论文中补入引用。

Gandy 的判断是：Church 更早得到结果，而 Turing 写 draft 时并不知道 Church 的工作。

这段次序重要，因为它同时挡住两种神话。

它不允许我们把 Church 擦掉，假装计算边界只有一条发现路线；也不允许我们把 Turing 的机器说成对 Church 材料的改写。

Newman 在这段后见叙述里是课程与文稿交接节点。现有证据仍不支持他给出机器模型、提供灵感或造成投稿决定。

[028]

同一年，数学家 Emil Post 也发表了 Finite combinatory processes-formulation。现有材料只够确认它的出版身份，还不能演示具体规则。

它至少提醒我们：一九三六年的形式化世界不只有 Church 和 Turing。几条道路并行出现，不等于它们当时已经彼此看见。

[029]

这份模型也不是一次落笔就完成。

一九三八年，Turing 发表 correction。他说明原证明中存在 formal errors，并感谢数学家 Paul Bernays 指出这些错误。

Bernays 的作用不是推翻这项工作，而是让形式化的另一面变得可见。

当一步动作被写得足够精确，别人不只可以重复它，也可以指出哪一处推理不成立。作者则必须把修正公开写回同一个证明世界。

可检查，不等于不会出错，而是错误也可以被定位。

[007]

同在一九三八年，Turing 在 Princeton University 取得博士学位，随后回到 Cambridge。

第二年，他开始为英国政府的密码机构工作。

这段履历解释了为什么战争到来时，他会出现在密码分析的位置上。但这不是一条“图灵机变成 Bombe”的直线。接下来出现的，是一个目标更窄、前人工作在先、还必须由多人共同完成的密码分析项目。

[058]

第四章：Bombe 不是一台会读德文的电脑

14:06

战争把“按规则排查”变成一种有时限的工作。

德军使用 Enigma 密码机。它的转子设置会变化，密码分析员首先要从大量可能设置中，找出值得继续核查的候选。

英国的工作不是从零开始。

GCHQ 的机构史记载，波兰密码分析人员已经设计出 bomba kryptologiczna，一种帮助密码分析的机电设备。一九三九年，波兰、法国与英国人员在 Pyry 会面，波兰方面分享了进展。GCHQ 还记载，一九四零年，Turing 在法国与撤到当地的波兰同行会面。

这些知识交接进入 British Bombe 的背景。顺序必须保留：先有波兰的工作和分享，才有英国项目在不同条件下继续发展。

[048]

Bombe 可以先想成一排高速检查台。

它不是把密文放进去，就自动打印整篇德文明文；也不会理解消息在说什么。它的工作更窄：帮助排除大量不可能的 Enigma 每日设置，把较小的一批候选交回密码分析流程。

这是一台机电式专用密码分析设备，不是通用计算机。

这台设备也不能只归到一个名字下面。GCHQ 将 Turing 列为 Bombe 的设计者，同时明确记录 Gordon Welchman 的 diagonal board，也就是对角板，是一项关键改进。Computer History Museum 还把工程师 Harold Keen 和 British Tabulating Machine Company 放进了制造过程。

[049]

第五章：电子、可编程和通用，还不是一回事

15:38

走到这里，还不能把所有机器排成一条从旧到新的升级路线。

Bombe 是机电式专用设备，服务 Enigma 密码分析。

一九四四年运行的 Colossus 已经使用电子元件，是数字机器，也可以通过设置改变操作；但它处理的是 Lorenz 通信，用途仍然受限。它不是 Bombe，也不是现代意义上的通用存储程序计算机。

一九四五年的 EDVAC report 又把另一项能力推到设计中心：让程序和数据进入电子存储。但一份报告不是已经运行的机器。

机电还是电子，是一个问题；能否调整程序，是一个问题；能否处理不同任务，又是一个问题；程序能不能和数据一起留在存储里，还是另一个问题。四十年代中期，这些能力仍分散在不同设备和方案中。

本期不争论哪一台才是“第一台计算机”。这个横截面只负责说明：Turing 走进 NPL 时，没有一台已经成熟的现代电脑等着他填写程序。

[050]

实体打孔纸带在这里终于出现。

Colossus 从高速移动的纸带读取 Lorenz cipher text。纸带上的孔把符号保存成现实机器可以重复读取的输入。

它和一九三六年的抽象 tape 只共享符号排成序列的外观。Colossus 的纸带有材料、速度和读带器；图灵机的 tape 是数学模型中可按需要延伸的外部记忆。

现实介质让计算占据空间、消耗时间。它不能倒过来成为 universal machine 通用性的来源。

[051]

第六章：ACE 让通用计算占据房间

17:10

一九四六年，Turing 在英国国家物理实验室 NPL 写下 ACE proposal。

先把名字完整说出来。ACE 是 Automatic Computing Engine 的缩写，可以译作“自动计算引擎”。它不是另一台密码分析机，而是一项通用电子计算机设计。

这里的 Automatic，也就是“自动”，不表示机器会学习，或者会自己决定目标。它表示人先把数据和 instruction table，也就是逐步指令表，放进机器；启动以后，机器按照指令连续计算，不需要操作员每一步都临时决定接下来做什么。

一九四六年的 proposal 是设计方案，不是已经装好并运行的实体 ACE。

它想改变的，是“一种任务配一台专用设备”的局面。Bombe 像一条只负责筛查 Enigma 设置的流水线；ACE 更像一间可以更换作业单的电子车间。同一套硬件换一张 instruction table，就能处理另一种可以用固定规则描述的任务。

它的“通用”，指的是更换指令就能更换计算任务，不是机器能够理解所有问题。

同年公开的 ENIAC 已经让大规模电子计算成为现实，速度远超机电设备，但编程仍依赖接线板和开关。ACE proposal 则要把通用计算、电子存储、instruction table 和硬件计划放进同一项设计。

存储很快成为主要限制。Turing 讨论 mercury delay line，也就是汞延迟线。可以把它想成一段循环返回的回声：信息借助物理传播的延迟暂时保留下来，过一段时间，再回到能够读取的位置。它不像今天的内存，不能随时直接取出任意一格。

更好的存储也许还会出现，可项目不能无限等待。方案选择先沿现有路径开工，让硬件和指令表的工作并行推进，再根据实际使用修改设计。

一九三六年的纸带模型可以暂时忽略元件、速度、预算和人员；ACE 不可以。

[008]

ACE proposal 还把“机械”这个词重新放回人的劳动。

Turing 把适用问题限定在这样一类工作：人类计算员能够像处理例行文书一样，依照固定规则完成，而不必理解这些规则为什么成立。

这听起来像一九三六年 human computor 的回声，却多了现实机器的代价。

如果指令漏掉某一种可能情况，纸面证明也许只是留下一个缺口；电子机器却会在运行中无路可走。指令表必须覆盖可能出现的各种情况，也必须和硬件真正提供的存储与操作相配合。

抽象机器让步骤可以定义。ACE 迫使团队问：这些步骤能否装进一套会被制造、测试和使用的系统？

[034]

现实项目很快不再只有一个名字。

一九四八年的 progress report，也就是进展报告，由 NPL 项目成员 James Hardy Wilkinson 署名。摘要把过去两年的工作归给 Turing 和他的 collaborators，也就是协作者；内容包括机器设计、编程、试验机电路和通用程序。

ACE 的档案里还出现了更多名字。M. Woodger 留下 Test Assembly 和 Version VIII 文档；Donald Davies 与 Woodger 的名字共同出现在 Version 8A 上。

这些文档标题还不足以分配每一项电路和每一次设计决定，却已经足以改变故事的主语：ACE 不再是一份 proposal 自动长成的机器，而是一连串由不同人完成的测试、版本、报告和程序。

[009]

第六章（续）：程序也进入机器

20:48

回看一九三六年的 universal machine，Gandy 后来挑出四个对电子计算机设计尤其醒目的特征。

第一，每个基本步骤都很简单，说明的长度固定。第二，通用机器读取程序和执行程序，可以使用同一类机制。第三，机器可以根据条件选择下一步。第四，这套操作容易适配二进制存储和运算。

这份后见清单解释了为什么图灵机会成为电子计算机设计的概念参照：复杂过程可以拆成有限步骤，机器的行为说明也可以进入存储。

但它不是一张专利归属表。门电路、二进制存储和条件分支各自怎样进入现实机器，仍然属于许多人的工程史。

[035]

图灵机留下的一项重要变化，并不是某种后来编程语言的语法。

它把机器描述本身也变成了符号。

同一台 universal machine 读取不同的 standard description，就执行不同过程。机器与它要执行的过程，不必永远焊在同一套动作里。

到了 ACE，instruction table 与 programming 已经成为现实项目中的工作对象。机器不仅要有线路，还要有可以被安排、检查和修改的步骤。

纸带没有直接变成内存。真正延续下来的是一个更抽象的动作：程序描述可以成为机器的输入，而现实计算机必须找到物理方式保存和执行它。

[010]

程序可以成为对象，不等于 Turing 发明了后来的高级编程语言。

ACE 的文档已经出现 programming 和 instruction table，说明现实机器需要一套安排步骤的方法。但从指令表走到编译器、形式语言和高级语言，中间还有许多不同的人、机器与问题。

这里能够确认的只有一层：图灵机让人可以追问，一种描述系统究竟能够表达哪些计算过程。

后来所谓“图灵完备”，也不是 Turing 在一九三六年给编程语言颁发的标签。每一种语言怎样获得这种能力、由谁设计、为了什么，都有自己的历史。

[011]

一九四八年六月，Manchester Baby 已经在电子数字机器上运行存储于机器内部的程序。stored program 不再只存在于报告和 proposal 里，开始进入可运行的硬件。

同年秋天，Turing 加入 Newman 所在的 Manchester 项目。他主要关心怎样使用机器，也帮助别人使用，并写下 Programmer's Handbook，也就是程序员手册。

他没有参与这台机器的硬件设计，也没有设计它的 programming language。Turing 在 Manchester 承担的是现实机器的使用与编程工作，而不是独自发明 Manchester 机器或语言。

[037]

第七章：不把所有规则一次写完

23:25

同在一九四八年，Turing 写了另一份报告，Intelligent Machinery。

他讨论 A-type unorganised machines。它们由简单、相似的单元连接而成，组织不是一开始就必须完成。

报告还区分两种干预。像螺丝刀那样改动物理连接，是一种干预；改变 universal machine 纸面或存储中的说明，是另一种干预。

在后一种情况下，机器的存储内容改变，可以自然地被称作 self-modification。

这并不表示机器会脱离人的目标自行长出意义。它说明，设计不再只发生在焊接和制造完成以前；改变被保存的说明，也能改变机器接下来的行为。

[012]

报告随后把 infant cortex 作为类比。

Turing 不是说大脑已经被还原成一张简单线路图。他在寻找一种研究路线：与其一次造出一套完成的成人行为，不如从初始组织较少的机器开始，再通过教育和干预形成结构。

报告的 summary 把教育、奖惩与机器组织的发展并列起来。

人的角色因此发生变化。

设计者不再必须提前写完所有行为。他还要选择初始机器，安排教育过程，观察哪些改变持续下来。

这一步把“程序是什么”推进到另一个问题：程序员交付的究竟是一张最终规则表，还是一套允许行为在过程中变化的条件？

[038]

“可以被教育”没有自动给出理解，只把问题从“程序员怎样写完一张规则表”，推进到“机器怎样在干预中改变”。

谁来选择教育材料？什么算奖励？机器改变了行为，我们又根据什么判断这种改变？

一九四八年的报告没有用后来的机器学习术语回答这些问题，我们也不需要替它套上现代名称。

保留它当时的词汇，反而更能看见 Turing 的实际选择：把固定规则之外的教育过程，变成一个可以继续实验的问题。

这个问题会把故事从机器内部的结构，带回外部观察者。

[039]

第八章：看见作品，还是看见思想

25:31

一九四九年，神经外科医生 Geoffrey Jefferson 发表 The Mind of Mechanical Man，文章来自他同年的 Lister Oration，也就是李斯特演讲。

Jefferson 的原始页面还没有完成逐页核对，因此本期只使用 Turing 在一九五零年论文中对他的引述。

按照 Turing 的转述，只看见一台机器写出作品还不够；门槛还包括，作品是否来自它自己的思想和情感，以及它是否知道自己做了什么。

这项异议把产物和体验拆开了。

[013]

这项异议改变的是证据门槛，而不是否认机器能够产出作品。

如果外部结果可以由“符号偶然落下”或者一套没有体验的机制产生，那么相似的作品还不足以说明内部也发生了思想、情感和自知。

对 Turing 来说，这是一道难以从机器内部直接展示的门槛。

它要求我们把两种问题分开：机器做出了什么，与这项产出能够证明机器是什么，不是同一句话。但它也没有因此证明，机器永远不能思考。

[040]

Turing 没有展示机器内部正在体验什么。

他的回应是，如果只有成为另一个对象，才能知道它是否思考，那么同样的标准也会困住人与人之间的判断。

他把这种极端标准推到 solipsist，也就是唯我论的处境，再继续维护外部问答的价值。

这就是本期的主要转折。

从一九三六年的纸带到一九五零年的游戏，不是机器增加了一层心智模块。

是问题换了类型。

图灵机分析哪些步骤可以被机械执行。模仿游戏安排观察者根据外部表现作判断。

前者没有证明理解，后者也没有定义意识。

[014]

Turing 也没有把机器写成没有边界的对象。

在数学异议里，他承认，任何一台特定的离散状态机，都有不能正确回答的问题。他反驳的只是：没有证据说明人类心智就不存在类似限制。

在论文末段，他再次回到 child programme 和 education process。

与其一次写完成人心智，不如从更简单的初始机器开始，通过教育观察它会变成什么。

这里接住了一九四八年那条路线，却没有把路线伪装成结果。

Turing 明确承认正面证据还不充分。child machine 是一个实验建议，不是已经完成的智能证明。

[015]

第九章：回答像，不等于里面一样

27:57

三十年后，哲学家 John Searle 把程序与理解之间的边界推得更尖锐。

他的 Chinese room 让外部输入和输出保持得像一个懂中文的人，房间内部的操作者却只是在按照形式规则处理符号。

Searle 要挑战的，是一个充分条件：仅仅运行一套程序，是否就足以产生 understanding 或 intentionality？

他的答案是否定的。

这仍然不等于“机器永远不能思考”。Searle 在摘要里反而明确说，只有机器可能思考；只是那必须是大脑，或者具有与大脑相当内部因果能力的机器。

他质疑的是从“执行了程序”到“因此理解”的这一步，不是一九三六年的可计算性结果。

[016]

到二零二零年，AI 研究者 Melanie Mitchell 总结一场关于 meaning 的 workshop，讨论的是另一种落差。

文章把 understanding 称为仍未清楚界定的品质。多位参与者对比人的主动、依赖语境的学习，与机器学习常见的独立同分布假设。

固定 benchmark 还可能奖励数据中的偏差和捷径。于是，分数变高，和更一般的理解能力之间，不能自动画等号。

这不是说测试没有用。

它是在追问：测试究竟测到了什么，测试之外又留下了什么。

这里的主语也不能被压平。文章汇总 workshop 讨论，很多判断属于 participants，不是 Mitchell 一个人对所有问题的定论。

[017]

第十章：如果 Turing 坐到今天的聊天窗口前

29:31

先把已经知道的事实，和我们准备做的推测分开。

Turing 没有留下对大语言模型的评论。我们不能替他补写一句“我赞成”，也不能替他补写一句“这不算智能”。

要做反事实比较，先得让没有技术背景的听众知道，今天放在他面前的东西大致怎样产生文字。

以 GPT-4 技术报告对自身的描述为例，预训练时，它反复练习一件事：根据文档上文，预测下一个 token。

token 可以先理解成模型内部处理的文字片段，不必等同于一个完整单词。生成回答时，模型根据已有上文估计下一片文字，再把结果接回上下文，继续预测。一个局部的续写动作反复进行，就能累积成段落、代码或者对话。

这像一道规模极大的连续完形填空。但这个类比只解释训练和生成的入口，不能把模型缩成一台简单接龙机，也不能说明所有复杂能力怎样产生。

报告还说，预训练之后，模型会根据人类对回答的反馈继续调校；这一步称为 RLHF，也就是基于人类反馈的强化学习。报告同时明确，没有公开模型规模、硬件、训练算力和数据构造等细节。

所以，我们能确认一个具体模型对自身的最小技术描述。我们不能用这份报告代表全部大语言模型，更不能从 next-token prediction 直接推出理解或意识。

[053]

如果沿用 Turing 一九五零年的做法，他很可能不会先回答“大语言模型到底有没有在思考”。

他更可能先追问：我们准备让它参加什么游戏？谁和谁比较？观察哪些回答？什么情况算失败？

这是我们最有把握的一项推测，因为它直接延续了 Turing 把含混词义改写成可执行实验的做法。

再往前一步，一九四八年的 educable machine，也就是可教育机器，和一九五零年的 child machine，还提供了另一条线索。

他可能会认真追问模型怎样被训练，哪些部分来自初始结构，哪些改变来自样本和反馈，而不只检查程序员是否手写了每一条回答。

两边都把设计者的工作，从“预先写完所有答案”，推向“安排一个能够发生改变的过程”。这只支持提问方式上的相似，不能写成 Turing 预言了预训练、模型架构、token 或 RLHF。

[054]

Turing 也未必会把流畅对话当成无关的幻术。

他维护外部问答作为经验判断的价值，意味着语言表现值得测量和比较。

但“值得作为证据”，不等于“足以证明内在理解”。

Searle 会提醒我们：正确的输入和输出，可以与“程序自身是否理解”这个问题同时存在。

Mitchell 会提醒我们：benchmark 高分可能利用数据和测试结构里的捷径；换一个环境，原来的成绩未必代表更一般的理解。

于是，流畅回答既不是零证据，也不是终局证明。它证明系统在这项安排下做出了某种表现；从表现走到理解、主观感受或意识，还需要额外论证。

[055]

所以，我们不能简单地把 Turing 放进“认可”或“否定”大语言模型的阵营。

更符合他已有做法的推测是：他会把惊讶拆成实验，改变规则，追问前提，换掉语境，再记录模型在哪些条件下稳定，在哪些条件下失败。他也可能关心，训练过程究竟怎样改变了机器的行为。

这只能是一项有边界的推测。更可靠的，是 Turing 留给这期节目的方法：先说明证据能走到哪里，再把尚未回答的部分原样留下。

[056]

独立片尾一：单集简介与系列预告

33:17

你刚刚收听的是《原代码》第十一期，《模仿游戏：Alan Turing 与图灵机》。

这一期，也是《原代码》新系列《大语言模型前史》的起点。

这个系列不会把今天的大语言模型讲成一项突然出现的发明，也不会把八十多年的计算史讲成一条注定抵达今天的直线。它想追问的是，当“机器能否理解语言”这个问题大得无从下手时，一代代研究者怎样把它拆成计算、记忆、概率、知识、学习和预测这些可以动手解决的问题。

欢迎订阅《原代码》，关注《大语言模型前史》的后续更新。

独立片尾二：官方网站

33:57

你可以访问《原代码》的官方网站。网站地址是，原代码三个字的全拼，点 X Y Z。在那里，你可以查看本期逐字稿、证据引用关系和证据快照，也可以收听往期节目。

引用 [001]

引用 [057]

引用 [022]

引用 [023]

引用 [002]

引用 [046]

引用 [024]

引用 [003]

引用 [025]

引用 [004]

引用 [047]

引用 [026]

引用 [005]

引用 [027]

引用 [006]

引用 [028]

引用 [029]

引用 [007]

引用 [058]

引用 [048]

引用 [049]

引用 [050]

引用 [051]

引用 [008]

引用 [034]

引用 [009]

引用 [035]

引用 [010]

引用 [011]

引用 [037]

引用 [012]

引用 [038]

引用 [039]

引用 [013]

引用 [040]

引用 [014]

引用 [015]

引用 [016]

引用 [017]

引用 [053]

引用 [054]

引用 [055]

引用 [056]