我对自己说, 现在我终于做了一件值得做的事情。我觉得, 在我把它写下来之前必须小心, 不要在大街上被车撞倒辗死。——罗素
罗素关于数学基础的工作是在剑桥完成的, 他先是学生后来成了教员。1900 年夏天堪称一个“才智高潮”期, 罗素在数理逻辑方面取得了重要的进展。这位年仅 28 岁的知识分子此时正处在狂热而兴奋的时期, 后来他回忆说：“我对自己说, 现在我终于做了一件值得做的事情。我觉得, 在我把它写下来之前必须小心, 不要在大街上被车撞倒辗死。”
1901 年, 当时罗素正在深入研究数学的逻辑基础。这项研究的前提是他要研究事物集合（尽管现代称之为集合, 但罗素称它为类）间的关系。在这些类中“事物”的属性并不重要, 重要的是集合论的抽象逻辑。
集合的成员资格似乎平淡无奇。如果我们考虑集合 S = {a, b, c},那么 b 是集合 S 的成员, 但 g 不是。如果我们考虑所有偶数的集合, 那么 2, 6, 1600 都是这个集合的成员, 而 3, 1/2, π 不是。
把抽象层次再提高一点, 我们发现一个集合的成员本身也可以是集合。对于两个成员的集合 T = {a, {b, c}}, 第一个成员是 a, 而第二个成员是集合{b, c}。或者, 设 W 是一个集合, 它是由所有偶数的集合和所有奇数的集合组成的, 即
W = {{2, 4, 6, 8, · · · }, {1, 3, 5, 7, · · · }}
这个集合 W 有两个成员, 每一个成员本身也是由无限多个数组成的集合。
集合可以有集合作为成员的事实促使罗素提出一个非常迷人的问题：一个集合能否以它自己为成员？他写道：“有时候我觉得好像类本身是一个成员, 有时候又不是。”
他举了一个例子, 所有茶匙的集合, 这个集合肯定不是一把茶匙。因此, 所有茶匙的集合不是其自身的成员。同样, 所有人的集合也不是一个人, 因此也不是其自身的成员。
对罗素来说, 似乎某个集合的确包含它自己作为成员。他的例子是一个所有不是茶匙的事物的集合。非茶匙的集合中包含叉子、英国首相、8 位数字, 等等。的确, 这些当中任何一个都不是茶匙。但是这个集合本身的确也不是茶匙（没有人能够用它搅拌茶）, 所以它的确作为另一个非茶匙的事物属于这个集合。
或者, 考虑能够用 20 个或者少于 20 个英语单词描述的所有集合的集合 X。所有水牛的集合是 X 的一个成员, 因为它的描述“所有水牛的集合”（the set of all buffaloes）只需要 5 个单词。同样, 所有豪猪刺的集合（the set of all porcupine needles）（6 个单词）也应该在 X 中, 生活在南美洲的所有蚊子的集合（the set of all mosquitoes living in South America）（9 个单词）也在 X 中。但是, 这种成员资格标准保证, 能够用 20 个或者少于 20 个英语单词描述的所有集合的集合（the set of all sets that can be described in 20 or fewer English words）X 可以用 15 个单词描述, 因此它也包含它自己。
显然, 每个集合都将属于两个范畴之一。要么像茶匙的集合那样,它是一个不包含自己的集合, 我们把这种情况称为罗素集合；要么像 X 那样, 它是自身的一个成员。
当罗素决定考虑所有不是其自身的成员的集合的集合时, 这些天真的思考却带来了一个不祥的转向, 即把所有罗素集合都收集起来形成一个大的新集合, 我们记为 R。于是, R 中就有这样一些成员：所有茶匙的集合, 所有人的集合, 很多很多其他的集合。
此时, 出现了一个撼动基础的问题：R 是它自己的成员吗？即所有罗素集合的集合是罗素集合吗？这个问题只有两个可能的答案：“是”或“不是”。
假设答案是“是”。那么 R 是 R 的一个成员。为了成为一个成员,R 必须满足成员资格标准, 即上面用楷体字强调的：R 不是其自身的成员。因此, 如果 R 是 R 的成员, 那么 R 不能是 R 的成员。这个明显的矛盾排除了这个致命问题的答案为“是”的可能性。
但是, 如果答案是“不是”, 即 R 不是R 的成员又如何呢？那么 R 一定不是其自身的成员, 像我们的茶匙的集合一样, 满足进入 R 的成员资格标准。所以, 如果R 不是 R 的成员, 那么它一定自动地成为 R 的一个成员。我们再一次面临矛盾。
对于罗素来说, 这一集合应该很简单。然而, 不知何故, “每种选择都导致与它相反的情况, 产生一个矛盾”。在这样一个他所创建的“至今看似毫无问题的非常特殊的类”面前, 他变得不知所措。这就是今天我们所说的罗素悖论。
使用更加具体的事例来说明罗素提出的逻辑扭曲, 会有助于理解。假设一位著名的艺术鉴定家决定把全世界的油画分类成两个互斥的范畴。第一个范畴是由这样的油画组成的：在画布上的油画中有油画本身的像, 当然这样的油画相当稀少。例如, 我们可以作一幅画, 标题是《内部》, 它画的是一个房间及其里面的家具：飘动的织物、一座雕像、一架三角钢琴；钢琴上方挂着一幅画, 它是油画《内部》的缩小版。因此, 我们的画包含它自己的像。
另一个范畴更普遍, 它是由所有不包含自己的像的油画组成的。我们把属于这一范畴的油画称为“罗素油画”。例如, 《蒙娜丽莎》就是一幅罗素油画, 因为它里面没有展示它的缩小版本。
进一步假设我们的艺术鉴定家安排了一个巨大的画展, 它展出了全世界所有的罗素油画。经过巨大的努力之后, 这些油画被收集起来,并被挂在一个巨大的大厅里的一面墙上。这位鉴定家对自己的成就很自豪, 他雇用一位画家作一幅包含这面墙和上面东西的画。
当这幅画完成时, 这位画家非常准确地给这幅画起名为《全世界所有罗素油画》, 并把它送给这位鉴定家。鉴定家仔细地检查着画家的作品并发现了一个小瑕疵：在这幅画上, 靠近《蒙娜丽莎》的画像是一幅《全世界所有罗素油画》的油画像。这表明《全世界所有罗素油画》是包含它自己的一幅画, 因此它不是罗素油画。既然它不属于这一展览,就不应该挂在墙上展示。他要求画家把它涂掉。
这位画家照做了并再一次把她的作品送给鉴定家。经过仔细检查之后, 后者认识到存在一个新问题：这幅油画, 《全世界所有罗素油画》现在不包含它自己的像了, 所以它是属于这次展品的罗素油画。于是它应该被挂在这面墙的某个地方以免这次展览没有包含所有罗素油画。因此, 这位鉴定家再一次把这位画家叫来, 要求她再加上这幅《全世界所有罗素油画》的像。
但是, 一旦这幅油画被加上, 我们就又回到了起点。这幅油画必须被涂掉, 这样一来它必须得到恢复, 然后再涂掉, 以此进行下去。经过几个往复之后（希望是这样）, 画家和鉴定家将会意识到一定是什么事情出现了错误：他们偶然发现了罗素悖论。
这一切好像完全不相关。但是回想一下,罗素的工作目标是把整个数学建立在不可撼动的逻辑基础之上。他的悖论使这一计划陷入困境。正如当高级公寓顶楼套房的居住者知道地下室开裂时会感到很不安一样, 当数学家们知道他们学科的基础存在逻辑缺点时, 也会感到很不安。这表明整个数学事业就如公寓塔楼一样, 随时可能倒下。
不用说, 罗素对他的悖论的存在感到很震惊。他写道：“我就像虔诚的天主教徒琢磨邪恶的罗马教皇一样琢磨这个矛盾。”罗素与逻辑学家戈特洛布·弗雷格（Gottlob Frege, 1848—1925）之间的交流明显表现出了他们的不安, 同样其他人也感到沮丧。弗雷格已经出版了《算术的基本法则》, 这是一部巨作, 目的在于揭示算术的基础。
在这本书中, 弗雷格也是以罗素导出悖论时同样朴素而随意的方式利用集合进行研究的。罗素把他的例子给弗雷格看, 弗雷格立即意识到这把他的事业判处了死刑。在他的《算术的基本法则》的第二卷里, 弗雷格不得不面对每一位学者的最大梦魇：他的著作在最后的关头被宣判有错, 因为这本书在罗素的信到来时已经准备出版了。弗雷格极度真诚而辛酸地写道：“一位科学家最不想见到的就是在工作即将完成之际, 其基础倒塌了。当收到伯特兰·罗素先生的来信时, 我就置于这样的境地, 此时这本书就要出版了。”
这一悖论的陈述是清晰的, 但是它的解决方案不清晰。经过多年不成功的尝试之后, 逻辑学家们最终尝试着通过规定包含自身为成员的集合不是真正的集合来使其合法化。通过这样的逻辑策略, 还有若干已经精心创造的定义, 这样的类被宣告为不合法。
这一方法的合理性也许还可以通过我们的油画故事解释清楚。允许谈及包含自己的像的油画吗？如果《全世界所有罗素油画》包含自己的像, 那么我们可能需要在放大镜的帮助下, 对这幅画仔细检查并发现《全世界所有罗素油画》的迷你版。它里面一定还有一个《全世界所有罗素油画》的迷你版。因此, 它应该像衣橱上的镜子一样永远无止境地反射。像这样无限回归的油画不可能真正画出来。
在粗略的意义下, 这阐述了罗素设想的这一悖论的解决方案。他写道：“包含某个类的所有成员的那个东西不能是这个类的成员。”因此, 罗素集合中成员的自引用性是不合法的。罗素集合根本不是集合。
经过反复的痛苦思考后得出的这一解决方案似乎很讨厌且有人为的意味。罗素把它说成是“也许为真但绝不优美的理论”。但重要的是, 它把对集合的研究从朴素的前罗素领域转换到了非直观领域。
对那些不关心数学基础的数学家来说, 整个事件似乎需要更加深入的思考。最终罗素相信, 把数学还原到逻辑的终极目标不会像他年轻时所乐观预测的那样令人满意。
上文节选自人邮图灵新知《数学那些事》，【遇见数学】已获转发授权。
作者：[美] 威廉·邓纳姆（William Dunham）译者：冯速
一览数学世界不可不谈的伟大定理、难题和争论
勾勒数学的全景，让课堂上的知识变得更清晰、更好懂
数学科普巨匠邓纳姆献给钟情数学以及单纯好奇“数学到底是什么”的读者