理性：从人工智能到僵尸，繁琐的细节
《理性：从人工智能到僵尸 - 地图与真实的土地 - 第一部分：可以预见的错误 - 繁琐的细节》
试图赋予一原本枯燥而不可信的叙述以艺术真实性，仅仅需要确凿的细节……
—— 呸呸，出自吉尔伯特和沙利文的音乐剧《天皇》[1]
---------------------
合取谬误是指人类估计概率P(A,B)[A，B两事同时发生的概率]会比单单概率P(B)[仅事件B发生的概率]大，虽然概率论告诉我们P(A,B) ≤ P(B)。例如，在1981年的一个实验中，68%的被试对象认为，与“里根将为未婚妈妈提供联邦支持。”相比，“里根将为未婚妈妈提供联邦支持，并削减联邦政府对地方政府的支持。”更有可能发生。[2]
一系列精心设计的实验用于研究合取谬误。这些实验剔除了备择假设，并确定了标准解释。这些实验证实，合取谬误发生的原因在于我们“对代表性的判断取代了对概率的判断。”通过添加额外的细节，可以使一个结果更加典型，具备其生成过程的特征。里根支持未婚母亲的例子里，添加「里根会削减地方政府的支持」这样的细节会让这件事显得更加合理。一件事的合理性会降低另一件事的不合理性，他们“中和”了。
也就是说：增添细节可以让一个场景显得更加合理，虽然整个事件的概率肯定会降低。
如果真是如此，那么我们就会看到未来学家沉迷在充满细节但不合理的未来史中打转，或者发现人们会接受大量未经证实的主张，就因为这些主张中心绑定了一些言过其实的论断。如果是在鲜明直接的对比中发现合取谬误，，你可以有意识地矫正自己，在这一个问题上得出正确的结论。不过这只是贴上创可贴，而不是总体上解决这个问题。
在1982年的实验中，两组专业分析师被分别给予两个命题以判断概率，这两个命题分别为“俄罗斯入侵波兰，随即美苏外交中断”和“美苏外交中断”。实验发现第一组分析师对命题概率的评估系统性地高于第二组。[3]当不能直接做比较的时候，什么样的策略可以让这些分析师排除合取谬误的干扰？他们怎么样才能在概率判断上做得更好？
只堵住在特例中出现的某一个漏洞并不能解决普遍问题。漏洞是症状，不是病因。
在没有进行直接比较的情况下，或者不知道有人在对合取谬误做实验时，这些分析师如何才能避免合取谬误？要我说，他们应该注意表示并列关系的连接词。他们需要提防这类词——不仅仅是提防，更需要矫枉过正，就算不知道研究人员会事后测试合取谬误对他们的影响，他们也得这么做。他们应该注意到两个细节之间的连接，并且惊讶于有人如此鲁莽地要求他们为这么疯狂复杂的预测背书。同时他们应该充分惩罚其概率——根据实验结果，惩罚因子至少得是4。
让分析师思考美国和苏联外交关系中断的原因同样有用。要思考的场景不是“美苏外交毫无原因地中断”，而是“美苏外交因为各种原因中断”。
那些投“里根将为未婚妈妈提供联邦支持，并且削减联邦政府对地方政府的支持”一票的被试呢？同样，他们应该被“并且”这个词吓到。此外，他们可以把「荒谬性」求和—— 荒谬性是概率取对数，所以可以相加——而不是取平均。他们会想“里根有可能会削减地方政府的支持（1bit），但是不太可能支持未婚女性（4bit）。所以总共的荒谬性：5bit。”或者可以这样，“里根不会支持未婚女性——这一条就可以让这句话出局了。其他的论断只会让它更糟。”
类似的，想象一个骰子，四面绿色，两面红色。被试需要在三个序列上下注（1）红绿红红红，（2）绿红绿红红红，（3）绿红红红红红，估计在20次掷骰子中哪一个序列出现的最多。[4]65%的被试选择 「绿红绿红红红」，但是这个选择完全不如「红绿红红红」，因为任何一个出现「绿红绿红红红」的序列一定会出现「红绿红红红」。如何让这些被试表现更好？让他们注意到包含关系？不过这只是一个创可贴，并不能解决根本问题。让他们精确地计算概率？这样确实可以解决根本问题，但是并不是所有事情都可以精确计算概率。
那些因为启发式学习押错注的被试会想：“啊哈！第二个序列绿色的比例最高！我应该压第二个序列！”想通过启发式学习压对注，被试得这么想：“啊哈！第一个序列最短！我应该压第一个序列！”
他们应该好好感受一下奥卡姆剃刀原则——所有多余的细节都是负担，一次多余的掷骰也是负担 。
很久以前，我和某人聊天，他被一个轻率的未来学家迷住了（这个未来学家描述了很多细节，听上去有条有理）。我试图解释为什么我不会被这些神奇而不可思议的理论迷惑。我解释了合取谬误，特别是“外交中断 ± 入侵波兰”的实验。然后他说：“好吧，但这和这件事有什么关系呢？”我打断道：“宇宙由于各种原因复制的可能性更大，而不是宇宙进化出高等文明，高等文明控制了黑洞，黑洞复制了宇宙。”他说:“Oh.”
在那之前，他从没觉得额外的细节是额外的负担。相反，它们是确凿的细节，将真实性赋予叙事。有人告诉你一堆奇特的想法，其中一个是宇宙复制。然后他们提出一个支持宇宙复制的细节。然而这个细节并不能连带支持这一堆想法，尽管它们被装进了一个故事里[5]。
你必须清理细节。把细节一个个拎出来，问：“你怎么知道这些细节？”有人描述了一番人类下降到纳米层级的战争，中国拒绝遵守国际控制条约，随之而来的是军备竞赛……等一下——你怎么知道是中国？是你有一个水晶球还是你想过一把未来学家的瘾？所有这些细节是从哪来的？这一个细节又是打哪来的？
如是我闻：
如果可以，马上减轻你的负担。
没有一根稻草不足以压断你的脊梁。
------------------------------
[1] 《天皇》：著名幽默音乐剧。主人公被意外任命为处刑官，需在天皇到来之前找到一个人处死，几经波折后决定将自己的情敌作为处刑对象，却不料那人正是天皇离家出走逃婚的儿子。详见：https://en.wikipedia.org/wiki/The_Mikado
[2] William S. Gilbert and Arthur Sullivan, The Mikado, Opera, 1885.
[3] Tversky and Kahneman, “ExtensionalVersus Intuitive Reasoning.”
[4] Amos Tversky and Daniel Kahneman,“Judgments of and by Representativeness,” in Judgment Under Uncertainty: Heuristics and Biases, ed. DanielKahneman, Paul Slovic, and Amos Tversky (New York: Cambridge University Press,1982), 84–98.
[5] 打包谬误（Package-deal fallacy）：指假设在文化或传统中经常同时出现的事物一定会同时出现，尤其常见于政治争论。例：“我的对手是保守党，在投票中反对高税收和高福利，因此他肯定也反对堕胎和控枪。”
-----------------------
翻译: yzhaobk
校对: 潜水艇君