同人小说《哈利波特与理性之道》中文粉丝站点

理性:从人工智能到僵尸,我所谓的理性到底是什么意思?

授权和转载须知

(*译注: 全书为方便阅读和查阅,做了许多文章与文章之间的快捷链接,这些会在后文翻译完毕后逐步补上,同时视情况调整翻译顺序)


《理性:从人工智能到僵尸 - 地图与真实的土地 - 第一部分:可以预见的错误 - 我所谓的理性到底是什么意思?》

我的意思是:

  1. 认知理性:系统性地提高信念准确度。

  2. 工具理性:系统性地实现你的价值。

当你睁开眼,看着周围的房间时,你会根据桌子来定位你笔记本电脑的位置,然后又根据墙壁来定位书架的位置。如果你的眼睛或大脑出了什么问题,你的心理模型就会指着没有书架的地方说那里有书架。如果你就此跑过去拿书的话,你会失望的。

抱有虚假信念就是这种感觉,就像是拿着一张和真实土地对不上号的世界地图。认知理性就是关乎如何建立准确的地图。这种信念与现实的对应性一般来说会被称之为“真实”,我也乐于这么称呼它。

另一方面,工具理性则关乎于掌控现实——将未来导向你想要去的方向。这是一种技艺,通过选择行动来争取到你偏爱的结果。我有时候会称之为“胜利”。

所以理性就是关乎于形成真实的信念,并做出得以取胜的决策。

在这里,追求“真实”不等于抛弃不确定或间接证据。观察房间四周,在心中建立起地图,从本质上来说和相信地球的核心全是熔岩或尤里乌斯.凯撒是个秃子并没有什么不同。那些从时空上来说与你相隔甚远的问题,较你的书架而言,也许看起来会显得更飘渺,更抽象。然而有些事实就是与公元二零一五年地球核心和公元五十年凯撒头顶的状态有关。这些事实也许会对你造成实质性的影响,就算你根本就没有办法亲眼见证凯撒的头顶或地球核心。

还有,这里的“胜利”并不需要以他人为代价。生活的计划可以是合作或者自我牺牲,而不一定是竞争。“你的价值”在这里的意思是任何你在乎的东西,包括其他人,并没有限定为自私或不与其他人共享的价值。

当人们说“X是理性的!”的时候,一般只是以一种更强硬的说法来表达“我觉得X是真的”或“我觉得X很好”的而已。所以,为什么在有了“真”和“好”这两个字之后,还要有“合理”这个词存在呢?

类似的争论也在“真”这个字上发生过。说“雪是白色的”就好了,没必要说“雪是白色是真实的”。真实这个概念的用处在于,它能够让我们讨论地图与土地对应性的一般特点。“真实模型一般能做出比错误模型更好的实验预测”是一个十分有用的泛论,如果没有“真实”或“准确”的概念,你就没法得到这种共识。

同理,尽管“吃蔬菜是理性的”也许可以说成是“吃蔬菜是有用的”或“吃蔬菜对你有好处”,但诸如“理性智能体是根据最大化自洽的效用函数的概率预期来做出决定”这类思维必须依赖(工具)理性的概念。我们需要“理性”这样的概念来注意到一些普遍事实,能够让我们系统性得出真相或产生价值的思考方式——以及我们系统性失败地各种其它方式。

实验心理学家发现,人类的推理有时看起来会非常奇怪。比如,有些人会觉得“比尔弹爵士乐”的概率要比“比尔是个弹爵士乐的会计”还要低。这种判断似乎非常奇怪,因为随便哪个弹爵士乐的会计很明显也可以归为弹爵士乐的人。但是,我们要站在什么样的高度,才能自然而然地说“这个判断错了”呢?

实验心理学家使用了两大“金本位”:概率论和决策论。

概率论是隐藏在理性信念之下的一套规则。概率的数理逻辑会平等计算以下几项,其中原理没有丝毫区别:(a)找出你的书架在哪里,(b)测量地球核心的温度,以及(c)估算尤里乌斯·凯撒的头上有几根毛。这些其实都是一个问题:如何通过证据和观测来修正(“更新”)一个人的信念。同理,决策论是隐藏在理性行为下的一套规则。无论一个人拥有什么样的目标和可选途径,决策论都是同样可行的。

让“P(某事件)”代表“某事件发生的概率”,而P(A,B)代表“A和B同时发生的概率”,因为P(A) ≥ P(A,B)是概率论中的普适定律,所以P(比尔玩爵士)小于P(比尔玩爵士,比尔是个会计)这种判断是错误的。

用术语来说,这种概率判断是不贝叶斯的。理性的信念和行为在数学上被明确定义为“贝叶斯”。

要记住,在现代,理性这个概念指的并不是语言上的推理。我举了个例子:你睁开眼睛,看看四周,然后在脑中建立了一个模型,说这是一个房间,靠墙的地方有个书架。现代理性的概念已经足够普遍,涵盖了存在于你的眼睛和大脑中与事物一一对应的地图。这个概念也包括了你无法用语言表述的直觉。数学不在乎我们是否在用相同的英语单词“理性”来形容史波克和贝叶斯主义者。数学能够建立模型,为达成目标或为世界绘制地图找出更好的办法,无论这些方法符不符合我们对“理性”的成见和刻板印象。

现实中的“理性”意味着什么,这个问题还没完。主要原因有两个:

首先,形式上的贝叶斯主义,其完全体对大部分现实世界的问题来说,从计算上来讲那是相当难用的。要让人能够真正做到计算并遵守数学结果,其现实程度就和你通过计算夸克运动去预言股票市场差不多。

这就是为什么这里会有一个叫做“Less Wrong”的一整个站点,而不是单单一个页面,列出正式公理,然后就完事了。要从人的意识内部寻求真相、实现价值是一整套技艺:我们必须了解自己的缺陷,克服自己的偏见,阻止自己自我欺骗,塑造好感情形态去面对真相,并做需要做的事,等等等等。

第二,有时候数学本身的意义会遭到质疑。概率论的精确规则会被,比方说,人择原理问题所质疑,因其观测者的数量是不确定的。决策论的精确规则会被,比方说,纽康悖论问题所质疑,因为其他智能体也许会在你做出决定之前预测到你的决定。

【作者笔记:纽康悖论入门详解请看这篇文章。一般来说,书中出现的种种术语都可以在这个网站上找到定义和解释:wiki.lesswrong.com/wiki/RAZ_Glossary】
(*译注:中文对纽康悖论的解析可以参考这个:https://www.zhihu.com/question/23685011

在这种情况下,给“理性”这个词发明出一些新的定义然后说“因此,我偏好的这个答案从定义上来说属于‘理性’”并试图以此解决问题是毫无意义的。这只会让人质疑人们干嘛要鸟你的新定义。我对概率论有兴趣并不是因为这是由拉普拉斯传下的神圣字句。我对贝叶斯式的信念更新(以及奥卡姆的前置概率)有兴趣,是因为我预计这种思考的方式能够让我们系统性地变得更加精确,更接近能够正确反映土地的地图。

还有一些关于如何思考的问题,从概率论和决策论中似乎都找不到答案——就像在你得知真相后应该对其做何感想一样。同样,试图将“理性”定义成某种特定方式并不是在肯定一个答案,只不过是在假设答案而已。

我不是来争论单词定义的,即便那个单词是“理性”。把一串字母连起来组成特定概念的意义是让两个人沟通——帮助将一个人的思想传达给另一个人。你不可能通过操纵哪个单词的意思来改变现实或证实想法。

所以,如果你理解了我一般会认为“理性”和其衍生术语“认知理性”和“工具理性”所表达的概念,我们就算是在交流了:我们已经通过谈论如何定义“理性”达成了这里应该达成的一切。接下来要讨论的不是把“理-性”这两个字连起来是什么意思;接下来要讨论的是什么样的思考方法才算好。

如果你说,“(工具)理性会要我相信X,但真相其实是Y”,那你很可能是用“理性”这个词表达了不存在于我脑海里的某个意思。(举例来说,“理性”在思考中的用法应该是一致的——“理性”地看待证据,和“理性”地思考你的大脑应该如何处理证据,两者的结论不应该出现不同。)

相似地,如果你发现自己在说,“对我来说,(工具)理性的做法是X,但正确的做法应该是Y”,那你几乎肯定是用“理性”和“正确”这两个词表达了别的什么意思。我对“理性”这个词是规范使用,就是用来挑出称心合意的思维模式。

在这种情况下——或者任何人们对单词意义有分歧的情况下——你应该用更精确的语言替换“理性”这个词:“自利的做法是逃跑,但我希望自己可以至少试着把孩子从火车轨道上拉开”,或者“普遍形式的因果决策论认为在纽康问题中你应该把两个盒子都拿走,但我更想要那一百万美元。”

实际上,我推荐大家把这篇文章里所有的“理性”全部替换成“哇唬”,然后再从头读一遍,看看这是否改变了我所表达的意思。如果变了,那我就说:不要争取变得理性,争取变得哇唬!

“理性”这个单词有着潜在陷阱,但在许多清晰明确的情况下,“理性”这个词在交流中能够很好地表达出我想表达的意思。同理,“不理性”也是。在这些情况下,我不会担心使用这个词。

不过,人们应该小心,不要过度使用这个词。只是把这个词大声说出来没有任何意义。如果说得比做得多,那就无法实现它。

------------------

翻译:潜水艇君

校对:临海雪原,Lily Lu

评论(6)
热度(68)

© 哈利波特与理性之道 | Powered by LOFTER