Page 11 - 金融科技视界2023-6期-如期而至 精彩继续！

High-end Perspective
高端视点

我们现在亟需解决这些问题，但
我认为这似乎没有任何解决这些问题

的希望。如果我们甚至不知道人类在
这些紧迫问题上的偏好是什么——因
为这些问题有时是生死攸关的问题，

那么我们就不能假装它们不存在。请
问你怎么看？

在许多地方，社会似乎一直在与
之斗争。我认为在中国这种现象会少

一些，但在其他很多国家和地区这种
现象是很普遍的。人类有很多不同的
目标，人类想要的东西有很多。我们该

如何面对？如果我们不解决这个问题，
虑到每个人的利益。但是，即使在正式的功利主义中， 我认为控制AGI的事情甚至都无法开
也有一些尚未解决的问题，例如，当一个决定会影响到 始，因为这是人们首先想到的事情。
实际存在的人数时，你如何做出决定？你想要一个不
快乐的人口大国还是一个快乐的人口小国？对于这类 Stuart Russell：我确实认为18

问题，我们没有一个好的答案，但我们需要回答这些问 世纪功利主义的出现是人类进步的
题。这些道德哲学的核心问题，因为AI系统在未来可 重要一步。在此之前，一个人做出公
能会拥有这种能力，我们最好确保它们用对了方法。 共决策是为了让他的国家的每个人都

受益，这种想法是完全闻所未闻的。
姚期智：我同意你的观点，我们需要把个人的偏 他做的决定是为了贵族、国王、皇帝
好和影响整个社会的事情区分开来。但我对后者有些 等权贵，而普通人根本不重要。实际
悲观，因为这不是AI系统的问题，而是现代世界的问 上，这种变化是我们现在在世界各国
题，而且部分原因是生物技术或核能源等强大技术的 看到的非常普遍的事情，大多数组织

出现。 良好的政府认为他们的工作是在增加
国家人民的整体福祉。
我认为这是目前最严肃的问题，也就是我们需要

去使用AGI来真正解决全人类的问题。但是目前仍有 目前国家内部对于幸福到底意味
很多的问题，我认为在世界上的许多地方，社会是严重 着什么仍然存在很大的争议，不仅仅
分裂为两个阵营的，双方都坚信自己是对的。现在有了 是GDP，可能是各种类型的自由，也
AI系统来帮助做宣传，借助AI技术可以轻易写出一万 可能是一些群体对其他群体的特权等
封稿件并提交给报社，而这可能会影响一场严肃辩论 等。我认为功利主义中一些悬而未决

中的力量平衡。 的问题与目前这些问题直接相关。在

2023.6 金融科技视界 09