Page 12 - 金融科技视界2023-6期-如期而至 精彩继续！
P. 12
High-end Perspective
高端视点
功利主义中有一个简单的问题，对于所谓的虐待狂， 02
你会怎么做？遇到一个从别人的痛苦中获取快乐的
人，你应该把那个人的利益考虑在内吗？我认为是： 与其构建AGI，
不，你永远不应该为那些想从痛苦中获得快乐的人 不如构建解决特定问题的AI系统
的利益而工作。
姚期智：你提出了构建有益的AI
我举个简单的例子。在经济学中有一个“地位商 系统以及关于重要AI系统的建议，即
品”的概念，意思是你看重的东西不是物品本身，而 系统需要使用携带证明的编码。我们
是因为它暗示着你比别人优越。比如你获得了诺贝尔 能否拟定出一些任务的白名单，这些
奖。诺贝尔奖为什么有价值？因为你得到了一百万美 任务不涉及机器是否具有人类的思想，
元吗？不，是因为其他人都没有。这证明你比世界上几 而是积极的提升人类福祉的事情？例
乎所有人都聪明。这就是我们所说的地位商品。从某 如，我们可能百分百支持使用AI技术
种意义上说，地位商品的本质是零和博弈，不是每个 来设计药物和解决癌症问题。我们是
人都能进入前1%。所以，如果你从属于那1%的人群中 否能够找到一种可以利用AI系统去解
获得个人价值、骄傲和自尊，我们不可能把这种骄傲 决那些白名单上任务的方式？
和自尊给予所有人。那么，AI系统在代表社会做决定
时是否应该考虑到这些地位商品呢？如果我们说不， 我认为这和网络安全一样，在大
那将是我们社会运行方式的巨大变化。我认为社会内 部分大学里不会教学生如何入侵互联
部的很多摩擦实际上都是由这些地位商品引起的，而 网。在我们弄清楚什么是全面、严谨和
这并不是每个人都能做到的。 系统的方法之前，有可能以这种方式
10 金融科技视界
