Page 14 - 金融科技视界2023-6期-如期而至 精彩继续！

High-end Perspective
高端视点

在核武器真正被制造出来之前，第一个关于
核弹的专利是1939年在法国申请的，然而原子弹

是在1945年首次试验成功的。但实际上一些物理
学家在20世纪10年代计算出这是可能的。所以在
第一次世界大战期间，一些物理学家在谈论核战

争的威胁。他们的观点是，在技术开发之前，我们
需要有一个管控结构，以确保技术只用于人类利
益，而不是以武器的形式使用。不幸的是，大部
分物理学家，建制派和政府都不听他们的。如果
他们听了，世界的历史可能会朝着一个完全不同

的方向发展，也许是一个更好的方向。
学习。我认为宇宙中没有足够的数据来让一个缓
在真正的AGI系统被创造出来之前，在出现 慢且低效的学习算法实现AGI。它还必须能够根

严重的军备竞赛之前，我们现在有一个窗口期。我 据长远目标选择行动，而不仅仅是目前的即时对
认为军备竞赛的概念是非常有害的，因为它导致 话目标。
缺乏合作，导致不信任，导致安全工作的失败。基
于所有这些原因，我认为我们应该努力尽快建立 所以我认为LLM可能确实有内部目标，并且
起这些合作协议。Sam Altman正确地指出了我 这些目标指导了对输出的直接选择。但我不认为

们可以同意分享AI安全技术，因为共享这些信息 这个系统有超前思维，不认为它是在建立一个世
对每个国家都有好处。 界内部模型，即世界本身的状态。它有一种对话的
状态，但它没有世界的内部状态。举一个有趣的

04 例子，我有20美元，我给了我的朋友10美元。我有
多少钱？LLM 给出的答案是30美元。所以它不明
大语言模型，内在目标与意识 白，当我给了钱的时候，我就不再拥有它了。它缺
少了一些基本的物理知识。
姚期智：你对大语言模型（Large Language

Models, LLMs）的评价是，它似乎没有明确的内 AI技术是一门科学，我们需要理解我们构建
部目标。人类锻炼和展示智力的方式是否可能是 的结构与我们希望它们具有的属性之间的关系。
对内在目标的意识，这是否只是一个特例，还是说 这就像造飞机一样，飞机有物理形状和引擎等等。

物理世界中可能存在其他的智力。也许LLMs必须 我们可以展示它是如何与我们想要的性质联系起
通过预训练建立一个模型，所以你说这就是图灵 来的，也就是如何保持在空中飞行。目前，特别是
机的内部状态，但这也许就是未来智能的样子。 LLM 领域，还不是这样的科学，目前我们不知道
它为什么有这些性质，以及不能把这些和模型内
Stuart Russell：我认为AGI必须满足一些 部发生了什么联系起来。所以我认为从这个意义

限制条件，它必须能够从相当少的数据中有效地 上说，AI技术应该是一门更深入的科学。

12 金融科技视界