Page 27 - 金融科技视界2023-1期
P. 27
Technical Tracking
技术追踪
像人类那样即时对话,流畅的回答各种问题。(当然回答速度比 1.2 ChatGPT的主要特点
人还是慢一些)无论是英文还是其他语言(例如中文、韩语等), C h a t G PT 是基 于G PT -
从回答历史问题,到写故事,甚至是撰写商业计划书和行业分析, 3 . 5(G enerative P re-trai ne d
“几乎”无所不能。甚至有程序员贴出了ChatGPT进行程序修改 Transformer 3.5)架构开发的对话
的对话。 AI模型,是InstructGPT的兄弟模
ChatGPT也可以与其他AIGC模型联合使用,获得更加炫 型。ChatGPT很可能是OpenAI在
酷实用的功能。例如上面通过对话生成客厅设计图。这极大加 GPT-4正式推出之前的演练,或用
强了AI应用与客户对话的能力,使我们看到了AI大规模落地的 于收集大量对话数据。
曙光。 O pe n A I 使 用 R L HF
(Reinforcement Learning from
Human Feedbac,人类反馈强化学
1
习)技术对ChatGPT进行了训练,且
ChatGPT的传承与特点 加入了更多人工监督进行微调。
此 外,C h at G P T 还 具有以下
特征:
1)可以主动承认自身错误。若
用户指出其错误,模型会听取意见并
1.1 OpenAI家族 优化答案。
我们首先了解下OpenAI是哪路大神。 2)ChatGPT可以质疑不正确的
O p e n A I 总 部 位于 旧 金山,由特 斯 拉 的 马 斯克、S a m 问题。例如被询问“哥伦布2015年来
Altman及其他投资者在2015年共同创立,目标是开发造福全 到美国的情景”的问题时,机器人会
人类的AI技术。而马斯克则在2018年时因公司发展方向分歧而 说明哥伦布不属于这一时代并调整
离开。 输出结果。
此前,OpenAI因推出 GPT系列自然语言处理模型而闻名。 3)ChatGPT可以承认自身的无
从2018年起,OpenAI就开始发布生成式预训练语言模型GPT 知,承认对专业技术的不了解。
(Generative Pre-trained Transformer),可用于生成文章、 4)支持连续多轮对话。
代码、机器翻译、问答等各类内容。 与 大 家 在 生活 中 用到 的 各
每一代GPT模型的参数量都爆炸式增长,堪称“越大越 类智能音 箱 和“人 工智障“不同,
好”。2019年2月发布的GPT-2参数量为15亿,而2020年5月的 ChatGPT在对话过程中会记忆先前
GPT-3,参数量达到了1750亿。 使用者的对话讯息,即上下文理解,
GPT家族主要模型对比
2023.1 金融科技视界 25