Page 27 - 金融科技视界2023-1期
P. 27

Technical Tracking
                                                                                                  技术追踪




            像人类那样即时对话,流畅的回答各种问题。(当然回答速度比                                          1.2 ChatGPT的主要特点
            人还是慢一些)无论是英文还是其他语言(例如中文、韩语等),                                         C h a t G PT 是基 于G PT -
            从回答历史问题,到写故事,甚至是撰写商业计划书和行业分析,                                     3 . 5(G enerative  P re-trai ne d
            “几乎”无所不能。甚至有程序员贴出了ChatGPT进行程序修改                                   Transformer 3.5)架构开发的对话

            的对话。                                                              AI模型,是InstructGPT的兄弟模
                ChatGPT也可以与其他AIGC模型联合使用,获得更加炫                                 型。ChatGPT很可能是OpenAI在
            酷实用的功能。例如上面通过对话生成客厅设计图。这极大加                                       GPT-4正式推出之前的演练,或用

            强了AI应用与客户对话的能力,使我们看到了AI大规模落地的                                     于收集大量对话数据。
            曙光。                                                                   O pe n A I 使 用 R L HF
                                                                              (Reinforcement Learning from
                                                                              Human Feedbac,人类反馈强化学
                                       1
                                                                              习)技术对ChatGPT进行了训练,且
                           ChatGPT的传承与特点                                      加入了更多人工监督进行微调。
                                                                                  此 外,C h at G P T 还 具有以下
                                                                              特征:

                                                                                  1)可以主动承认自身错误。若
                                                                              用户指出其错误,模型会听取意见并
                1.1 OpenAI家族                                                  优化答案。
                我们首先了解下OpenAI是哪路大神。                                               2)ChatGPT可以质疑不正确的
                O p e n A I 总 部 位于 旧 金山,由特 斯 拉 的 马 斯克、S a m                   问题。例如被询问“哥伦布2015年来

            Altman及其他投资者在2015年共同创立,目标是开发造福全                                   到美国的情景”的问题时,机器人会
            人类的AI技术。而马斯克则在2018年时因公司发展方向分歧而                                    说明哥伦布不属于这一时代并调整
            离开。                                                               输出结果。

                此前,OpenAI因推出 GPT系列自然语言处理模型而闻名。                                    3)ChatGPT可以承认自身的无
            从2018年起,OpenAI就开始发布生成式预训练语言模型GPT                                  知,承认对专业技术的不了解。
            (Generative Pre-trained Transformer),可用于生成文章、                         4)支持连续多轮对话。
            代码、机器翻译、问答等各类内容。                                                      与 大 家 在 生活 中 用到 的 各
                每一代GPT模型的参数量都爆炸式增长,堪称“越大越                                     类智能音 箱 和“人 工智障“不同,

            好”。2019年2月发布的GPT-2参数量为15亿,而2020年5月的                               ChatGPT在对话过程中会记忆先前
            GPT-3,参数量达到了1750亿。                                                使用者的对话讯息,即上下文理解,














              GPT家族主要模型对比

                                                                                        2023.1  金融科技视界     25
   22   23   24   25   26   27   28   29   30   31   32