EN

企业动态

当前位置:首页 - 企业动态 - 企业新闻

金融领域生成式人工智能(大模型)测评项目重磅推出

发布日期:2023-12-05

随着数据不断增长与计算能力的提升,数字经济蓬勃发展,以自然语言生成为核心的生成技术正在人工智能领域掀起热潮,并持续向更多的领域渗透其影响力。生成式大模型 (以下简称“大模型”)展现出了不同于传统人工智能模型的特点和优势,以其强大的自学习和生成能力、个性化和差异化服务、情感分析和情感交互给金融发展带来全新的机遇,但大模型在安全合规、科技伦理、歧视偏见、可信度等方面面临一定的风险与挑战。

2023金融街论坛年会全球金融科技大会“倡导负责任金融理念 共建数字金融新生态”平行论坛上,中国人民银行相关领导指出:“要深入贯彻中央金融工作会议精神,秉持负责任金融理念,合理规划能力建设,审慎探索应用场景,有效夯实基础支撑,注重加强风险防控,稳妥运用大模型赋能数字金融创新、助力提升金融服务实体经济质效。
为有效管理大模型金融应用的安全风险,秉持负责的金融理念,国家金融科技测评中心(银行卡检测中心BCTC,北京银联金卡科技有限公司,以下简称“中心”)深度参与《JR/T 0221-2021人工智能算法金融应用评价规范》《JR/T 0287-2023 人工智能算法金融应用信息披露指南》《JR/T 0223-2021 金融数据安全 数据生命周期安全规范》等行业标准编制,在金融行业判别式模型测评基础上,经过不断市场调研与技术积累,面向金融行业推出大模型测评和咨询服务
具体地,大模型测评将传统测评手段与前沿金融科技测评进行有效结合,多种方式对大模型进行评估,涵盖金融知识、金融能力、安全性与合规、精准性与性能等维度。同时,基于金融行业特性从稳定性、安全性、公平性与合规详细测评大模型在不同场景下的安全合规性。为有效评估大模型生命周期管理,从模型训练、模型部署、模型追溯、模型管理与监控等方面进行测评。

图片

大模型在金融领域为金融机构和科技公司带来了重大机遇。其自学习能力强、无需人工标注数据、模型可扩展性强、适应性强、可定制性强和自然语言处理能力强,这些特点使得大模型在许多金融场景都表现出优异的性能,如辅助决策、内容生成、情感分析、信息处理、意图识别等。金融机构和科技公司在积极探索大模型在金融行业的有效应用,发挥大模型优势,推动数字化转型发展,当前已将大模型试点应用于智能客服、智能办公、智能研发与智能投顾等实际业务。

但同时,大模型的复杂性也带来了安全风险。一是大模型面临隐私泄露和安全攻击风险,大模型训练和应用需要大量数据的支持,在此过程可能导致隐私泄露。大模型在应用时会面临后门攻击、提示注入攻击与窃取攻击等,导致系统异常、崩溃等安全风险;二是大模型透明度与可解释性差,模型结构复杂,参数众多,输入与输出之间存在复杂关系,甚至同一输入可能产生不同的输出结果,导致大模型难以直观理解与解释,黑盒化严重;三是大模型存在歧视偏见的风险,大模型训练需大量数据,数据来源各异,质量差异大,可能数据中包含偏见与歧视,若大模型没有经过适当的处理和调整,其将学习到数据中的偏见歧视。

中心推出的大模型测评与咨询服务从应用需求出发,依据机构自身特点,提供定制化的大模型金融应用服务,有效促进金融大模型安全与合规,助力金融机构合理把握大模型带来的机遇,有效管控安全风险,在金融领域规范化应用大模型相关技术

中心作为我国金融行业的权威检测机构,始终秉持“守护金融安全,传递信任价值”的初心和使命,与时俱进,经过20余年的发展壮大,成为领先的金融安全科技服务提供方,服务能力覆盖人工智能、区块链、云计算、移动互联网、物联网等金融科技关键技术。中心愿与金融机构及科技公司共同推动大模型在金融领域的规范应用,保障金融行业健康有序发展。

上一篇:银联金卡荣获“芯向亦庄”汽车芯片产业大会2023最佳合作伙伴奖项 下一篇:银联金卡受邀参加第七届中国数字银行论坛