发布日期:2023-12-05
大模型在金融领域为金融机构和科技公司带来了重大机遇。其自学习能力强、无需人工标注数据、模型可扩展性强、适应性强、可定制性强和自然语言处理能力强,这些特点使得大模型在许多金融场景都表现出优异的性能,如辅助决策、内容生成、情感分析、信息处理、意图识别等。金融机构和科技公司在积极探索大模型在金融行业的有效应用,发挥大模型优势,推动数字化转型发展,当前已将大模型试点应用于智能客服、智能办公、智能研发与智能投顾等实际业务。
但同时,大模型的复杂性也带来了安全风险。一是大模型面临隐私泄露和安全攻击风险,大模型训练和应用需要大量数据的支持,在此过程可能导致隐私泄露。大模型在应用时会面临后门攻击、提示注入攻击与窃取攻击等,导致系统异常、崩溃等安全风险;二是大模型透明度与可解释性差,模型结构复杂,参数众多,输入与输出之间存在复杂关系,甚至同一输入可能产生不同的输出结果,导致大模型难以直观理解与解释,黑盒化严重;三是大模型存在歧视偏见的风险,大模型训练需大量数据,数据来源各异,质量差异大,可能数据中包含偏见与歧视,若大模型没有经过适当的处理和调整,其将学习到数据中的偏见歧视。
中心推出的大模型测评与咨询服务从应用需求出发,依据机构自身特点,提供定制化的大模型金融应用服务,有效促进金融大模型安全与合规,助力金融机构合理把握大模型带来的机遇,有效管控安全风险,在金融领域规范化应用大模型相关技术。
中心作为我国金融行业的权威检测机构,始终秉持“守护金融安全,传递信任价值”的初心和使命,与时俱进,经过20余年的发展壮大,成为领先的金融安全科技服务提供方,服务能力覆盖人工智能、区块链、云计算、移动互联网、物联网等金融科技关键技术。中心愿与金融机构及科技公司共同推动大模型在金融领域的规范应用,保障金融行业健康有序发展。