Page 29 - 金融科技视界2022-11期

Technical Tracking
技术追踪

法的判定结果，在模型被恶意篡
改的情况下，攻击者可以结合具
体金融业务获取非法利益，包括
获取金融权限、获取用户资金、

逃避风险追查等。目前，对于人工
智能的攻击有很多类型，攻击研
究也逐渐深入，常见的攻击类型

包括窃取攻击、诱饵攻击、对抗
样本 攻击、物理 对 抗攻击、模仿
攻击、逆向攻击、供应链攻击、后
门攻击等。近期，人工智能算法
的可解释性问题得到了越来越多

的关注，其问题源于人工智能算
法尤其深度学习计算过程为黑盒
操作，模 型计算、参数优化以 及

特征选取皆由模型自行操作，无
法追溯自身的学习和决策过程，
目前尚无完备理论能够对模型结
果及模型本身做出合理解释，随
着相关算法模型在金融领域的融

合应用，存在产生不可控结果的
隐患，也无法使算法使用者绝对 Hadoop，相比而言，Hadoop的 明（如通过形式化分析方法），一
信任算法的结果输出。2.大数据 安全设计要弱很多。大数据的应 些同态加密算法、秘密共享方案

安全风险金融大数据技术的应用 用可能需要大规模部署大数据框 和混淆电路方案均是定制型解决
建立在金融硬件基础设施、数据 架，对于框架平台的安全配置至 方案，自身不断在演进，没有成为
库和操作系统的基础上，它面临 关重要，唯有保证统一正确的配 行业达成共识和认可的标准化方
的安全风险与传统网络信息安全 置，才能有效抵御攻击风险，但现 案，其安全性无法得到保证，且安
风险高度相似。较为特异性的技 实情况中存在漏洞的安全配置案 全模型和安全参数的选取也缺乏

术风险主要聚焦在大数据平台技 例比比皆是。对于数据泄露风险， 论证，因此多方安全技术存在一
术和隐私信息保护技术，而大数 其存在于数据生命周期的各个环 定的底层协议安全风险。联邦学
据安全的核心就是信息数据资产 节，包括数据收集、存储、处理、 习的两个或多个参与方通过安全

的保护。一些场景的大数据应用 传输、展示、共享和销毁等。3.隐 的算法协议进行联合机器学习，
依赖于专用的平台架构体系，对 私计算安全风险隐私计算技术的 而 该 算 法同 样 存在缺 少 理论与
分布式需求较高，相关开源平台 多方安全计算技术多基于底层密 实践证明的问题，已经有文献阐
架构的安全设计与实现机制存在 码学协议和专用交互协议进行设 述了通过恶意节点和边缘后门的
一定的安全风险，常用的大数据 计和实现，但非标准的密码学协 方法攻击联邦学习以达到恶意影

框架有Apache Spark与Apache 议很少得到过完整系统的理论证 响模型训练的目的。4.区块链安

2022.11 金融科技视界 27