Page 28 - 金融科技视界2023-5期-如期而至 精彩继续！

Technical Tracking
技术追踪

三是AI合成与AI信任 因此，我们迫切需要重构AI信
AI合成是指应用深度学习、虚拟现实等生成类算法制作图 任。需要探讨的是，如何在技术上和
像、音频、视频、虚拟场景等深度合成内容。随着AI合成拟真水 制度上有效对抗AI虚假，如何建立

平的进化，人们开始担忧AI虚假与AI操纵对社会构成的威胁。 防范AI操纵的防火墙，维护数字经
济时代的国家安全。
据统计，在爱奇艺、腾讯视频、优酷、抖音、YouTube、
Twitter等10家主流平台上，2021年新发布的深度合成视频作品
24317件，比2017年增长13.5倍。深度合成内容关注度呈指数级

增长，市场动力充沛，2021年新发布的深度合成视频的点赞数
超过3亿。
AI合成是指应用深度学习、虚拟

深度合成内容模糊了真实和虚假的边界，最新的深度合成 现实等生成类算法制作图像、音
算法可以对抗通用的技术性甄别，甚至可以制作高仿的拟真声 频、视频、虚拟场景等深度合成
纹。菜鸟级别的AI虚假已经被用于实施经济诈骗，还可能被用 内容。
于诋毁个人信誉和企业商誉。骨灰级别的AI操纵则可能被用于
抹黑政治人物或政权实体，操弄负面舆情，制造政治恶意，破坏

政治信任，激化社会矛盾。

26 金融科技视界