9月25日，国家新一代人工智能治理专业委员会发布了《新一代人工智能伦理规范》（下称《伦理规范》）。旨在将伦理道德融入人工智能全生命周期，为从事人工智能相关活动的自然人、法人和其他相关机构等提供伦理指引。

智慧金融、智能交通、智能安防等以人工智能为核心的创新方式为人们生活带来了便利，提升了生活质量，但人工智能在应用场景落地过程中，由于人工智能的不确定性、黑盒性和自主性，给行业引入新的安全风险与伦理争议。监管部门适时推出《伦理规范》可增强全社会的人工智能伦理意识与行为自觉，积极引导负责任的人工智能研发与应用活动，促进人工智能健康发展。

• 在保障用户权益方面，《伦理规范》指出要在产品与服务中使用人工智能技术应明确告知用户，应标识人工智能产品与服务的功能与局限，保障用户知情、同意等权利。《评价规范》从算法内控、算法上线评审、算法风险控制等方面要求人工智能算法要充分向用户提示人工智能算法的固有缺陷和使用风险，同时应建立应急处理机制和风险赔偿机制。

• 在强化应急保障方面，《伦理规范》指出要研究制定应急机制和损失补偿方案或措施，及时监测人工智能系统，及时响应和处理用户的反馈信息，及时防范系统性故障，随时准备协助相关主体依法依规对人工智能系统进行干预，减少损失，规避风险。《评价规范》的算法内控部分和风险控制要求建立算法日常监测体系，对不满足需求的算法在保障安全的前提下停止使用，并及时采取相应措施消除算法退出带来的不利影响，同时要求具备AI算法突发情况应急处理机制。

波士顿大学最新的一项研究调查了世界范围内的225家初创公司，发现其中有58%的公司制定了有关人工智能伦理方面的政策，特别值得注意的是，研究显示有两类初创公司要在企业管理和生产中更注意人工智能伦理的落地，一类是曾经与大型高科技公司如亚马逊谷歌微软等在数据方面展开合作的，另一类则是受到过GDPR负面影响的公司。这说明，许多公司是在遭受了来自监管方的严格监管或惩罚后才能意识到人工智能伦理的重要性。《伦理规范》出台意味着人工智能伦理开始成为国内关注重点，从事人工智能管理、研发、供应、使用等相关活动要逐步加强人工智能伦理管理。国内对人工智能伦理的管理逐渐像欧盟一样日趋严格化，法律化，若机构能够提前做出合规认证将会在未来减少行业竞争的劣势。