No.202106 可信人工智能白皮书 中国信息通信研究院 京东探索研究院 2021年7月 版权声明 本白皮书版权属于中国信息通信研究院和京东探索研 究院，并受法律保护。转载、摘编或利用其它方式使用本 白皮书文字或者观点的，应注明“来源：中国信息通信研 究院和京东探索研究院”。违反上述声明者，本院将追究其 相关法律责任。 前 言 当前，新一代人工智能技术迅猛发展，并向社会各个领域加速 渗透，给人类生产生活带来了深刻变化。人工智能在带来巨大机遇 的同时，也蕴含着风险和挑战。习近平总书记在 2018 年 10 月主持 中央政治局第九次集体学习时强调， “要加强人工智能发展的潜在风 险研判和防范，维护人民利益和国家安全，确保人工智能安全、可 靠、可控”。增强人工智能使用信心，推动人工智能产业健康发展已 经成为重要关切。 发展可信人工智能正在成为全球共识。2019 年 6 月，二十国集 团（G20）提出“G20 人工智能原则”，强调要以人为本、发展可信人 工智能，这一原则也得到了国际社会的普遍认同。欧盟和美国也都 把增强用户信任、发展可信人工智能放在其人工智能伦理和治理的 核心位置。未来，将抽象的人工智能原则转化为具体实践，落实到 技术、产品和应用中去，是回应社会关切、解决突出矛盾、防范安 全风险的必然选择，是关系到人工智能长远发展的重要议题，也是 产业界急需加快推进的紧迫工作。 无论是回顾可信人工智能的背景和历程，还是展望新一代人工 智能的未来，本白皮书认为人工智能的稳定性、可解释性、公平性 等都是各方关注的核心问题。立足当下，本白皮书从如何落实全球 人工智能治理共识的角度出发，聚焦于可信人工智能技术、产业和 行业实践等层面，分析了实现可控可靠、透明可释、隐私保护、明 确责任及多元包容的可信人工智能路径，并对可信人工智能的未来 发展提出了建议。 由于人工智能仍处于飞速发展阶段，我们对可信人工智能的认 识还有待进一步深化，白皮书中存在的不足之处，欢迎大家批评指 正。 目 录 一、 可信人工智能发展背景...................................................................................... 1 （一） 人工智能技术风险引发信任危机........................................................... 1 （二） 全球各界高度重视可信人工智能........................................................... 2 （三） 可信人工智能需要系统方法指引........................................................... 7 二、 可信人工智能框架.............................................................................................. 8 三、 可信人工智能支撑技术.................................................................................... 12 （一） 人工智能系统稳定性技术..................................................................... 12 （二） 人工智能可解释性增强技术................................................................. 14 （三） 人工智能隐私保护技术......................................................................... 15 （四） 人工智能公平性技术............................................................................. 17 四、 可信人工智能实践路径.................................................................................... 18 （一） 企业层面................................................................................................. 18 （二） 行业层面................................................................................................. 25 五、 可信人工智能发展建议.................................................................................... 27 （一） 政府层面加快推动我国人工智能监管及立法进程............................. 27 （二） 技术研究层面需全面做好体系化前瞻性布局..................................... 27 （三） 企业实践层面需匹配业务发展实现敏捷可信..................................... 28 （四） 行业组织层面需搭建交流合作平台打造可信生态............................. 28 参考文献...................................................................................................................... 30 图 目 录 图 1 可信人工智能相关论文数量图.......................................................................... 4 图 2 企业开展可信人工智能实践情况...................................................................... 6 图 3 可信人工智能核心内容...................................................................................... 8 图 4 可信人工智能总体框架...................................................................................... 9 图 5 全球 84 份人工智能伦理文件中的主要关键词.............................................. 11 表 目 录 表 1 数据集中常见的固有偏见................................................................................ 24 可信人工智能白皮书 一、可信人工智能发展背景 人工智能作为新一轮科技革命和产业变革的重要驱动力量，正在 对经济发展、社会进步、国际政治经济格局等诸方面产生重大而深远 的影响。2020 年人工智能产业保持平稳增长，根据 IDC 测算，全球 人工智能产业规模为 1565 亿美元，同比增长 12%；根据中国信息通 信研究院测算，我国产业规模达到约 434 亿美元（3031 亿人民币） ， 同比增长 15%。人工智能在带来巨大机遇的同时，也蕴含着风险和挑 战。习近平总书记高度重视人工智能治理工作，强调要“确保人工智 能安全、可靠、可控”，倡议推动落实二十国集团人工智能原则，引 领全球人工智能健康发展。 （一）人工智能技术风险引发信任危机 当前，人工智能应用的广度和深度不断拓展，正在成为信息基础 设施的重要组成。但在此过程中，人工智能也不断暴露出一些风险隐 患，主要体现在以下几个方面： 算法安全导致的应用风险。以深度学习为核心的人工智能技术存 在脆弱和易受攻击的缺陷，使得人工智能系统的可靠性难以得到足够 的信任。如优步（Uber）自动驾驶汽车未能及时识别路上行人而致其 死亡；据美国《财富》杂志报道，一家人工智能公司利用 3D 面具和 合成照片实施欺骗攻击，成功破解多国的人脸识别系统1。 黑箱模型导致算法不透明。深度学习具备高度复杂性和不确定性， 从而容易引发不确定性风险。由于人们无法直观地理解决策背后的原 1 https://new.qq.com/omn/20191230/20191230A0FX0R00.html 1 可信人工智能白皮书 因，人工智能与传统行业的进一步融合受到阻碍。如美国德州某学校 使用人工智能系统判断老师教学水平，由于系统不能解释争议性决策 的判断依据，遭到该校教师的强烈抗议，最终导致系统下线。 数据歧视导致智能决策偏见。人工智能算法产生的结果会受到训 练数据的影响，因此，如果训练数据中存在偏见歧视，算法会受到歧 视数据的影响，并进一步固化数据中存在的偏见歧视，导致依托人工 智能算法生成的智能决策形成偏见。如美国芝加哥法院使用的犯罪风 险评估系统（COMPAS）被证明对黑人存在歧视2。 系统决策复杂导致责任事故主体难以界定。人工智能的系统的自 动化决策受众多因素影响，使得责任主体难以界定。对于自动驾驶、 机器人等应用安全事故频发，法学专家表示，从现行法律上看人工智 能本身还难以成为新的侵权责任主体，但人工智能的具体行为受程序 控制，发生侵权时，到底是由所有者还是软件研发者担责，仍需进一 步探讨3。 数据滥用导致隐私泄露风险。生物识别信息的频繁使用使得个人 隐私数据泄露的可能性增大，数据一旦丢失会造成极大的安全风险。 如 ZAO 通过用户协议条款违规收集人脸数据4，加重了人们对隐私数 据滥用可能造成刷脸支付和身份认证相关安全风险的担忧。 （二）全球各界高度重视可信人工智能 面对人工智能引发的全球信任焦虑，发展可信人工智能已经成为 2 3 4 https://www.sohu.com/a/299700146_358040 http://media.people.com.cn/n1/2018/0502/c40606-29959959.htm