2020年9月29日下午，以“践行科技向善，牢筑AI可信”为主题的AIIA人工智能开发者大会可信AI分论坛在北京市石景山区首钢园成功举办，本次论坛邀请到了国内外可信AI领域的重量级嘉宾，共同探讨可信AI落地的具体举措，以促进整个AI产业的健康发展。

　　首先，中关村科技园区管理委员会产业发展促进处处长张宇蕾进行致辞，表示落地可信AI是人工智能产业健康发展以及驱动社会与经济转型变革的重要基石，并对AIIA和中关村示范区人工智能企业有关可信AI的探索实践和取得的成果给予了高度的肯定，她期望政府能够进一步营造良好的政策环境，为产业界搭建一个更好的发展和创新平台，共同促进可信AI的落地发展。

　　中国信通院云计算与大数据研究所人工智能部主任孙明俊主持本次论坛。

　　ARM全球公共事务副总裁Stephen Pattison先生通过视频的方式发表了演讲，首先向大家介绍了ARM在人工智能领域的发展历程，以及通过自下而上的方式建立人工智能设备信任链的实践成果。同时，他表示AI产品或服务相关的上下游企业均应该遵循一定的伦理原则，并呼吁各方共同努力打造一个全AI产业的信任链。

　　京东智联云人工智能平台部技术总监何云龙在论坛上发表了“基于NeuFoundry智能开发平台构建可信AI”的主题演讲，他介绍到NeuFoundry一站式开发平台集成了模型可视化工具和模型鲁棒性检查工具，从而能够帮助开发者更好地了解模型决策流程以及防范潜在安全隐患。同时，他表示可信AI能够在AI逐渐走向强人工智能的过程中实现更好的把控，从而使得AI真正地造福人类。

　　华为欧洲AI伦理和治理专家Charles Radclyffe先生通过视频的方式分享了华为针对欧洲AI治理现状和发展机遇的研究成果，他表示建立用户与技术提供方、技术提供方与技术提供方、以及技术提供方与政策制定者之间的信任桥梁尤为重要，并呼吁国内企业能够积极参与，共同推动中欧AI治理领域的合作。

　　北京瑞莱智慧科技有限公司副总裁唐家渝表示AI的安全可控一直是世界各国政府、产业界、学术界非常关注的问题，同时通过案例分析指出国外企业更关心AI引发的公平性和隐私保护问题，而国内企业更侧重AI系统的安全性和可靠性，并向大家分享了RealAI在对抗样本检测、深度伪造检测、模型可解释性等方面的核心工作，并希望各方共同协作打造一个更加安全可控的人工智能产业生态。

　　中兴通讯资深系统架构师唐波指出由于国内外有关数据保护法的陆续出台与企业间信息孤岛问题，在一定程度上阻碍了一些优秀的AI产品落地，而联邦学习作为隐私安全的学习方法，可以在一定程度上缓解数据隐私与安全问题。另外，他向大家介绍了通过引入差分隐私安全算法，从而保证中间数据不会受到逆向分析以及模型和数据投毒的实践解决方案，同时也分享了在无线日志分析中应用联邦学习的实际案例。

　　之江实验室赵宇超博士带来了“可信AI时代：以人为本与智慧城市应用”的主题分享，主要以浙江省的智慧城市建设为例，从AI技术的社会性和人文角度切入可信AI的讨论。她表示当前智慧城市应用的可知可感度、应用体验感、公众的参与度还存在很大提升空间。对此，她建议未来城市应用中的智能服务应更加“普惠”，各方应积极探索贯穿技术研发始终的伦理审查模式，以及构建不同领域技术开发的企业-用户合作机制。

　　中国信通院互联网法律研究中心的研究员杨婕在分论坛上对中国信通院、AIIA联合重磅发布的《人工智能治理白皮书》做出了解读，她表示政府应当从自上而下单向的监管模式走向多元主体协同共治的治理新范式，包括国际组织、公众、企业、行业组织和政府在内的不同主体也都应当发挥相应的作用，共同探索发展可信的人工智能。

　　英国巴斯大学的助理教授Lulia Cioroianu博士也通过视频的方式发表了演讲，她表示当前欧洲乃至全球的可信AI政策、标准、实践等相关工作缺乏对社会世界的循证理解，以及一系列经过试验的严格的数据收集和分析方法。对此，她向大家分享了巴斯大学博士培训中心的相关工作，包括如何将计算机科学、工程和社会科学等融合在可信AI领域的教学和研究当中。

　　最后，中国信通院云计算与大数据研究所人工智能部工程师张哲煜向大家分享了可信AI产业现状，并对AIIA制定《可信AI操作指引》和《可信AI示范区管理办法》，以及开展可信AI测试工具征集和可信AI试评估等落地实践工作进行了深入的剖析和解读。他介绍本次AIIA可信AI试评估是依据《可信AI操作指引》中可靠可控、透明可释、保护隐私、明确责任、多元包容等五个方面的60条分级要求，通过企业自评、现场验证、专家评审等多个环节全面、具体、灵活地对企业提交的AI产品或服务展开可信评估，同时他表示这也是国内首次对齐国际可信AI共识原则和要求开展的落地评估工作，对我国探索构建可信AI产业生态和拉通国际共识具有重要意义。通过本次评估并获得AIIA证书的有如下10家企业 ( 排名不分先后 )：

　　广州广电运通金融电子股份有限公司

　　北京沃东天骏信息技术有限公司

　　北京百分点信息科技有限公司

　　北京瑞莱智慧科技有限公司

　　北京旷视科技有限公司

　　北京芯盾时代科技有限公司

　　云知声智能科技股份有限公司

　　北京沃丰时代数据科技有限公司

　　北京容联易通信息技术有限公司

　　北京信工博特智能科技有限公司

　　另外，他表示AIIA未来将聚焦典型行业应用，推进多领域、多场景的可信AI建设，探索更加具象化的可信要求和操作指引，组织制定相关标准，进一步开展可信AI落地评估工作。

　　本次AIIA2020人工智能开发者大会可信AI分论坛，为国内外可信AI领域的专家与开发者们提供了思想碰撞、开放交流的平台，希望以本次论坛为契机能够吸引到更多专家学者、企业、以及广大开发者们积极参与AIIA可信AI相关工作，共推AI产业生态的健康发展，共创可信的人工智能。