近日在北京举行的一场论坛上，新加坡管理大学教授Robert H.Deng、美国加州大学伯克利分校电子工程和计算科学系教授宋晓东等学者纷纷聚焦于人工智能技术的演进方向，并在演讲中提出，当前“存在输入攻击、投毒攻击等安全隐患”，人工智能安全规范和标准的制定及落实是当务之急。

　　2022全球数字经济大会人工智能驱动未来产业论坛举办期间，围绕人工智能安全与健康可持续发展的话题广受关注。Robert H.Deng与宋晓东分别就“基于人工智能安全的发展战略研究”“有责可信可控的AI安全体系”等主题发表演讲。

　　北京市经济和信息化局局长张劲松在致辞时表示，北京市正在探索建立人工智能融合应用安全风险治理体系，指导开展安全风险评估，提升风险管理能力，同时加快推进人工智能数据治理工作，强化人工智能数据资源的高质量建设、高水平开放与高水平利用，助力构筑北京人工智能安全生态。

　　在瑞莱智慧合伙人、高级副总裁朱萌看来，构建人工智能安全发展规范已迎来关键窗口期，“安全可控”成为亟待补全的基础能力。她进一步提出，包括解决数据强依赖带来的隐私泄露等隐患，提升算法的可靠性，保证系统有意攻击情况下依然稳定运行，以及深度合成技术应用的合规可控等方面。

　　论坛举办期间，北京人工智能产业联盟和集智未来联合发布“北京国家人工智能创新应用先导区示范案例”，集中展示了北京国家人工智能创新应用先导区建设成果。这其中有瑞莱智慧人工智能安全平台RealSafe，也被称为“针对AI系统的‘杀毒软件’”。

　　朱萌介绍说，RealSafe支持针对对抗样本攻击、模型后门攻击两类安全风险的检测，提供被测AI模型的安全评分、风险报告，以及多种纵深防御方案。她还透露，针对人工智能领域新的安全问题和行业需求，作为清华大学人工智能研究院发起设立的AI企业，他们凭借自身的科研成果和行业落地经验，正在隐私计算、AI数字人、“AI换脸”检测等方面展开新的探索。