恐龙革命1多位学者建言AI的“安全规范”

小字号

原标题：多位学者建言AI的“安全规范”

近日在北京举行的一场论坛上，新加坡管理大学教授Robert H.Deng、美国加州大学伯克利分校电子工程和计算科学系教授宋晓东等学者纷纷聚焦于人工智能技术的演进方向，并在演讲中提出，当前“存在输入攻击、投毒攻击等安全隐患”，人工智能安全规范和标准的制定及落实是当务之急。

2022全球数字经济大会人工智能驱动未来产业论坛举办期间，围绕人工智能安全与健康可持续发展的话题广受关注。Robert H.Deng与宋晓东分别就“基于人工智能安全的发展战略研究”“有责可信可控的AI安全体系”等主题发表演讲。

北京市经济和信息化局局长张劲松在致辞时表示，北京市正在探索建立人工智能融合应用安全风险治理体系，指导开展安全风险评估，提升风险管理能力，同时加快推进人工智能数据治理工作，强化人工智能数据资源的高质量建设、高水平开放与高水平利用，助力构筑北京人工智能安全生态。

在瑞莱智慧合伙人、高级副总裁朱萌看来，构建人工智能安全发展规范已迎来关键窗口期，“安全可控”成为亟待补全的基础能力。她进一步提出，包括解决数据强依赖带来的隐私泄露等隐患，提升算法的可靠性，保证系统有意攻击情况下依然稳定运行，以及深度合成技术应用的合规可控等方面。

论坛举办期间，北京人工智能产业联盟和集智未来联合发布“北京国家人工智能创新应用先导区示范案例”，集中展示了北京国家人工智能创新应用先导区建设成果。这其中有瑞莱智慧人工智能安全平台RealSafe，也被称为“针对AI系统的‘杀毒软件’”。

朱萌介绍说，RealSafe支持针对对抗样本攻击、模型后门攻击两类安全风险的检测，提供被测AI模型的安全评分、风险报告，以及多种纵深防御方案。她还透露，针对人工智能领域新的安全问题和行业需求，作为清华大学人工智能研究院发起设立的AI企业，他们凭借自身的科研成果和行业落地经验，正在隐私计算、AI数字人、“AI换脸”检测等方面展开新的探索。(林依 张素)

(责编：赵竹青、陈键)

关注公众号：人民网财经

分享让更多人看到

推荐阅读 国家林业和草原局：“2022清风行动”成果显著 查办野生动植物案件近1.2万起   　　人民网北京8月2日电 （记者余璐）记者从国家林业和草原局获悉，由11个部门联合开展的为期三个月的“2022清风行动”，查处了一大批破坏野生动植物资源案件，严厉打击了野生动植物非法贸易，有力遏制了野生动植物非法贸易活动，全面巩固了禁食野生动物和长江十年禁渔等成果。 国家林业和草原局相关负责人表示，2022年2月15日至5月15日，国家林业和草原局、农业农村部、中央政法委、中央网信办、公安部、交通运输部、海关总署、国家市场监督管理总局、国家铁路局、中国民航局、国家邮政局等11部门，在全国范围内联合开展了以打击非法猎捕、采集、人工繁育、出售、收购、运输、寄递、食用、经营利用、进出口野生动植物资源为重点的“2022清风行动”，全链条、多渠道打击破坏野生动植物违法犯罪活动，强化野生动植物资源监管保护。…  
人身保险产品信息披露如何管理？银保监会公开征求意见   　　人民网北京8月2日电 （记者罗知之）据银保监会官网消息，为规范人身保险产品信息披露行为，保护投保人、被保险人、受益人的合法权益，促进行业健康可持续发展，银保监会起草了《人身保险产品信息披露管理办法（征求意见稿）》（以下简称《征求意见稿》）。 《征求意见稿》共六章，三十二条。…