信通院联合三六零等编制《人工智能安全框架》蓝皮报告

2022-02-06 14:21:48

摘要:近日,中国信息通信研究院(以下简称“中国信通院”)安全研究所发布《人工智能安全框架(2020年)》蓝皮报告。

  近日,中国信息通信研究院(以下简称“中国信通院”)安全研究所发布《人工智能安全框架(2020年)》蓝皮报告。该蓝皮书主要针对全球人工智能安全框架缺失问题,聚焦当前人工智能突出安全风险,提出了涵盖人工智能安全目标,人工智能安全分级能力,以及人工智能安全技术和管理体系的人工智能安全框架。

  三六零(601360.SH,以下简称“360”) 参与了此次蓝皮书的编制工作,其旗下360 AI安全研究院专注于人工智能与安全的前沿技术研究,在全球范围内率先发现了众多人工智能安全问题。蓝皮书显示,三六零首次发现并披露机器学习开源框架平台供应链安全风险,目前全球著名漏洞数据库CVE披露的37个Tensorflow漏洞中,24个由中国安全厂商360发现,截至2020年11月20日,360累计发现框架平台依赖组件漏洞100余个。

  蓝皮书指出,在新基建推动催化下,人工智能技术将加快转变为像水、电一样的基础设施,向社会全行业全领域赋能。然而,人工智能基础设施却潜藏安全风险。一是人工智能算法自身存在技术脆弱性;二是人工智能新型安全攻击不断涌现;三是算法设计实施有误产生非预期结果。

  在指出人工智能安全风险的同时,蓝皮书也明确提出,这些安全风险一旦失控,危害显著。具体而言,在人工智能不断内嵌于各行各业的环节中时,将带来数字和物理世界双向融合,一旦应用失控,将带来三方面危害。一是威胁物理环境安全;二是威胁人身财产安全;三是威胁国家社会安全。

  然而,现阶段企业主要聚焦于人工智能技术研发和产品运营,在人工智能安全方面投入相对较少、基础薄弱。因此,该蓝皮书聚焦人工智能安全风险,凝聚业界专家共识,构建人工智能安全框架。

  “人工智能安全框架,不仅能为企业提供提升人工智能安全能力的可参考路径,指导企业合理进行人工智能安全资源投入,并能为人工智能安全技术研发提出方向建议,推动人工智能安全技术产品化和服务化。”该蓝皮书写道。

  据悉,该蓝皮书是在工业和信息化部网络安全管理局指导下,中国信通院联合360以及瑞莱智慧、百度、腾讯、中科院信工所共同编制。

  责任编辑:张华

_________________________________________________________________________________

推荐栏目:服务器租用 高防服务器 服务器托管 大带宽机柜 香港服务器

      跨数据中心专线 数据中心 增值服务 解决方案 主机租用 关键词检索

    内容有部分是原创文章,如转载请注明出处!

微信联系

电话
客服
地图
机房
'); })();