• 朝阳全区开展“迎端午大扫除” 让居民生活环境有面子更有里子 2019-09-10
  • 一语惊坛(5月28日):把严管和厚爱落实到位,让干部想为会为敢为! 2019-09-10
  • 其实逻辑很简单,分配既涉及消费资料又涉及生产资料,消费资料可以按需分配,生产资料就必须按能力意愿行动及生成的结果分配了。 2019-09-03
  • 阶级理论已经过时了,现在所有的国家都是发展生产力。发展是硬道理,科学技术是第一生产力,都是解决社会需求不平衡,不充分的矛盾的, 2019-09-03
  • 全球最奢华美酒地图 领略精品葡萄酒体验 2019-08-30
  • 中超外援,是灾星还是救星? 2019-08-30
  • 东风日产乘用车公司获第十二届人民企业社会责任奖年度企业奖 2019-08-17
  • 芯片是汽车产业发展的基石  专家呼吁建立"汽车芯片智库" 2019-08-17
  • 挖玉人变种花能手 每年收入4万元 2019-08-12
  • Urgente órgo legislativo chinês adota lei de superviso 2019-08-12
  • 民政部部署农村低保专项治理 2019-08-08
  • 端午粽“香”让文化情“浓” 2019-08-08
  • 第八届全国税收宣传漫画大赛二等奖《高度近视》唐海峰 2019-07-23
  • 浙江德清:小山村自办十九大精神学习馆 2019-07-19
  • 全方位布局!这一领域未来对浙江经济增长贡献率将超50% 2019-07-01
  • 湖州吴兴区南太湖高新区科创园招商推介产业规划乡村振兴新旧动能转换特色小镇
    当前位置:山西快乐十分前3走势图 > 产业 > 预警 > 正文

    山西快乐十分开奖时间:AI加速兴起理挑战加剧 “数据投毒”不容忽视治

    来源:人民邮电报 2019-08-21 10:07山西快乐十分前3走势图 A-A+

    山西快乐十分前3走势图 www.ngyh.net   随着人工智能技术的不断发展,尤其是各类人工智能应用在各行各业落地,人工智能的安全风险问题也开始受到全社会的关注。人工智能究竟会带来哪些安全风险?中国信息通信研究院近日发布了《人工智能数据安全白皮书(2019)》(以下简称“白皮书”),指出了人工智能面临的几大数据安全风险。

      “数据投毒”不容忽视

      白皮书认为,人工智能训练数据污染可导致人工智能决策错误。“数据投毒”通过在训练数据里加入伪装数据、恶意样本等行为可破坏数据的完整性,进而导致训练的算法模型决策出现偏差。“数据投毒”主要有两种攻击方式:一种是采用模型偏斜方式,主要攻击目标是训练数据样本,通过污染训练数据达到改变分类器分类边界的目的;另一种则是采用反馈误导方式,主要攻击目标是人工智能的学习模型本身,利用模型的用户反馈机制发起攻击,直接向模型“注入”伪装的数据或信息,误导人工智能做出错误判断。

      “数据投毒”危害巨大。在自动驾驶领域,“数据投毒”可导致车辆违反交通规则甚至造成交通事故;在军事领域,通过信息伪装的方式可诱导自主性武器启动或攻击,从而带来毁灭性风险。

      运行阶段的数据异??傻贾轮悄芟低吃诵写砦?。

      白皮书指出,运行阶段的数据异??傻贾轮悄芟低吃诵写砦?,同时,模型窃取攻击可对算法模型的数据进行逆向还原。此外,开源学习框架存在安全风险,也可导致人工智能系统数据泄露。

      AI应用催生新风险

      在分析了人工智能自身数据安全风险之后,白皮书对于人工智能应用导致的数据安全风险也进行了解读。

      白皮书指出,人工智能应用可导致个人数据过度采集,加剧隐私泄露风险。随着各类智能设备(如智能手环、智能音箱)和智能系统(如生物特征识别系统、智能医疗系统)的应用普及,人工智能设备和系统对个人信息采集更加直接与全面。相较于互联网对用户上网习惯、消费记录等信息采集,人工智能应用可采集用户人脸、指纹、声纹、虹膜、心跳、基因等具有强个人属性的生物特征信息。这些信息具有唯一性和不变性,一旦被泄露或者滥用会对公民权益将造成严重影响。

      虽然人工智能的普及,给人们带来了更多的便利;但是白皮书认为,人工智能放大数据偏见歧视影响,威胁社会公平正义,人工智能技术的数据深度挖掘分析也将加剧数据资源滥用现象的发生,将加大社会治理和国家安全挑战。具体而言,一是在社会消费领域,可带来差异化定价;二是在信息传播领域,可引发“信息茧房”效应。

      与此同时,人工智能技术也能够提升网络攻击的智能化水平,进而进行数据智能窃取。白皮书认为,一是人工智能可用来自动锁定目标,进行数据勒索攻击。人工智能技术可通过对特征库学习自动查找系统漏洞和识别关键目标,提高攻击效率。二是人工智能可自动生成大量虚假威胁情报,对分析系统实施攻击。人工智能通过使用机器学习、数据挖掘和自然语言处理等技术处理安全大数据,能自动生产威胁性情报,攻击者也可利用相关技术生成大量错误情报以混淆判断。三是人工智能可自动识别图像验证码,能够窃取系统数据。图像验证码是一种防止机器人账户滥用网站或服务的常用验证措施,通过解决视觉难题来验证人类用户,以有效区分拦截恶意程序,?;は低呈莅踩?。

      数据治理挑战加剧

      白皮书指出,人工智能提升了数据资源价值,使得数据权属问题更为突出。从个人层面上看,数据权属体现为公民的数据权利,个人隐私?;っ媪偬粽?。用户个人隐私信息含金量高,是人工智能技术与产业发展的重要驱动,然而相关机构在利用用户数据时往往忽视用户个人隐私权益。从行业层面上看,数据权属体现为企业的数据产权,数据垄断损害行业整体发展。人工智能技术使数据经济价值越发凸显,数据已成为企业的核心资产,相关企业积极储备数据资源,并阻止竞争对手获得数据,力图垄断数据资源来使企业利益最大化。

      白皮书认为,数据产权之争将加剧数据垄断。一方面,科技巨头依托网络覆盖和用户规模,加强数据汇聚;另一方面,人工智能中小企业获取数据的渠道受限,数据资源匮乏。企业在数据产权没有被广泛认可、以及数据流动环节存在安全风险的前提下,无论是从维护自身利益角度还是从遵守法律法规角度出发,都不愿将自身数据进行共享,这将导致初创企业和研究机构在算法设计和优化过程中无数据可用,损害我国人工智能行业整体发展。

      当前,随着人工智能在科技竞争中的战略地位日渐凸显,数据的违规跨境将直接影响国家安全。白皮书显示,目前,世界主要国家都制定了人工智能发展战略,对数据的依赖度快速提升,数据作为国家基础性战略资源的地位更加突出。为快速积累数据,科技企业通过向消费者提供特定领域免费应用、使用政府公开数据以及进行产业上下游数据协同等方式获取尽可能多的数据。以Facebook、谷歌为代表的美国科技巨头,依托其庞大用户规模和强大数据抓取工具,在全球范围内进行数据收集,强化数据资源优势,推进自身人工智能发展,这无疑将加剧数据违规跨境流动风险。

     

    关键词:AI 数据投毒
    中投投资咨询网版权及免责声明
    • 1、中投投资咨询网倡导尊重与?;ぶ恫?。如发现本站文章存在版权问题,烦请联系[email protected]、0755-88350114,我们将及时沟通与处理。
    • 2、凡本网注明"来源:***(非中投投资咨询网)"的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责,不对您构成任何投资建议,用户应基于自己的独立判断,自行决定相关投资并承担相应风险。
    免费报告
    相关阅读
    大健康投资前景
    大健康产业投资前景预测 大健康产业投资前景预测
    · 投资机会
    热门报告
  • 朝阳全区开展“迎端午大扫除” 让居民生活环境有面子更有里子 2019-09-10
  • 一语惊坛(5月28日):把严管和厚爱落实到位,让干部想为会为敢为! 2019-09-10
  • 其实逻辑很简单,分配既涉及消费资料又涉及生产资料,消费资料可以按需分配,生产资料就必须按能力意愿行动及生成的结果分配了。 2019-09-03
  • 阶级理论已经过时了,现在所有的国家都是发展生产力。发展是硬道理,科学技术是第一生产力,都是解决社会需求不平衡,不充分的矛盾的, 2019-09-03
  • 全球最奢华美酒地图 领略精品葡萄酒体验 2019-08-30
  • 中超外援,是灾星还是救星? 2019-08-30
  • 东风日产乘用车公司获第十二届人民企业社会责任奖年度企业奖 2019-08-17
  • 芯片是汽车产业发展的基石  专家呼吁建立"汽车芯片智库" 2019-08-17
  • 挖玉人变种花能手 每年收入4万元 2019-08-12
  • Urgente órgo legislativo chinês adota lei de superviso 2019-08-12
  • 民政部部署农村低保专项治理 2019-08-08
  • 端午粽“香”让文化情“浓” 2019-08-08
  • 第八届全国税收宣传漫画大赛二等奖《高度近视》唐海峰 2019-07-23
  • 浙江德清:小山村自办十九大精神学习馆 2019-07-19
  • 全方位布局!这一领域未来对浙江经济增长贡献率将超50% 2019-07-01
  • 平特复式连怎么赔 排列五进30期开奖走势图 大乐透专家推荐专家预测专家选号 海快三开奖图今天 快乐十分稳赚技巧 中彩在线地址 羽毛球高远球 澳门最大的娱乐网址大全 二八杠牌技手法教学 宁夏十一选五游戏规则 黑龙江快乐十分尾走势 河南11选5彩票控 广西快乐双彩历史开奖 13019期七星彩票开奖 湖北11选5投注规则