• 三部门联合督查  规范校外培训:家长焦虑如何化解 2018-11-28
  • 夏粮生产 绿色优质亮点多 2018-11-28
  • 中投大数据特色小镇专题月民营保险筹建申请“十三五”健康中国2020相关投资机会分析“十三五”中国制造2025相关投资机会分析“十三五”数据中国2020相关投资机会分析
    当前位置:山西快乐十分前3走势图 > 产业 > 热点 > 正文

    山西快乐十分前三常出:深度学习就是深度神经网络 成人工智能热潮的关键技术

    来源:21世纪经济报道 2018-11-16 09:53山西快乐十分前3走势图 A-A+

    山西快乐十分前3走势图 www.ngyh.net   作为本轮人工智能热潮的关键技术,机器学习尤其是深度学习受到了热捧。一时间,人人嘴上挂着深度学习、神经网络等词汇,似乎不谈这一话题,便与智能时代脱节。

      然而,无论开发者或科技企业,对深度学习恐怕存在一定误解。“如果问一下‘什么是深度学习’,绝大多数人的答案都会是:深度学习就是深度神经网络,甚至认为‘深度学习’就是‘深度神经网络’的同义词。”在2018英特尔人工智能大会上,南京大学计算机系主任、人工智能学院院长周志华直言现状。

      这一观念其实是片面的。事实上,当前深度学习主流的深度神经网络模型本身,也存在着诸多问题。“吃数据,吃机器,对开发者门槛要求高。”当谈及当前模型痛点时,一位深度学习领域相关开发者向记者直言。另一位开发者则告诉记者,深度神经网络模型的效果稳定性也可能不如预期。

      “Kaggle竞赛中有各种各样的任务,但在图像、视频、语音之外的很多任务上,比如订机票、订旅馆之类,还是传统机器学习技术(如随机森林或XGBoost)表现更好,尤其是涉及符号建模、离散建模、混合建模等问题。”周志华表示,“机器学习界早就很清楚‘没有免费的午餐’,也即任何一个模型可能只适用于一部分的任务,而另外一些任务是不适用的。”

      这也就意味着,除深度神经网络模型之外,当前企学研界还有必要探索深度学习新的可能性。

      痛点频频

      深度学习是机器学习的一个技术分支。与机器学习其他技术流派所区别的是,当前以深度神经网络模型为代表的深度学习模型算法中,拥有许多层次,从而构成“深度”。

      与传统机器学习方法相比,深度学习具有其优势。“如果以横轴为数据量,纵轴为模型有效性来看的话,传统机器学习模型随着数据量的增长而效果趋于平缓,深度神经网络模型则随着数据增长形成更高的有效性。”英特尔高级首席工程师、大数据技术全球CTO戴金权告诉记者。

      之所以模型层级或说“深度”能够在近年来取得突破,源于神经网络中基本计算单元激活函数的连续可微性,导致梯度更加易于计算,而基于对梯度的调整,便可使用BP算法逐层训练出整个模型。

      “2006年以前,人们不知道怎么训练出5层以上的神经网络,根本原因就是层数高了之后,使用BP算法的梯度就会消失,无法继续学习。”周志华介绍道,“后来Geoffrey Hinton做了很重要的工作,通过逐层训练来缓解梯度消失,才使得深层模型能够被训练出来。”

      然而,正是因为深度神经网络模型是一个层级多、参数多的巨大系统,因此便存在海量的调参需求与相当的调参计算。“甚至有些技术工程师一天下来,其他的什么都没做,只是在调整参数,这是一个很常见的情况。”前述开发者向记者感慨道。

      不仅是超量参数带来了调参难,随之也形成一系列问题。“比如,在做跨任务(例如从图像到语音)的时候,相关的调参经验基本没有借鉴作用,经验很难共享,”周志华表示。同时,结果的可重复性也非常难,“整个机器学习领域,深度学习的可重复性是最弱的。哪怕同样的数据和算法,只要参数设置不同,结果就不一样。”

      此外,深度神经网络模型复杂度必须是事前指定的,然后才能用BP算法去加以训练。但这个过程中存在悖论:在没有解决任务之前,如何预先判定其复杂度?“所以实际上大家通常都是设置更大的复杂度。”周志华表示。

      目前这一模型还存在许多别的问题,比如理论分析很困难,需要极大数据,黑箱模型等等。甚至有开发者向记者坦言,神经网络模型在有些领域应用很好,但在更多的领域,采用这一模型的效果不稳定,“如果样本数据量足够大,这一模型的准确率是很好的,但通常公司并没有那么多数据,计算也费劲。”

     
     
    关键词:人工智能 神经网络 智能时代
    中国投资咨询网版权及免责声明
    • 1、中国投资咨询网倡导尊重与?;ぶ恫?。如发现本站文章存在版权问题,烦请联系[email protected]、0755-88350114,我们将及时沟通与处理。
    • 2、凡本网注明"来源:***(非中国投资咨询网)"的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责,不对您构成任何投资建议,用户应基于自己的独立判断,自行决定相关投资并承担相应风险。
    免费报告
    相关阅读
    相关报告
    大健康投资前景
    大健康产业投资前景预测 大健康产业投资前景预测
    热门报告
  • 三部门联合督查  规范校外培训:家长焦虑如何化解 2018-11-28
  • 夏粮生产 绿色优质亮点多 2018-11-28