申请专栏作者 参展 行业报告
投稿发布
您的当前位置:主页 > 机器学习 > 正文

你知道深度学习为什么叫做深度学习吗?

来源:可思数据 时间:2020-04-16

这是一篇单纯的推送,今天我们单纯来聊一聊深度学习这个名字。

深度学习的复苏,可以从2012算起,那一年,深度学习网络AlexNet横空出世,在ImageNet竞赛中取得了冠军,到了2016年,Alpha Go的胜利将深度学习推到了我们每一个人的面前。

但是,今天脍炙人口的深度学习,其实,从学习方式上来说,和存在了几十年的神经网络并没有什么区别。

所以,到底为什么神经网络突然就变成了深度学习?

well,用吴恩达的话来说,深度学习是神经网络的一种re-branding,这个名字,至少听上去,很有……深度……

wow, deep learning, it sounds so deep……

那么,深度学习的本质变了吗?

没有,变的只是数据量和计算力。

Like it or not, 目前在复杂的任务中达到人类水平的学习算法,与上世纪80年代努力解决玩具问题(toy example)的学习算法几乎是一样的。

这可不是我瞎掰,这是AI圣经花书里的原话。

你知道深度学习为什么叫做深度学习吗?
AI圣经 —— “花书”

真正变革的,是我们有了这些算法得以成功训练所需的资源 —— 数据量和计算力。

然而,深度就一定那么好?

不一定。

这个问题可以从两方面来看,第一,一味的增加网络的深度是不好的。太深的网络不好训练!太深的网络不好训练!太深的网络不好训练!

第二,一定要追究起来,其实网络的深度和宽度都是好的,这个道理非常简单,一个机器学习模型,模型的复杂度越高,(理论上)模型的学习能力就越强。这就好比说,使用更多的变量,你就能表达出更复杂的公式。从这个角度出发,一个神经网络无论是变的更深了,还是更宽了,模型的复杂度都是提升了。

这是很自然的一种想法,所以在深度学习的发展过程中,也出现了这样两种风格的经典网络。

一种看上去很深,比如网络层数达到了152层的ResNet:

你知道深度学习为什么叫做深度学习吗?
看上去很深的ResNet

还有一种看上去很胖(很宽),比如使用了Inception模块的Inception网络家族。

你知道深度学习为什么叫做深度学习吗?

变宽了的Inception模块

这都是好用的网络结构,甚至还有结合了两者之大成的网络:Inception-ResNet。

这样一种听上去就很复杂的网络的结构确实……也很庞大,这里就不放出来了。

当然,这样一种深度和宽度的拓展,所要用到的计算资源也是杠杠的。

而在资源有限的情况下,深度比宽度更好,这就涉及到了直击深度的灵魂问题 ——

深度到底是在做什么

学习!一种随着网络层的深入而进行的学习。这种学习有个专业术语叫做特征学习,或者表示学习。

你知道深度学习为什么叫做深度学习吗?
《深度学习》一书中关于网络学习的例子

一个深度学习网络有很多层,当我们将一张图像送进网络,首先在最底层,好像我们看到的是像素一类的东西,一层层往上,网络层“看到了”边缘、轮廓、部件等等,网络的深度,带来的是逐层抽象的能力,所以有了深度的网络有了学习的能力,和宽度所带来的比较单纯的计算力的上升,深度当然是更符合学习型模型的结构。

当然这只是一个示意,实际情况下神经网络的分层是比较模糊的,而中间网络层的输出还是相对比较抽象的概念,很难说清楚哪一些网络层就”看到了“什么特征。但是总体上当我们逐渐往上的时候,网络确实是不断在对对象进行抽象。而这是宽度所不能够带来的能力。所以,我们有深度学习,而不是宽度学习。

要说在一开始,深度学习或许只是一个好听的名字,但是到了今天,我们所用到的和看到的网络确实越来越深了。2012年令人瞩目的AlexNet不过8层,而到了 2015 年,残差的方式使训练一个很深的神经网络成为现实,Resnet的网络深度直接到达了152层,到了 2016 年,ImageNet竞赛的冠军已经用上了 1207层的网络了。

深度学习,真是深得叫你心服口服。

人工智能交流群扫码邀请
人工智能交流群扫码邀请


转发量:

网友评论:

发表评论
请自觉遵守互联网相关的政策法规,严禁发布色情、暴力、反动的言论。
评价:
表情:
用户名: 验证码:点击我更换图片
数据标注服务

Copyright©2005-2020 Sykv.com 可思数据 版权所有    京ICP备14056871号

关于我们   免责声明   广告合作   版权声明   联系我们   原创投稿   网站地图  

可思数据 数据标注行业联盟

人工智能资讯   人工智能资讯   人工智能资讯   人工智能资讯

扫码入群
咨询反馈
扫码关注

微信公众号

返回顶部
关闭