机器学习
-
盘点当前最流行的激活函数及选择经验
提到激活函数，最想问的一个问题肯定是它是干什么用的？激活函数的主要作用是提供网络的非线性表达建模能力，想象一下如果没有激活...
2020-08-20 00:05:57 -
CNN一定需要池化层吗？
在现有的网络结构设计指导下，似乎卷积层后跟一个池化层下采样，已经是一个准则。我们重新思考了现有SOTA网络，并得出结论最大池化层...
2020-08-18 14:54:32 -
硬刚无限宽神经网络后，谷歌大脑有了12个新发现
各位炼丹师平时“炼丹”时最多跑过多深的神经网络呢？152层，256层，还是更多层？那各位跑过最宽的神经网络又有多宽呢？可能一层撑死...
2020-08-18 14:54:16 -
CNN结构设计技巧-兼顾速度精度与工程实现
深度决定了网络的表达能力，网络越深学习能力越强。宽度（通道数）决定了网络在某一层学到的信息量，另外因为卷积层能重组通道间的...
2020-08-18 14:53:43 -
强大如GPT-3，1750亿参数也搞不定中国话
2019 年，GPT-2 凭借将近 30 亿条参数的规模拿下来“最强 NLP 模型”的称号；2020 年，1750 亿条参数的 GPT-3 震撼发布，并同时在工业界与学术界...
2020-08-17 21:55:37 -
台积电布局新存储技术
近年来，在人工智能（AI）、5G等推动下，以MRAM（磁阻式随机存取存储器）、铁电随机存取存储器 (FRAM)、相变随机存取存储器（PRAM），以及...
2020-08-17 00:28:17 -
硬刚无限宽神经网络后，谷歌大脑有了12个新发现
各位炼丹师平时“炼丹”时最多跑过多深的神经网络呢？152层，256层，还是更多层？那各位跑过最宽的神经网络又有多宽呢？可能一层撑死...
2020-08-17 00:28:01 -
线性Attention的探索：Attention必须有个Softmax吗？
某种意义上来说，Reformer 也是稀疏 Attention 的一种，只不过它的稀疏 pattern 不是事先指定的，而是通过 LSH（Locality Sensitive Hashing）技术（近似...
2020-08-12 00:07:31 -
YOLOv5是真的吗？并不比YOLOv4强，不配这个名字
首先简单介绍一下 YOLO。YOLO 是一个实时目标检测框架，其意思是 You Only Look Once（你只看一次）。也就是说待检测的目标图像仅会通过全卷积...
2020-08-12 00:07:22 -
如何理解YOLO：YOLO详解
YOLO将物体检测作为回归问题求解。基于一个单独的end-to-end网络，完成从原始图像的输入到物体位置和类别的输出。Faster rcnn使用RPN（region...
2020-08-12 00:07:12 -
11 种主要神经网络结构图解
随着深度学习的快速发展，人们创建了一整套神经网络结构来解决各种各样的任务和问题。尽管有无数的神经网络结构，这里有十一种对于...
2020-08-12 00:07:03 -
吊打一切：YOLOv4的tricks汇总
即使是目标检测在过去几年开始成熟，竞争仍然很激烈。如下所示，YOLOv4声称拥有最先进的精度，同时保持高处理帧速率。它在 MS COCO数据集...
2020-08-12 00:06:52 -
深度学习败于“捷径”
深度学习的未来在哪里？这一话题已经有过了无数讨论，大部分讨论都承认当前的深度学习还不是真正的智能，必须转向理解、常识。但是...
2020-08-12 00:06:40 -
深度学习之父Hinton：下一代神经网络
在机器学习中，有三种不同类型的学习模式：首先是监督学习，即给定输入向量学习预测输出。然后是强化学习，通过学习选择动作以获得...
2020-08-12 00:06:30 -
那些轻轻拍了拍Attention的后浪们
Reformer的论文选择了局部敏感哈希的angular变体。它们首先约束每个输入向量的L2范数(即将向量投影到一个单位球面上)，然后应用一系列的旋...
2020-08-12 00:06:19 -
Transformer模型深度解读
「Transformer」 是2017年的一篇论文《Attention is All You Need》提出的一种模型架构，这篇论文里只针对机器翻译这一种场景做了实验，全面击败了...
2020-08-12 00:06:09 -
MIT研究人员发现 ImageNet 数据集存在系统性缺陷
“我们的分析明确指出，嘈杂的数据收集管道是如何导致结果基准与其作为代理的实际任务之间的系统性不一致的”， 麻省理工学院的研究...
2020-08-12 00:06:00 -
PyTorch 1.6、TensorFlow 2.3、Pandas 1.1 同日发布！都有
7月29日，PyTorch 1.6、TenorFlow 2.3、Pandas 1.1恰巧同时发布。这三个库都是定期滚动更新，大约每个季度更新一次小版本。在AI内卷化达到“灰飞...
2020-08-12 00:05:50 -
Facebook将Windows版PyTorch的开发维护移交给微软
Facebook 通过 PyTorch 官方博客宣布，微软已扩大了对 PyTorch 社区的参与，现在拥有 PyTorch 在 Windows 上的开发和维护所有权。PyTorch 是基于 Torc...
2020-08-12 00:05:41 -
YOLOv5被禁用！Kaggle全球小麦检测竞赛结果惹争议
昨天Kaggle 全球小麦检测（Global Wheat Detection）比赛落下帷幕，共计2,270 支队伍参赛。比赛结束后，讨论区本该是晒成绩或者解决方案的，但却...
2020-08-12 00:05:29 -
自然语言处理在当今商业中的八大应用
基于人工智能的工具现在统治着每个工业部门。有了丰富的社交媒体、组织和数字平台，产生的数据中不乏有用的资源。...
2020-08-09 01:31:50 -
YOLOv5被禁用！Kaggle全球小麦检测竞赛结果惹争议
昨天Kaggle 全球小麦检测（Global Wheat Detection）比赛落下帷幕，共计2,270 支队伍参赛。比赛结束后，讨论区本该是晒成绩或者解决方案的，但却...
2020-08-09 01:25:42 -
关于Transformer，那些的你不知道的事
基于Transformer的架构主要用于建模语言理解任务，它避免了在神经网络中使用递归，而是完全依赖于self-attention机制来绘制输入和输出之间的...
2020-08-09 01:25:28 -
GPT-3的威力，算法平台的阴谋
大概一个月之前，史上最巨无霸NLP模型GPT-3问世。当时它向世界展示的能力是，“不仅会写短文，而且写出来的作文挺逼真的，几乎可以骗过...
2020-08-09 01:25:15 -
Facebook将Windows版PyTorch的开发维护移交给微软
Facebook 通过 PyTorch 官方博客宣布，微软已扩大了对 PyTorch 社区的参与，现在拥有 PyTorch 在 Windows 上的开发和维护所有权。PyTorch 是基于 Torc...
2020-08-09 01:25:03 -
芯片业最大并购案！消息称英伟达拟收购Arm 估值
7月31日， 据两名知情人士透露，美国芯片公司英伟达正在洽谈以现金加股票的方式从软银手中收购其英国芯片设计子公司Arm，这笔交易对...
2020-08-09 01:24:47 -
PyTorch 1.6、TensorFlow 2.3、Pandas 1.1 同日发布！都有
7月29日，PyTorch 1.6、TenorFlow 2.3、Pandas 1.1恰巧同时发布。这三个库都是定期滚动更新，大约每个季度更新一次小版本。在AI内卷化达到“灰飞...
2020-08-04 00:25:25 -
揭秘Facebook搜索中的语义检索技术
相对于传统的网页搜索，社交网络中的搜索问题不仅需要关注输入 query 的信息，还需要考虑用户的上下文信息，在 Facebook 搜索场景中用户的...
2020-08-04 00:24:13 -
时代的眼泪：繁华落尽的SPARC处理器
「网络就是电脑」（The Network Is TheComputer）这句格言，是在1984 年，由Sun 第21 名员工John Gage 创造。别说网络，在连个人电脑都尚未普及的年...
2020-08-04 00:23:49 -
Transformer模型深度解读
「Transformer」 是2017年的一篇论文《Attention is All You Need》提出的一种模型架构，这篇论文里只针对机器翻译这一种场景做了实验，全面击败了...
2020-08-04 00:23:09 -
YOLO 系目标检测算法家族全景图！
YOLO目标检测算法诞生于2015年6月，从出生的那一天起就是“高精度、高效率、高实用性”目标检测算法的代名词。在原作者Joseph Redmon博士手...
2020-08-04 00:21:20 -
EUV光刻机全球出货量达57台
IMEC是推动半导体技术前进的主要组织之一，日前，他们举办了一场线上论坛，谈及了对芯片现状和未来的看法。在演讲中，ASML总裁则对光刻...
2020-08-04 00:21:07 -
出道即巅峰，掀起AI领域巨浪的GPT-3，被过誉了吗
是时候重新审视这个「无所不能的」模型了！GPT-3，「出道即巅峰」界的代表。2020 年 5 月，OpenAI 高调推出了一款具有 1750 亿参数的自回归语...
2020-08-04 00:20:33 -
机器学习中的五个实际问题及其对业务的影响
如今，很多企业需要快速处理大量数据。与此同时，市场竞争格局正在迅速发展变化，因此企业能够快速做出决定至关重要。 就像商业管理...
2020-08-01 09:23:17 -
11种比较常见的机器学习算法简介
近年来，由于对技术的高需求和进步，机器学习的普及已大大增加。 机器学习可以从数据中创造价值的潜力使其吸引了许多不同行业的企业...
2020-08-01 09:21:00
