机器学习
-
Hinton：我终于想明白大脑怎么工作了！神经学家
若干年来，大脑的工作原理让AI研究者们前赴后继，而横亘在人工智能网络和大脑工作原理之间的，就是反向传播算法。反向传播是深度学习...
2021-03-10 22:02:24 -
增量学习(Incremental Learning)小综述
人类有终身不断获取、调整和转移知识的能力，虽然在我们的一生中，我们确实倾向于逐渐忘记之前学习过的知识，但只有在极少的情况下...
2021-02-24 22:43:33 -
Google的『泛芯片』科技蓝图
Google自研芯片已经有几年时间，Jeff Dean也已经是芯片顶会邀请的常客。2020年的Hotchips，Dan Belov(DeepMind)的keynote，阐述了Google对未来AI系统和芯...
2021-02-24 22:43:22 -
抵近作战：DARPA启动“远射”无人机项目设计工作
2月8日，美国国防高级研究计划局（DARPA）通过官网宣布，将“远射”（LongShot）项目第一阶段初步设计工作合同授予通用原子、洛克希德·马...
2021-02-24 22:43:10 -
Attention！当推荐系统遇见注意力机制
当注意力机制都已经变成很tasteless的手法的时候，使用或者魔改注意力机制一定要专注讲好自己的故事：即『为什么要用Attention，为什么要...
2021-02-24 22:43:00 -
更深、更轻量级的Transformer！Facebook提出：DeLigh
本文提出了一个更深更轻量的Transformer，DeLighT，DeLighT更有效地在每个Transformer Block中分配参数：1)、使用DeLighT转换进行深度和轻量级的转换...
2021-02-24 22:42:44 -
盘点近期大热对比学习模型：MoCo/SimCLR/BYOL/SimSi
很多大佬认为，深度学习的本质就是做两件事情：Representation Learning（表示学习）和 Inductive Bias Learning（归纳偏好学习）。在表示学习方面，...
2021-02-24 22:42:30 -
AI已能求解微分方程，数学是这样一步步“沦陷”
首先，先得说明，所谓的AI解方程，解的可不是简单的数值方程！人家正经求解的是面对实际工程问题的偏微分方程，又称PDE。N-S方程已经被...
2021-02-24 22:42:16 -
龙泉寺贤超法师：用 AI 为古籍经书识别、断句、
坐落在京郊凤凰岭脚下的龙泉寺，称得上全国甚至全球科研实力最强的佛教寺庙。凭借当年学诚法师的一句「佛教是古老的，但佛教徒是现...
2021-02-24 22:41:49 -
每年节省170万美元的文档预览费用，借助机器学
最近，Dropbox 优化了生成和缓存文档预览的方式，并借助机器学习的预测能力，每年为公司节省了 170 万美元的基础架构成本。Dropbox 的一些...
2021-02-24 22:41:37 -
4纳米来了！全球首款10Gbps！高通发布第四代5G 骁
2021年2月9日，高通宣布正式推出第4代5G调制解调器到天线的解决方案骁龙X65。这也是全球首个支持10Gbps 5G速率和首个符合3GPP Release 16规范的...
2021-02-24 22:41:22 -
手机芯片六巨头的并购史
大浪淘沙，如今全球手机芯片市场的供应商几乎只剩6家，分别是苹果、高通、联发科、华为、展锐、三星。大的变化可能大概率不会发生，...
2021-02-24 21:48:40 -
模仿人脑视觉处理，助力神经网络应对对抗性样本
自从深度学习只能识别支票和信封上的手写字母以来，它已经取得了长足的进步。今天，深度神经网络已经成为许多计算机视觉应用的关键...
2021-02-18 22:32:20 -
神经网络背后的简单数学
Image by Alina Grubnyak on Unsplash 神经网络是将数据映射到信息的通用逼近器。这是什么意思?神经网络可以解决任何问题吗?神经网络是一种经过验...
2021-02-18 22:31:13 -
准备好了吗？GNN 图神经网络 2021 年的5大应用热点
今年开始。图神经网络(Graph Neural Networks)成为研究者讨论的焦点，作为该领域的研究人员，我甚是欣慰。记得大概三年前，图神经网络那时还...
2021-02-18 22:26:48 -
机器学习基础图表：概念、原理、历史、趋势和算法
一、机器学习概览 1. 什么是机器学习？ 机器通过分析大量数据来进行学习。比如说，不需要通过编程来识别猫或人脸，它们可以通过使用图...
2021-02-18 22:25:07 -
分析了 600 多种烘焙配方，机器学习开发出新品
世界上的各色美食中，烘焙食品一直都占据着重要的地位。松软的面包、细腻的蛋糕、酥脆的饼干，都让人无法拒绝。 烘焙不仅是一项烹饪...
2021-02-18 22:21:22 -
2021年的机器学习生命周期
您实际上是如何完成一个机器学习项目的?有哪些工具可以帮助完成每一步? Photo by Tolga Ulkan on Unsplash 在这个时代，每个人都在学习机器学习...
2021-02-18 22:18:20 -
物联网和机器学习促进企业业务发展的5种方式
物联网和机器学习是当今商业领域最具颠覆性的两项技术。另外，这两种创新都能给任何公司带来显著的好处。它们一起可以彻底改变企业...
2021-02-18 22:17:09 -
20年以后，半数工作将被人工智能取代？这些“高危行业”有哪些
《机械公敌》是菜菜小时候特别喜欢的一部电影，放在现在来看也是毫不过时。小时候看电影只是看个画面，被机器人的强大所震撼，画面...
2021-02-18 22:16:09 -
机器学习中分类任务的常用评估指标和Python代码实现
假设您的任务是训练ML模型，以将数据点分类为一定数量的预定义类。 一旦完成分类模型的构建，下一个任务就是评估其性能。 有许多指标...
2021-02-18 22:13:29 -
机器学习和深度学习的区别是什么？
深度学习是机器学习算法的子类，其特殊性是有更高的复杂度。因此，深度学习属于机器学习，但它们绝对不是相反的概念。我们将浅层学...
2021-02-18 22:11:17 -
4款深度学习框架简介，初学者该如何选择？
01 Theano Theano是在BSD许可证下发布的一个开源项目，诞生于加拿大魁北克蒙特利尔大学的LISA实验室，是用一位希腊数学家的名字命名的。 T...
2021-02-18 22:04:11 -
AAAI21最佳论文Informer：效果远超Transformer的长序列
在很多实际应用问题中，我们需要对长序列时间序列进行预测，例如用电使用规划。长序列时间序列预测（LSTF）要求模型具有很高的预测能...
2021-02-09 23:25:56 -
技术实践：大规模知识图谱预训练及电商应用
知识广泛存在于文本、结构化及多种模态的数据中。除了通过抽取技术将知识从原始数据中萃取出来以支持搜索、问答、推理、分析等应用...
2021-02-09 23:24:34 -
深度学习中的3个秘密：集成、知识蒸馏和蒸馏
在现在的标准技术下，例如过参数化、batch-normalization和添加残差连接，“现代”神经网络训练 —— 至少对于图像分类任务和许多其他任务...
2021-02-09 23:23:41 -
芯片上的大脑：英国科学家将类人脑干细胞编织
人脑一直给研究者提供灵感，神经形态计算受到人脑的低功耗和快速计算特点启发而出现，它或许会是超大规模机器和人工智能应用（如自...
2021-02-09 22:36:16 -
RISC-V有何特别之处？
20 世纪 90 年代末，RISC 和 CISC 爆发了一场大战，自那以后，大家却说 RISC 和 CISC 的区别没那么重要了了。许多人表示，指令集也就那么回事...
2021-02-09 22:35:47 -
让研究人员绞尽脑汁的Transformer位置编码
不同于RNN、CNN等模型，对于Transformer模型来说，位置编码的加入是必不可少的，因为纯粹的Attention模块是无法捕捉输入顺序的，即无法区分不...
2021-02-09 22:35:23 -
【模型压缩】深度卷积网络的剪枝和加速
记录一下去年12月份实验室的一个工作：模型的剪枝压缩，虽然模型是基于yolov3的魔改，但是剪枝的对象还是CBL层（即Conv Layer + BN Layer + Le...
2021-02-09 22:32:27 -
堪比当年的LSTM，Transformer引燃机器学习圈：它是
谷歌研究科学家 David Ha：Transformer 是新的 LSTM。2017 年 6 月谷歌发布论文《Attention is All You Need》时，我们或许都没有意识到它提出的 Transfo...
2021-02-09 22:26:17 -
深度学习三大谜团：集成、知识蒸馏和自蒸馏
集成（Ensemble，又称模型平均）是一种「古老」而强大的方法。只需要对同一个训练数据集上，几个独立训练的神经网络的输出，简单地求平...
2021-01-26 21:35:59 -
万万没想到，BERT学会写SQL了
文本-SQL转化任务，是将用户的自然语言转化为SQL继而完成数据库查询的工作。例如根据下表，用户输入一个问题，模型将其转换为 SQL，查询...
2021-01-26 21:35:47 -
全球第一架反潜无人机试飞，带声呐浮标和雷达
根据简氏防务周刊报道，美国通用原子航空系统公司(GA-ASI)近日展示了MQ-9A“死神”和MQ-9B“海上守卫者”无人机系统的一种新的反潜战(ASW...
2021-01-26 21:35:35 -
Transformer又又来了，生成配有音乐的丝滑3D舞蹈，
来自谷歌等单位的学者提出一个基于 transformer 的学习框架，用于以音乐为条件的3D舞蹈生成。设计了一个全新的网络框架，并验证得出获得...
2021-01-26 21:35:16
