机器学习
-
Google综述:细数Transformer模型的17大高效变种
在NLP领域transformer已经是成功地取代了RNN(LSTM/GRU),在CV领域也出现了应用,比如目标检测和图像加注,还有RL领域。这是一篇谷歌2020年9月...
2020-12-21 20:27:45 -
苹果M1预示着RISC-V的崛起?
到目前为止,很明显,苹果的M1芯片是一件大事。而且,对其他行业的影响也越来越清晰。在这个故事中,我想谈谈这件事对RISC-V微处理器的...
2020-12-21 20:27:20 -
英特尔:没落的芯片王者
英特尔已从行业王者沦落为命运观察者。“听着,Clayton,我是一个很忙的人,我没有时间听学者们的废话,但是有人告诉我你有这个理论…...
2020-12-21 20:26:08 -
AI种草莓,比最强人类多两倍:首次农业人机大战
水果为什么越来越好吃了?网红农产品背后是农业的创新力量。你也许不知道,最近一段时间里最流行的「网红水果」,很多都曾是默默无...
2020-12-21 20:25:36 -
入学试可用手机找数据 日本大学考核学生思维
日本政府一直有意对大学入学试进行改革,认为有必要更改现时的模式,改为对知识和思维能力进行综合评估。而位于东京神奈川县的产业...
2020-12-20 20:01:43 -
红杉树智能英语在线教育培养孩子学习兴趣,提
当代教育行业发展十分迅猛,其中智能教育逐渐成为了主流,被更多家长、学生接受。大家对于红杉树智能英语在线教育都十分信赖,因为...
2020-12-15 23:58:11 -
MIT韩松团队开发全新微型深度学习技术MCUNet-符印
ldquo;MCUNet能够把深度学习在单片机上做到ImageNet70%以上的准确率,我们的研究表明,在物联网设备上在线进行小资源机器学习的时代正在到来...
2020-12-13 19:21:53 -
Facebook AI新研究:可解释神经元或许会阻碍DNN的学
FacebookAI近期更新博客介绍了一篇新论文,即研究人员通过实验发现「易于解释的神经元可能会阻碍深层神经网络的学习」。为了解决这些问...
2020-12-13 19:16:55 -
蒲慕明院士发问:颠覆性技术是否带来伦理问题
包括脑科学领域的颠覆性技术是否会带来伦理方面的问题?在AI时代人类是否将无用武之地?10月30日,在上海举行的第三届世界顶尖科学家...
2020-12-13 19:16:36 -
微软和谷歌分别开源分布式深度学习框架,各自
微软和谷歌一直在积极研究用于训练深度神经网络的新框架,并且在最近将各自的成果开源mdash;mdash;微软的PipeDream和谷歌的GPipe。 原则上看...
2020-12-13 19:14:13 -
私塾家亮相GET2020教育科技大会,以AI智能重构智慧
11月23日-11月24日,GET2020教育科技大会在北京国际会议中心正式召开,大会以ldquo;或跃在渊bull;教育的信心与发展rdquo;为主题,倡导后疫情时代重...
2020-12-13 19:13:54 -
图灵奖得主的大神之家:一家三口都是MIT博士,
一家三口都是MIT博士是一种怎样的体验?最近,图灵奖得主曼纽尔middot;布鲁姆(ManuelBlum)和他的妻子莱诺尔middot;布鲁姆(LenoreBlum)、他的...
2020-12-13 19:11:37 -
PyTorch or TensorFlow?
机器学习领域,面对各类复杂多变的业务问题,构建灵活易调整的模型是高阶机器学习工程师必备的工作能力。然而,许多工程师还是有一...
2020-12-12 22:21:53 -
TensorFlow 2.4 Mac 优化版:在 Mac 上实现加速的 CPU
借助 TensorFlow 2,可在跨平台、设备和硬件上实现一流的训练性能,从而使开发者、工程师和研究人员能够在他们喜欢的平台上工作。现在,...
2020-12-12 22:21:53 -
LSRA: 轻量级Transformer,注意力长短搭配
Transformer虽然效果好,但是却对资源要求比较高,很难在端设备上运行。在传统的Transformer中,每个block中都有Multi-head Attention和全连接层,其...
2020-12-12 22:21:53 -
一文看懂CV中的注意力机制
计算机视觉领域注意力机制的开篇之作。提出了non-local operations,使用自注意力机制建立远程依赖。- local operations: 卷积(对局部领域)、recu...
2020-12-12 22:21:53 -
图卷积神经网络理论基础
Graph Convolutional Networks图卷积网络涉及到两个重要的概念,Graph和Convolution。传统的卷积主要应用于Euclidean Structure的数据上(排列很整齐、G...
2020-12-12 22:21:53 -
再讲卷积的本质及物理意义,解释的真幽默!
卷积这个东东是“信号与系统”中论述系统对输入信号的响应而提出的。因为是对模拟信号论述的,所以常常带有繁琐的算术推倒,很简单...
2020-12-12 22:21:53 -
分布式训练框架Horovod初步学习
Horovod 是 TensorFlow、Keras、PyTorch 和 Apache MXNet 的分布式深度学习训练框架。Horovod 的目标是使分布式深度学习快速且易于使用。简单来说就是...
2020-12-12 22:21:53 -
深度学习GPU最全对比,到底谁才是性价比之王?
搞AI,谁又没有“GPU之惑”?张量核心、显存带宽、16位能力……各种纷繁复杂的GPU参数让人眼花缭乱,到底怎么选?从不到1000元1050 Ti到近...
2020-12-12 22:21:53 -
英伟达RTX 3080值不值得抢?有人用它在TensorFlow上
一通跑分猛如虎,结果发现深度学习框架还不支持。自 9 月份英伟达发布新一代安培架构消费级显卡 RTX 30 系列已过去两个月了,随着芯片代...
2020-12-12 22:21:53 -
YOLO系列:YOLOv1,YOLOv2,YOLOv3,YOLOv4,YOLOv5简介
YOLO没有显示求取region proposal的过程。Faster R-CNN中尽管RPN与fast rcnn共享卷积层,但是在模型训练过程中,需要反复训练RPN网络和fast rcnn网络...
2020-12-12 22:21:53 -
二值化神经网络(BNN)综述
二值化神经网络BNN由于可以实现极高的压缩比和加速效果,所以它是推动以深度神经网络为代表的人工智能模型在资源受限和功耗受限的移...
2020-12-12 22:21:53 -
Hinton新作!越大的自监督模型,半监督学习需要
仅使用1%的标签(每类≤13个标签图像),本文提出的方法即可达到73.9%ImageNet top-1准确率,与以前的SOTA相比,标签效率提高了10倍。使用...
2020-12-12 22:21:53 -
从图(Graph)到图卷积(Graph Convolution):漫谈图神经网
在开始正式介绍图卷积之前,我们先花一点篇幅探讨一个问题:为什么研究者们要设计图卷积操作,传统的卷积不能直接用在图上吗? 要理...
2020-12-12 22:21:53 -
漫谈图神经网络 (三)
图读出操作,顾名思义,就是用来生成图表示的。它的别名有图粗化(翻译捉急,Graph Coarsening)/图池化(Graph Pooling)。对于这种操作而言,它的...
2020-12-12 22:21:53 -
Facebook AI新研究:可解释神经元或许会阻碍DNN的学
人工智能模型到底「理解」了什么内容,又是如何「理解」的呢?回答这个问题对于改进人工智能系统来说至关重要。而不幸的是,计算机...
2020-12-12 22:21:53 -
ASML 1nm光刻机完成:摩尔定律尚未结束
根据日媒的报道,在不久前举办的线上活动中,欧洲微电子研究中心IMEC首席执行官兼总裁Luc Van den hove在线上演讲中表示,在与ASML公司的合...
2020-12-12 21:28:57 -
LSRA: 轻量级Transformer,注意力长短搭配
Transformer虽然效果好,但是却对资源要求比较高,很难在端设备上运行。在传统的Transformer中,每个block中都有Multi-head Attention和全连接层,其...
2020-12-12 21:28:49 -
神经科学如何影响人工智能?看DeepMind在NeurIPS2
大脑仍然是唯一已知的真正通用智能系统的例子。对人类和动物认知的研究已经揭晓了一些关键的见解,如并行分布式处理、生物视觉和从...
2020-12-12 21:28:38 -
Gebru被辞退的背后真相:指出BERT的4大危害,威胁
根据 Timnit Gebru 与 Google AI 负责人Jeff Dean被透露的邮件内容,Gebru的论文在提交审核中没有达到发表要求,因此被驳斥;接着,Gebru提出一些要...
2020-12-12 21:28:29 -
被深度学习彻底改变的十大行业
深度学习是机器学习的一个子领域,属于人工智能(AI)和物联网(IoT)。然而,如果没有深度学习的应用,自动化和智能就不会达到今天的水平...
2020-12-12 21:28:16 -
“逃离”英伟达
继11月亚马逊将 Alexa 语音助手的部分计算任务转移到自主设计的定制设计芯片Inferentia 后,近日,其再次宣布推出了全新的AI训练芯片AWS Tr...
2020-12-12 21:28:05 -
PyTorch or TensorFlow?
机器学习领域,面对各类复杂多变的业务问题,构建灵活易调整的模型是高阶机器学习工程师必备的工作能力。然而,许多工程师还是有一...
2020-12-12 21:27:56 -
一位前ARM工程师对RISC-V的批评
RISC-V 的极简主义让解码器(CPU 前端)变得更简单,代价则是需要执行更多的指令。然而,相对于拓宽流水线这个难题而言,解码不规则指令...
2020-12-12 21:27:29