机器学习
-
我国首个实用化无人机“蜂群”,中国电科单车发
近期，中国电科集团电科院开展了陆空协同固定翼无人机“蜂群”系统的相关试验试飞工作，验证了陆上发射和空中投放固定翼无人机“蜂...
2020-10-17 22:59:31 -
光刻机能进口了！全球最大制造商ASML回应，卖给
没有顶尖的光刻机，是我国半导体行业发展的最大瓶颈。在这个领域称得上龙头的，荷兰的阿斯麦尔(ASML)首屈一指。10月14日，ASML的首席财务...
2020-10-17 22:58:58 -
BERT模型蒸馏有哪些方法？
我们都知道预训练模型的标准范式：pretrain-利用大量的未标记数据通过一些自监督的学习方式学习丰富的语义和句法知识。例如：Bert 的 M...
2020-10-13 23:30:40 -
从图(Graph)到图卷积(Graph Convolution)：漫谈图神经网
最早的GNN主要解决的还是如分子结构分类等严格意义上的图论问题。但实际上欧式空间(比如像图像 Image)或者是序列(比如像文本 Text)，许多...
2020-10-13 23:30:28 -
OpenAI推出数学推理证明模型，推理结果首次被数
今年6月，OpenAI发布一款强大的文本生成模型GPT-3，不少网友迅速上手用了起来，有人用它写食谱、写歌词，甚至有人用它写博客，愣是以假...
2020-10-13 23:30:10 -
Arm服务器芯片新战局
英特尔一统服务器芯片江湖已经很久了。虽然在这期间有IBM和MIPS前来挑战，但他们谁都无法撼动英特尔的地位。进入了二十一世纪以后，凭...
2020-10-13 23:29:59 -
常见风控指标释义
Application scorecard 进件评分卡，对授信阶段提交的资料赋值的规则。举例：“进件”是传统银行的说法，指申请单。评分卡是对一系列用户信...
2020-10-13 23:29:46 -
从word2vec开始，说下GPT庞大的家族系谱
本文从从老祖级别的 word2vec 开始，从头到尾梳理了 GPT 的 「家谱」 和 word2vec 领衔的庞大的 NLP「家族集团」。GPT 不是凭空而出，它是经过了...
2020-10-13 23:28:43 -
为AI而生的IPU芯片，或挑战GPU的霸主位？
在CPU芯片领域，延续至今的“摩尔定律”正在随着制程工艺逼近物理极限而有了延缓的趋势，甚至失效的可能。就在摩尔定律的增长放缓脚...
2020-10-09 18:20:00 -
GPU必知必会 | 哪款显卡配得上我的炼丹炉
众所周知，深度学习是一个很吃算力的领域，所以，GPU 选得好不好直接决定了你的炼丹体验。那么，哪些指标是你在买 GPU 时应该重视的呢...
2020-10-09 18:19:51 -
从发展历史视角解析Transformer：从全连接CNN到Tr
Transformer架构在机器学习领域（尤其是NLP里）是一项热门研究，为我们带来了许多重要成果，比如：GPT-2、GPT-3等写稿机器人；第一代GPT及其...
2020-10-09 18:19:43 -
一文带你了解协同过滤的前世今生
协同过滤是基于用户行为设计的推荐算法，具体来说，是通过群体的行为来找到某种相似性（用户之间的相似性或者物品之间的相似性），...
2020-10-09 18:19:31 -
独霸市场数十年，X86处理器究竟难在哪里？
这些年来，相信各位闲闲没事，就会在网路各角落看到，不同领域的各路英雄好汉一直有相同疑惑：为何今天的x86 处理器市场，台面上只剩...
2020-10-09 18:19:20 -
谷歌最新模型pQRNN：效果接近BERT，参数量缩小3
文本分类是NLP最常见的应用之一，有了BERT之后更是可以通过小批量数据精调达到不错的效果。但在对速度要求高、没有钱买GPU、移动设备部...
2020-10-09 18:19:10 -
YOLO算法最全综述：从YOLOv1到YOLOv5
YOLO没有显示求取region proposal的过程。Faster R-CNN中尽管RPN与fast rcnn共享卷积层，但是在模型训练过程中，需要反复训练RPN网络和fast rcnn网络...
2020-10-09 18:18:47 -
按照时间线帮你梳理10种预训练模型
BERT中及XLNet和RoBERTa中，词嵌入大小 E 和隐藏层大小 H 相等的，H =E=768；而ALBERT认为，词嵌入学习单个词的信息，而隐藏层输出包含上下文信...
2020-09-29 23:07:51 -
基于OpenCV 的车牌识别
车牌识别是一种图像处理技术，用于识别不同车辆。这项技术被广泛用于各种安全检测中。现在让我一起基于OpenCV编写Python代码来完成这一...
2020-09-29 23:07:39 -
对比自监督学习浪潮迅猛来袭，你准备好了吗？
近年来，自监督学习逐渐成为了备受人们关注的应对标注缺乏问题的热门解决方案，科研人员在基于对比学习的自监督方法方面进行了大量...
2020-09-29 23:07:26 -
用最简单的方式训练史上最强ResNet-50，性能超过
近日，CMU 的研究人员在 arXiv 上放出了一份技术报告，介绍他们如何通过蒸馏（distillation）训练一个强大的小模型。所提出方法使用相同模型...
2020-09-29 23:06:05 -
一定要GPT3吗？不，BERT的MLM模型也能小样本学习
大家都知道现在GPT3风头正盛，然而，到处都是GPT3、GPT3地推，读者是否记得GPT3的论文的名字呢？事实上，GPT3的论文叫做《Language Models are ...
2020-09-29 23:05:54 -
BERT为什么是NLP的革新者
BERT，全称 Bidirectional Encoder Representation from Transformers，是一款于 2018 年发布，在包括问答和语言理解等多个任务中达到顶尖性能的语言模型。...
2020-09-29 23:05:26 -
Repulsion Loss 遮挡场景下的目标检测
在检测行人任务中，由于行人之间互相遮挡，导致传统的检测器容易受遮挡的干扰，给出错误的预测框。研究人员先是从数据集上进行分析...
2020-09-25 23:30:48 -
深度神经网络模型训练中的 tricks（原理与代码汇
计算机视觉主要问题有图像分类、目标检测和图像分割等。针对图像分类任务，提升准确率的方法路线有两条，一个是模型的修改，另一个...
2020-09-25 23:30:30 -
Arm连发两大服务器CPU新品！单核性能猛增50%
今天，Arm公布下一代Neoverse服务器CPU设计，不仅公布N系列的第二代产品N2，还首次推出了全新产品类别Neoverse V系列平台，剑指最高单线程性...
2020-09-25 23:30:20 -
任务式对话中的自然语言理解
随着人工智能技术的发展，智能对话的应用场景越来越多，目前已经成为了研究的热点。天猫精灵，小度小度，腾讯叮当，这些智能助手都...
2020-09-25 23:30:09 -
微软与OpenAI达成合作，获得GPT-3独家使用授权
当地时间9月22日，微软在官网发布通告，与OpenAI合作，独家获取了GPT-3语言模型的使用许可。这份通告以微软首席技术官凯文·斯科特（Kev...
2020-09-25 23:29:59 -
台媒：台积电2nm制程获重大突破
据台媒经济日报透露，台积电2纳米制程研发获重大突破。供应链透露，有别于3纳米与5纳米采用鳍式场效电晶体（FinFET）架构，台积电2纳米...
2020-09-25 23:29:47 -
Repulsion Loss 遮挡场景下的目标检测
在检测行人任务中，由于行人之间互相遮挡，导致传统的检测器容易受遮挡的干扰，给出错误的预测框。研究人员先是从数据集上进行分析...
2020-09-24 00:18:55 -
封闭的NVIDIA收购Arm，开放的RISC-V机会来了？
近日，NVIDIA 斥资 400 亿美元收购 Arm 的消息疯狂刷屏，看来今年挤爆牙膏的老黄确实够豪横。但很快也有业内人士表达了对此次收购案的担忧...
2020-09-24 00:18:43 -
R-tmap 绘制带指北针和比例尺的空间地图
说起绘制空间数据相关的可视化作品，R语言还是比Python 要方便的多的。这里我们就简单介绍下tmap 空间数据可视化绘图包。值得注意的是，...
2020-09-24 00:18:26 -
RNN 其常见架构：一文带你了解RNN家族知识点
CNN 和 RNN是当下 Deep Learning 应用领域中主流的两大结构。前篇文章中我们介绍了 CNN，本篇开始我们聊聊 RNN。RNN 跟 CNN 历史相似之处在于，都...
2020-09-24 00:18:13 -
Dynamic ReLU：微软推出提点神器，可能是最好的R
ReLU是深度学习中很重要的里程碑，简单但强大，能够极大地提升神经网络的性能。目前也有很多ReLU的改进版，比如Leaky ReLU和 PReLU，而这些...
2020-09-24 00:17:54 -
Jürgen Schmidhuber发文纪念10年前的研究，网友：转
LSTM 之父、深度学习元老 Jürgen Schmidhuber 发文纪念 10 年前发表的研究。Jürgen Schmidhuber 每次发博客都会引起一阵「腥风血雨」，这次似乎也不...
2020-09-24 00:17:36 -
基于图神经网络的知识图谱研究进展
近几年来，人工智能技术得到了飞速发展，其进展突出体现在以知识图谱(Knowledge Graph)为代表的知识工程和以图神经网络(Graph Neural NetWorks,...
2020-09-24 00:17:14 -
哈佛专家披露：马斯克侵入式脑机接口技术的三
美国时间 8 月 28 日下午，侵入式脑机接口技术公司 Neuralink 的创始人、科技英雄「硅谷钢铁侠」埃隆-马斯克举行了他戏称为「三只小猪」的...
2020-09-24 00:16:48
