机器学习
-
深度学习三大谜团：集成、知识蒸馏和自蒸馏
集成（Ensemble，又称模型平均）是一种「古老」而强大的方法。只需要对同一个训练数据集上，几个独立训练的神经网络的输出，简单地求平...
2021-01-26 21:35:59 -
万万没想到，BERT学会写SQL了
文本-SQL转化任务，是将用户的自然语言转化为SQL继而完成数据库查询的工作。例如根据下表，用户输入一个问题，模型将其转换为 SQL，查询...
2021-01-26 21:35:47 -
全球第一架反潜无人机试飞，带声呐浮标和雷达
根据简氏防务周刊报道，美国通用原子航空系统公司(GA-ASI)近日展示了MQ-9A“死神”和MQ-9B“海上守卫者”无人机系统的一种新的反潜战(ASW...
2021-01-26 21:35:35 -
Transformer又又来了，生成配有音乐的丝滑3D舞蹈，
来自谷歌等单位的学者提出一个基于 transformer 的学习框架，用于以音乐为条件的3D舞蹈生成。设计了一个全新的网络框架，并验证得出获得...
2021-01-26 21:35:16 -
SOTA集结，2020登顶关系抽取的3篇佳作
2020实体关系联合抽取一片红海，各种SOTA方法你方唱罢我方登场，在一些数据集上也是不断刷出新高度，为信息抽取领域带来了新思路，推动...
2021-01-26 21:35:05 -
删数据，还要删AI模型：美国科技公司遭遇最严厉
近日，美国联邦贸易委员会（Federal Trade Commission ，FTC）公布了一项特殊的处罚决定：勒令一家名为「Everalbum」的公司删除其从客户手中收集...
2021-01-26 21:34:38 -
异构计算时代正式起飞
一个新的时代似乎已经到来。英特尔，这位CPU领域的绝对王者开始频频与“软件为先”和“XPU”等词进行捆绑。同样值得关注的是英特尔的...
2021-01-26 21:34:24 -
Transformer为何能闯入CV界秒杀CNN？
在自然语言处理领域中，一个重要的技术基础就是创建合理的Embedding。Embedding是NLP系统的根基，一个好的Embedding需要能够将原始文本中尽可...
2021-01-21 23:07:42 -
加快PyTorch训练速度！掌握这17种方法，让你省时
近日，Reddit 上一个帖子热度爆表。主题内容是关于怎样加速 PyTorch 训练。原文作者是来自苏黎世联邦理工学院的计算机科学硕士生 LORENZ K...
2021-01-21 23:07:32 -
多核之后，CPU 的发展方向是什么？
2020年底给某大厂做过一个报告，包含两部分内容：一部分是关于计算机体系结构，尤其是CPU结构的演变；另一部分关于处理器芯片设计方法...
2021-01-21 23:07:19 -
ASIC芯片除了用来挖矿，还能用来做什么？
ASIC (Application Specific Integrated Circuit )芯片是专用集成电路，是针对用户对特定电子系统的需求，从根级设计、制造的专有应用程序芯片，其计...
2021-01-21 23:07:00 -
AMD如何应对半路杀出的程咬金？
本周，业界关注的焦点非CES 2021莫属了，英特尔、AMD和英伟达这三家，凭借其市场影响力，以及同时具有半导体行业和消费类产品核心元器件...
2021-01-17 16:13:54 -
万物皆可Graph | 当推荐系统遇上图神经网络
图神经网络可以说是现在AI领域的超级宠儿。针对推荐系统的稀疏性问题，图方法还真的很适合，主要原因有下：推荐系统中存在很多的图结...
2021-01-17 16:13:44 -
1.6万亿参数，秒杀GPT-3！谷歌推出超级语言模型
对于机器学习来说，参数可以算得上算法的关键：他们是历史的输入数据，经过模型训练得来的结果，是模型的一部分。一般来说，在NLP领...
2021-01-17 16:13:28 -
Transformer家族简史（PART II）
Transformer 不同 head 所关注的序列长度 span 是不一样的，一些 head（如 Head A）重点关注附近较短的信息，而另外一些 head（如 Head B）则关注在...
2021-01-17 16:13:20
