Spark 机器学习的加速器：Spark on Angel

Spark的核心概念是RDD，而RDD的关键特性之一是其不可变性，来规避分布式环境下复杂的各种并行问题。这个抽象，在数据分析的领域是没有问题的，它能最大化的解决分布式问题，简化各种算子的复杂度，并提供高性能的分布式数据处理运算能力。

然而在机器学习领域，RDD的弱点很快也暴露了。机器学习的核心是迭代和参数更新。RDD凭借着逻辑上不落地的内存计算特性，可以很好的解决迭代的问题，然而RDD的不可变性，却非常不适合参数反复多次更新的需求。这本质上的不匹配性，导致了Spark的MLlib库，发展一直非常缓慢，从2015年开始就没有实质性的创新，性能也不好。

为此，Angel在设计生态圈的时候，优先考虑了Spark。在V1.0.0推出的时候，就已经具备了Spark on Angel的功能，基于Angel为Spark加上了PS功能，在不变中加入了变化的因素，可谓如虎添翼。

我们将以L-BFGS为例，来分析Spark在机器学习算法的实现上的问题，以及Spark on Angel是如何解决Spark在机器学习任务中的遇到的瓶颈，让Spark的机器学习更加强大。

1. L-BFGS算法说明

L-BFGS模型参数更新过程如下：

wk+1← wk -λ·pk

其中，wk 是模型参数， pk = Hk-1 gk 是搜索方向， λ 是通过线性搜索得到的步长。

计算pk = Hk-1 gk 伪代码如下所示，这是人们常说的two-loop recursion算法，是Limited-BFGS算法的核心部分。

返回值 r 是我们说要的pk。

 

 

其中，H0-1 是单位阵，yk=gk-gk-1, sk=wk-w k-1k-1，L-BFGS算法将最近 m 轮生成的 yk 和 sk 序列，记做 {yk} 和 {sk}。基于计算 {yk} 和 {sk} 计算 pk 。

2.L-BFGS的Spark实现

2.1 实现框架

Spark中的driver负责协调整个Spark任务执行的同时，需要保存最近 m 轮的 {yk} 和 {sk} 序列，并在driver上执行two-loop recursion算法。而executor负责分布式地计算梯度向量。

 

 

迭代过程：

(1)每轮迭代，将每个executor计算的梯度Aggregate到driver
(2)yk 和 sk 保存在driver上，在driver端执行two-loop recursion算法
(3)driver上更新模型 w，并将 w 广播到每个Executor

2.2 性能分析

基于Spark的L-BFGS实现的算法优点比较明显：

• HDFS I/O
Spark可以快速读写HDFS上的训练数据;
• 细粒度的负载均衡
并行计算梯度时，Spark具有强大的并行调度机制，保证task快速执行;
• 容错机制
当计算节点挂掉、任务失败，Spark会根据RDD的DAG关系链实现数据的重计算。但是对于迭代式算法，每轮迭代要用RDD的action操作，打断RDD的DAG，避免因为重计算引起逻辑的错乱;
• 基于内存的计算
基于内存的计算过程，可以加速机器学习算法中计算梯度过程的耗时。

该实现的缺点：

• treeAggregate引起的网络瓶颈
Spark用treeAggregate聚合梯度时，如果模型维度达到亿级，每个梯度向量都可能达到几百兆;此时treeAggregate的shuffle的效率非常低;
• driver单点
保存{yk}和{sk}序列需要较大的内存空间;
two-loop recursion算法是由driver单点执行，该过程是多个高维度的向量的运算;
每轮迭代，driver都需要和executor完成高维度向量的aggregate和broadcast。

3.L-BFGS的Spark on Angel实现

3.1 实现框架

Spark on Angel借助Angel PS-Service的功能为Spark引入PS的角色，减轻整个算法流程对driver的依赖。two-loop recursion算法的运算交给PS，而driver只负责任务的调度，大大减轻的对driver性能的依赖。

Angel PS由一组分布式节点组成，每个vector、matrix被切分成多个partition保存到不同的节点上，同时支持vector和matrix之间的运算;

{yk} 和 {sk} 序列分布式地保存到Angel PS上，two-loop recursion算法中高维度的向量计算也是在PS上完成。Spark executor每轮迭代过程会从PS上Pull w 到本地，并将计算的梯度向量Push到PS。

 

 

迭代过程：

(1)每轮迭代，executor 将PS上的模型 w pull 到本地，计算梯度，然后梯度向量push给PS
(2)yk 和 sk 保存在PS上，在PS端执行two-loop recursion算法
(3)PS上更新模型 w

3.2 性能分析

整个算法过程，driver只负责任务调度，而复杂的two-loop recursion运算在PS上运行，梯度的Aggregate和模型的同步是executor和PS之间进行，所有运算都变成分布式。在网络传输中，高维度的PSVector会被切成小的数据块再发送到目标节点，这种节点之间多对多的传输大大提高了梯度聚合和模型同步的速度。

这样Spark on Angel完全避开了Spark中driver单点的瓶颈，以及网络传输高维度向量的问题。

4.“轻易强快”的Spark on Angel

Spark on Angel是Angel为解决Spark在机器学习模型训练中的缺陷而设计的“插件”，没有对Spark做"侵入式"的修改，是一个独立的框架。可以用 “轻”、“易”、“强”、“快” 来概括Spark on Angel的特点。

4.1 轻 --- "插件式"的框架

Spark on Angel是Angel为解决Spark在机器学习模型训练中的缺陷而设计的“插件”。Spark on Angel没有对Spark中的RDD做侵入式的修改，Spark on Angel是依赖于Spark和Angel的框架，同时其逻辑又独立于Spark和Angel。

因此，Spark用户使用Spark on Angel非常简单，只需在Spark的提交脚本里做三处改动即可，详情可见Angel的Github Spark on Angel Quick Start文档

可以看到提交的Spark on Angel任务，其本质上依然是一个Spark任务，整个任务的执行过程与Spark一样的。

source ${Angel_HOME}/bin/spark-on-angel-env.sh
$SPARK_HOME/bin/spark-submit \
--master yarn-cluster \
--conf spark.ps.jars=$SONA_ANGEL_JARS \
--conf spark.ps.instances=20 \
--conf spark.ps.cores=4 \
--conf spark.ps.memory=10g \
--jars $SONA_SPARK_JARS \
....