网讯 4月1日,深度学习平台飞桨宣布新一代飞桨框架3.0正式发布,以“动静统一自动并行”等五大技术创新为大模型训推提速。
作为大模型时代的Infra“基础设施”,深度学习框架的重要性愈发凸显,大模型训练、推理等任务都离不开深度学习框架的优化与支撑。
而飞桨框架3.0在设计理念上就实现了从底层硬件适配到顶层开发体验的进化,在训练效率、性能、兼容性等关键指标方面建立了新标杆。其中,“动静统一自动并行”“大模型训推一体”“科学计算高阶微分”“神经网络编译器”“异构多芯适配”这五大技术新特性,能够解决当前大模型产业面临的训练成本高、推理效率低、硬件适配难等痛点。
据介绍,“动静统一自动并行”技术降低了大模型开发训练成本,让算法创新回归核心价值创造。“训推一体”设计理念则打破了训练与推理的割裂状态,通过深度优化,飞桨框架3.0能够支持众多开源大模型进行高性能推理。
同时,在科学智能领域,飞桨框架3.0锚定科学前沿探索需要,提升微分方程求解速度。通过高阶自动微分和神经网络编译器技术,加速微分方程求解。飞桨还对DeepXDE、Modulus等主流开源科学计算工具进行了广泛适配,并成为DeepXDE的默认推荐后端。
在硬件适配方面,飞桨框架3.0推出了多芯片统一适配方案,构建“一次开发,全栈部署”的生态体系,目前已支持60余款主流芯片,覆盖训练集群、自动驾驶、智能终端等场景。(郑维汉)
转载请注明:可思数据 » 深度学习平台飞桨框架3.0正式发布
免责声明:本站来源的信息均由网友自主投稿和发布、编辑整理上传,或转载于第三方平台,对此类作品本站仅提供交流平台,不为其版权负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。若有来源标注错误或侵犯了您的合法权益,请作者持权属证明与本站联系,我们将及时更正、删除,谢谢。联系邮箱:elon368@sina.com