段亦涛

网易有道首席科学家

个人简介：本科与硕士毕业于北京航空航天大学，于2007年获UC Berkeley计算机科学专业博士学位，研究方向包括大规模分布式计算，数据挖掘，机器学习，密码学以及安全和隐私。在博士期间加入有道，参与完成有道底层架构，目前任网易有道首席科学家，负责有道技术创新与相关实践工作。主要关注以深度学习为代表的最新AI技术在互联网各个领域的应用，包括机器翻译，图像识别等。主导了有道神经网络机器翻译YNMT等核心技术的研究和开发。

张广勇

网易有道 高性能计算研发专家

主题报告一：AI技术在教育智能硬件上的应用实践

主题简介：教育智能硬件是智能硬件+教育的融合，教育智能硬件最近几年得到迅速的发展，2020年教育智能硬件市场规模为343亿元，2024年有望接近1千亿元。AI技术是教育智能硬件中的关键技术，然而，智能硬件本地算力和内存等资源有限，落地越来越复杂的AI算法面临了众多的挑战。

本次演讲将首先介绍教育智能硬件面临的挑战——平衡质量、速度、内存、功耗、成本等指标，然后分别从算法和推理两个角度介绍我们常用的优化方法。算法优化将会介绍裁剪模型、共享参数、量化、知识蒸馏等方法。推理优化一是介绍我们自研的开源高性能端侧机器学习计算库EMLL的技术细节以及其在智能硬件中的应用效果，二是分享网易有道探索基于CPU+NPU异构计算平台的端侧AI落地实践。

个人简介：高性能计算研发专家，网易有道AI部门高性能计算技术负责人，10年高性能计算从业经验。曾任浪潮高性能计算研发工程师，负责传统科学计算、机器学习等行业的高性能应用软件的开发和优化工作。后续在某创业公司担任高性能计算架构师，负责CPU+GPU异构平台的分布式数据库研发。

188体育app官网：加入网易有道，负责AI平台建设、AI训练性能优化，云侧和端侧NMT、OCR、ASR、TTS等推理引擎实现和性能优化。

听众获益：

1.有道开源库——EMLL高性能端侧机器学习计算库，对端侧AI落地的作用

2.探索CPU+NPU异构计算方法，解决端侧AI性能和功耗瓶颈

袁进辉

一流科技 CEO

主题报告二：让大规模分布式深度学习变得更方便：来自OneFlow的方案

主题简介：训练诸如GPT-3这样的超大规模模型需要模型并行、流水并行等现有通用深度学习框架TensorFlow和PyTorch官方版本尚不支持的功能，人们不得不转而寻求各种定制化方案。一个很自然的问题是，是否有可能令通用深度学习框架灵活而高效的支持这些大规模预训练模型所需要的这些技术？OneFlow作为完全从头全新开发的深度学习框架提供了一个答案。借助“一致性视角”的概念，OneFlow可以帮助开发者像单机编程一样方便地开发分布式深度学习训练程序。在这次交流中，我将介绍“一致性视角”背后的核心思想以及新的编程接口，并与定制方案InsightFace, HugeCTR和Megatron-LM进行对比。

个人简介：2008年于清华大学计算机系获得工学博士学位（优秀博士学位论文奖），原微软亚洲研究院主管研究员（院长特别奖获得者），于2017年创立北京一流科技有限公司，致力于打造新一代深度学习框架OneFlow。兼任之江实验室天枢开源开放平台架构师，北京智源人工智能研究院大模型技术委员会委员。

听众获益：

1.了解深度学习框架的核心挑战和发展前沿；

2.了解训练大规模预训练模型背后的技术；

3.了解分布式深度学习框架最领先的解决方案。

赵一帆

快手算法专家