儿童会患白癜风 https://yiyuan.99.com.cn/bjzkbdfyy/bdfrq/283788.html

讲师介绍

刘文志（花名风辰），华为诺亚AI系统工程实验室主任，异构并行计算专家，毕业于中国科学院研究生院，闻名于并行计算江湖，尤善异构并行计算、AI系统工程和大规模集群计算，涉及图像处理、计算机视觉、自然语言处理、推荐系统、科学计算和石油勘探。现华为诺亚AI系统工程实验室主任，前商汤集团hpc和汽车业务创建人，曾任英伟达并行计算工程师、百度在线高级研发工程师。著有《并行算法设计与性能优化》、《并行编程方法与优化实践》、《科学计算与企业级应用并行优化》和《OpenCL异构并行计算》四本并行计算领域的专著。创建了ppl、parrots、bolt和vega等AI著名项目。

业务背景随着5G时代的到来，电信流量呈爆发式的增长，基站流量的预测对站点的扩容和站点的规划至关重要。根据基站流量的精准预测结果，对于超负荷流量的基站可以及时发现并进行扩容，对于某一段时间段流量使用较小的基站，可以智能关站来降低资源的损耗。但是基站流量预测是一个老大难的问题，针对这一挑战，我们近期尝试深度学习的方法来解决。传统的流量预测模型使用时间序列分析的模型如ARIMA，没有考虑流量的空间相关性信息（见图）。Vega提供一种多信息融合的电信网络流量预测的算法，将基站网络建模为图结构，图的节点表示基站，边刻画基站之间的关联，每个基站的流量作为节点属性特征输入给网络模型进行训练。此外我们可以通过架构搜索的方式动态设计网络结构，使得网络结构能够完美匹配当前的业务场景，使用超参优化对训练参数进行自动调优，从而减少人工的干预和成本。本文将介绍如何使用vega自动机器学习（AutoML）系统解决电信领域的基站流量预测问题。图基站流量时序图Vega介绍Vega是由华为诺亚方舟实验室开发的面向于深度学习的AutoML工具链（框架流程图见图），有如下主要特点：

完备的AutoML能力：涵盖HPO(超参优化,HyperparameterOptimization)、Data-Augmentation、NAS(网络架构搜索，NetworkArchitectureSearch)、ModelCompression、FullyTrain等关键功能，同时这些功能自身都是高度解耦的，可以根据需要进行配置，构造完整的pipeline。

业界标杆的自研算法：提供了诺亚方舟实验室自研的业界标杆(Benchmark)算法，并提供ModelZoo下载SOTA(State-of-the-art)模型。

高并发模型训练能力：提供高性能Trainer，加速模型训练和评估。

细粒度SearchSpace：可以自由定义网络搜索空间，提供了丰富的网络架构参数供搜索空间使用，可同时搜索网络架构参数和模型训练超参，并且该搜索空间可以同时适用于Pytorch、TensorFlow和MindSpore。

多Backend支持：支持PyTorch(GPU),TensorFlow(GPU,Ascend90),MindSpore(Ascend90).。

支持昇腾平台：支持在Ascend90搜索和训练，支持在Ascend30上模型评估。

图Vega整体架构图

使用Vega解决基站流量预测问题

我们先介绍下Vega中时空预测算法STGCN算法。该算法使用GRU对时间前后的依赖关系进行建模，同时通过GCN网络从三个视角捕获对象之间的关系：空间相似性、功能相似性和最近趋势相似性，网络结构见图3。图3STGCN网络结构

更详细的STGCN算法说明，参考论文Spatio-TemporalHybridGraphConvolutionalNetworkforTrafficForecastinginTele