华为盘古大模型全布局揭秘，AI for Industries的落地路径

2023-07-07 20:43:41 来源：钛媒体APP 小 中

欧洲中期天气预报中心（ECMWF）是全球权威的国际性天气预报研究和业务机构，该中心于1979年6月首次做出了实时的中期天气预报，现在，华为盘古气象大模型，为世界展现了另一种可能。

盘古气象大模型研发团队核心成员对钛媒体App表示，之前大家不相信AI方法能够实现更高的精度和更好的效率，ECMWF也在探索用AI预测天气，但是规划的时间表以十年计算，他们认为，AI方法存在很多现阶段难以突破的问题。

(资料图)

例如分辨率不够，省级和区级的天气预报，数据量相差很大，如果要做到更高的分辨率，数据量要达到上千TB，这比其他AI应用数据量要大得多，大数据意味着消耗大算力，这部分问题能够通过堆硬件、工程化解决。

再如现有的 AI 预报方法精度大部分显著低于数值预报方法，这也是很多人都不相信AI能够超过数值预测方法的主要原因，现有的 AI 气象预报模型都是基于 2D 神经网络，无法很好地处理不均匀的 3D 气象数据，同时AI 方法缺少数学物理机理约束，因此在迭代过程中会不断积累迭代误差。

华为云提出了3D Earth-Specific Transformer方法，在每一个视觉transformer模块中新引入和纬度、高度相关的绝对位置编码，从而更好地处理复杂的3D气象数据，并且拆分各个不同的时间段模型分散训练，减少单个模型迭代的次数，从而减少迭代误差。

“我们不仅做出来一个精度超过欧洲气象中心数据预报的模型，而且我们迅速让这个模型落地，其中克服了很多问题，让气象专家实测验证模型结果，他们没有理由否认AI方法的先进性。”如上人士表示。

气象大模型的打造成为一个实证，华为云不仅能有意愿打造行业大模型，并且有将其付诸实践的工具和能力。对应华为盘古大模型，L0是科学计算基础大模型，L1是气象行业大模型，L2就是气象预测等应用。

大模型回答了“一个模型能否解决通用问题”以及“模型本身是否有价值”的关键问题，但是要想真正构建完整的业务链条，还需要从商业化层面跟进，为了加速和简化行业大模型从开发到落地，华为云提供了盘古大模型工程化平台，覆盖了数据处理、模型训练和应用开发三大环节。

在数据平台方面，相比传统标注平台（能提供的例如自动数据清洗等功能），华为云数据工程平台专门为SFT训练提供了基于模板的Prompt在线辅助撰写功能，为RLHF训练提供了多人Rank在线标注和任务分拨功能；对比离线进行这两种任务，实测效率可提升3倍。

有了高质量的数据如何产生高质量的模型，还需要确保模型开发的过程准确无误，在模型训练方面，大模型开发套件提供了自监督预训练，有监督SFT训练，强化学习训练3种工作流，覆盖了从数据集创建，超参配置到模型训练、评估、部署的全流程，凝结了大模型专家的实践经验，把复杂的大模型开发，流程化，标准化，简单化，帮助行业用户一键启动，一站式开发。

之后，开发好的盘古大模型要想在行业发挥作用，离不开下游应用，在模型开发方面，华为云提供盘古应用开发套件，将传统软件工程与大模型相结合，提供多种API和工具可调用，支撑企业分钟级构建大模型原生应用。

例如，基于盘古语言大模型和视觉大模型的基础能力，以及盘古大模型工程化平台，在学习了超过20万条政务数据，包括政策文件、政务百科等公开政务知识，以及12345热线场景等专有政务知识后，深圳市福田区政府打造了具备丰富法律法规、办事流程等行业知识的福田政务大模型。

据了解，参照GPT-3完成一个千亿行业模型端到端开发，基于盘古大模型工程化平台，开发大模型从过去需要5个月缩短到现在1个月，整体速度提升5倍。

AI世界的另一极

人工智能已经成为国家战略竞争焦点，AGI（通用人工智能）可能改变甚至颠覆世界运转的原有逻辑，国家层面强调：“人工智能是引领这一轮科技革命和产业变革的战略性技术，具有溢出带动性很强的‘头雁’效应。”

人工智能与实体经济的结合，行业大模型扮演着重要作用，行业重塑、技术扎根、开放同飞，是华为云的差异化优势。

行业大模型以行业数据和know-how为重中之重，华为云AI的优势在于，在各行业已有数百个项目，基于对行业的深入理解，沉淀行业核心know-how，华为云盘古大模型能够更好地落地在行业客户的主业务场景。

盘古大模型已经学习10多个行业公开数据，涵盖金融、政务、气象、医疗、健康、互联网、教育、汽车、零售等。华为云和伙伴还联合打造了工业、供热、政务、煤矿、教育、电力、公路7大行业aPaaS，为盘古大模型了构建最深厚的行业积累。

墙高基下，虽得必失，人工智能产业需要从最底层夯实基础，张平安提到，其他人都可以依赖行业最成熟的AI算力和AI生态，但是华为只能依靠自己的AI根技术。

中国工程院院士郑纬民此前表示，大模型是新型关键基础设施的底座之一，大模型的竞争也是国家科技战略的竞争，中国一定要布局全栈自主创新的大模型产品，同时要构建国产化算力，也要解决算力能耗与国家“双碳”战略的平衡。

为此，华为构建了最深的AI堆栈根技术，在最底层构建了以鲲鹏和昇腾为基础的AI算力云平台，构建了昇腾的计算引擎CANN、AI框架MindSpore，以及AI开发平台ModelArts，为大模型开发和运行提供分布式并行加速，算子和编译优化，集群级通信优化等关键能力。

“现在基于华为的AI堆栈，我们的大模型训练效能不仅不落后，在大模型场景下我们的训练效能是业界主流GPU的1.1倍”，他说。

与此同时，华为云提供了易用可靠的大模型工具套件、汇聚海量多行业场景API的开天aPaaS，以及包含丰富优质课程和技术认证的大模型专属社区，帮助开发者一站式完成入门到专家。

华为也积累了高密度的大模型人才：盘古团队中大概50%以上是博士，还有很多名“天才少年”，上述气象大模型的核心成员便是之一，大模型在训练过程中，会遭遇各种各样的困难和挑战，一个技术过硬、敢于创新的团队，才是大模型能够练成的核心保障，也是华为对外输出大模型能力的依托。

在安全方面，华为云提供公有云、混合云、大模型专区三种模式，保障安全部署；建立长效机制，确保大模型安全合规：包括数据集来源和使用合规、数据全生命周期安全、构建完整的数据标注以及审核机制、构建模型合规使用政策、确保模型使用边界。

AI大模型时代，面临自下而上自主创新的宏大命题，华为正在打造世界AI另一极。

关键词：

资讯

关注

华为盘古大模型全布局揭秘，AI for Industries的落地路径

2023-07-07 20:43:41 来源：钛媒体APP 小 中

相关新闻

资讯

关注

2023-07-07 20:43:41 来源：钛媒体APP 小中