华为云尤鹏：盘古大模型，为行业而生，聚众智同行

8月30日，以“开放同飞，共赢行业AI新时代”为主题的华为云盘古大模型主题论坛在北京召开。华为云EI服务产品部部长尤鹏在《盘古大模型，为行业而生》的演讲中就AI大模型发展趋势、技术创新实践、产业发展机会展开深入交流分享。尤鹏表示，大模型正在重塑千行百业，华为云将充分发挥大模型领域的技术积累和工程能力优势，让客户、伙伴快速构建起盘古大模型的开发和应用能力，让盘古大模型成为每个企业实现战略转型和智能升级的核心动力。

华为云EI服务产品部部长尤鹏发表主题演讲

盘古大模型三层架构分层解耦，天然生态友好

随着大模型逐渐加速行业智能化的转型，更多行业的核心业务系统也在被大模型能力渗透，华为云始终践行AI for Industries，打造盘古大模型，使能千行百业智能化升级。

尤鹏介绍，盘古大模型提供5个基础大模型+N个行业大模型+X个场景模型的三层解耦架构，天然具备良好的生态开放性。基于分层解耦的架构，盘古大模型提供调用集成和定制联创两种应用模式，可以快速适配，满足多种场景业务诉求。在调用集成模式下，华为云L0盘古基础大模型提供100多个能力集，各项能力集互相解耦，可以通过API直接调用。企业用户可以根据业务场景需要，选择所需的能力集，使用盘古大模型工作流，快速开发行业场景应用。在定制联创模式下，企业可以在L0或L1盘古大模型的基础上，通过对自有数据的二次训练，就可以快速训练出自己专属的行业大模型。同时，根据客户不同的数据安全与合规诉求，盘古大模型还提供了公有云、大模型云专区、混合云多样化的部署形态。

其次，华为云昇腾AI云服务为大模型的训练提供澎湃的、即开即用的算力，为客户、伙伴的大模型开发部署及运行，提供性能领先、可持续的AI算力底座。

此外，盘古大模型在行业的落地，离不开繁荣的生态。华为云将大力投入，携手各行各业的客户伙伴，共同构建全域协同生态体系，打造丰富的行业场景化解决方案，这些方案将更加专注于某个具体的应用场景或特定业务，为用户提供开箱即用的模型服务。

盘古大模型工程套件，5倍速开发行业大模型

尤鹏表示，为了应对通用大模型落地行业存在的挑战，华为云提供了大模型工程套件，包括数据工程、模型开发和应用开发三大套件。基于盘古大模型工程套件，完成一个千亿行业模型端到端的开发，从过去需要5个月缩短到现在1个月，整体速度提升5倍。

在数据工程套件方面，相比传统标注平台，盘古大模型的数据工程套件专门为SFT训练提供了基于模板的Prompt在线辅助撰写功能，为RLHF训练提供了多人Rank在线标注和任务分拨功能。与离线对比，这两种任务实测效率可提升3倍。同时针对数据清洗，数据工程套件内置了50+数据清洗算子，能够覆盖90%以上的清洗场景，大幅提升清洗性能。

在模型开发套件方面，大模型开发套件提供了自监督训练，有监督微调、强化学习训练3种工作流，覆盖了从超参配置到模型训练、评测、管理、部署的全流程。凝结了大模型专家的实践经验，把复杂的大模型开发，流程化、标准化、简单化，帮助行业用户一键启动，一站式开发专属于本行业的大模型，同时通过模型量化和多种推理加速手段提升推理吞吐量，吞吐量可提升10倍，大幅优化模型推理性能。

在应用开发套件方面，盘古应用开发套件将传统软件工程与大模型相结合，提供灵活的基于SDK的开发方式，2行代码即可完成大模型接入，5分钟完成大模型应用开发，支撑企业分钟级构建大模型原生应用。作为业内首个同时提供Python、Java版本SDK的大模型应用开发套件，支持更广泛、更全面的大模型应用开发能力。盘古应用开发套件良好地兼容开源生态，实现“一切皆可编排”，结合可视化的编排服务，帮助用户在大模型上更好地使用各种工具和技能。

共建盘古大模型全域协同生态，共享行业AI新机遇

大模型的创新不仅仅是模型自身的创新以及AI各项根技术的创新，在算力、算法、平台、应用、服务等方面也需要全链条生态伙伴、客户的参与。面向软件伙伴、服务伙伴以及数字化转型与系统集成伙伴三大主要伙伴，华为云开放了行业大模型、软件解决方案、插件集成、数字化转型咨询、数据生态等全方位的生态合作路径。

面向软件伙伴，华为云开放了三大生态合作路径，包括模型联创、解决方案构建和插件集成。与有数据沉淀、行业经验的伙伴构建行业模型、场景模型，打造智能底座；与有行业实践经验、大模型集成和开发技术的伙伴，一起构建面向行业的细分场景模型，提供可复制的软件解决方案；协同企业服务软件、工具软件伙伴，用丰富的插件完善盘古大模型的技能集，拓宽大模型的能力边界。

面向服务伙伴，华为云开放项目机会，通过赋能、认证、技术支持、激励等各种权益，帮助伙伴快速构建业务模式，获得可持续性的快速发展。在盘古大模型落地的最后一公里提供优质服务，实现大模型商业闭环。

面向数字化转型咨询与系统集成伙伴，华为云与具备系统资质的伙伴进行BP互锁和Offering共建，深耕客户，为客户提供盘古大模型服务相关的咨询与系统集成服务的合作伙伴。

尤鹏最后表示，在大模型正在重塑千行百业的过程中，华为云欢迎更多的行业客户与伙伴加入盘古大模型，共创生态圈，共同创新，共享价值与机遇。