人工智能大数据,工作效率生产力
Ctrl + D 收藏本站,更多好用AI工具
当前位置:首页 » AI资讯

华为云尤鹏:盘古大模型,为行业而生,聚众智同行

2023-12-04 68

8月30日,以“开放同飞,共赢行业AI新时代”为主题的华为云盘古大模型主题论坛在北京召开。华为云EI服务产品部部长尤鹏在《盘古大模型,为行业而生》的演讲中就AI大模型发展趋势、技术创新实践、产业发展机会展开深入交流分享。尤鹏表示,大模型正在重塑千行百业,华为云将充分发挥大模型领域的技术积累和工程能力优势,让客户、伙伴快速构建起盘古大模型的开发和应用能力,让盘古大模型成为每个企业实现战略转型和智能升级的核心动力。

华为云尤鹏:盘古大模型,为行业而生,聚众智同行插图

华为云EI服务产品部部长尤鹏发表主题演讲

盘古大模型三层架构分层解耦,天然生态友好

随着大模型逐渐加速行业智能化的转型,更多行业的核心业务系统也在被大模型能力渗透,华为云始终践行AI for Industries,打造盘古大模型,使能千行百业智能化升级。

尤鹏介绍,盘古大模型提供5个基础大模型+N个行业大模型+X个场景模型的三层解耦架构,天然具备良好的生态开放性。基于分层解耦的架构,盘古大模型提供调用集成和定制联创两种应用模式,可以快速适配,满足多种场景业务诉求。在调用集成模式下,华为云L0盘古基础大模型提供100多个能力集,各项能力集互相解耦,可以通过API直接调用。企业用户可以根据业务场景需要,选择所需的能力集,使用盘古大模型工作流,快速开发行业场景应用。在定制联创模式下,企业可以在L0或L1盘古大模型的基础上,通过对自有数据的二次训练,就可以快速训练出自己专属的行业大模型。同时,根据客户不同的数据安全与合规诉求,盘古大模型还提供了公有云、大模型云专区、混合云多样化的部署形态。

其次,华为云昇腾AI云服务为大模型的训练提供澎湃的、即开即用的算力,为客户、伙伴的大模型开发部署及运行,提供性能领先、可持续的AI算力底座。

此外,盘古大模型在行业的落地,离不开繁荣的生态。华为云将大力投入,携手各行各业的客户伙伴,共同构建全域协同生态体系,打造丰富的行业场景化解决方案,这些方案将更加专注于某个具体的应用场景或特定业务,为用户提供开箱即用的模型服务。

盘古大模型工程套件5倍速开发行业大模型

尤鹏表示,为了应对通用大模型落地行业存在的挑战,华为云提供了大模型工程套件,包括数据工程、模型开发和应用开发三大套件。基于盘古大模型工程套件,完成一个千亿行业模型端到端的开发,从过去需要5个月缩短到现在1个月,整体速度提升5倍。

在数据工程套件方面,相比传统标注平台,盘古大模型的数据工程套件专门为SFT训练提供了基于模板的Prompt在线辅助撰写功能,为RLHF训练提供了多人Rank在线标注和任务分拨功能。与离线对比,这两种任务实测效率可提升3倍。同时针对数据清洗,数据工程套件内置了50+数据清洗算子,能够覆盖90%以上的清洗场景,大幅提升清洗性能。

在模型开发套件方面,大模型开发套件提供了自监督训练,有监督微调、强化学习训练3种工作流,覆盖了从超参配置到模型训练、评测、管理、部署的全流程。凝结了大模型专家的实践经验,把复杂的大模型开发,流程化、标准化、简单化,帮助行业用户一键启动,一站式开发专属于本行业的大模型,同时通过模型量化和多种推理加速手段提升推理吞吐量,吞吐量可提升10倍,大幅优化模型推理性能。

在应用开发套件方面,盘古应用开发套件将传统软件工程与大模型相结合,提供灵活的基于SDK的开发方式,2行代码即可完成大模型接入,5分钟完成大模型应用开发,支撑企业分钟级构建大模型原生应用。作为业内首个同时提供Python、Java版本SDK的大模型应用开发套件,支持更广泛、更全面的大模型应用开发能力。盘古应用开发套件良好地兼容开源生态,实现“一切皆可编排”,结合可视化的编排服务,帮助用户在大模型上更好地使用各种工具和技能。

共建盘古大模型全域协同生态,共享行业AI新机遇

大模型的创新不仅仅是模型自身的创新以及AI各项根技术的创新,在算力、算法、平台、应用、服务等方面也需要全链条生态伙伴、客户的参与。面向软件伙伴、服务伙伴以及数字化转型与系统集成伙伴三大主要伙伴,华为云开放了行业大模型、软件解决方案、插件集成、数字化转型咨询、数据生态等全方位的生态合作路径。

面向软件伙伴,华为云开放了三大生态合作路径,包括模型联创、解决方案构建和插件集成。与有数据沉淀、行业经验的伙伴构建行业模型、场景模型,打造智能底座;与有行业实践经验、大模型集成和开发技术的伙伴,一起构建面向行业的细分场景模型,提供可复制的软件解决方案;协同企业服务软件、工具软件伙伴,用丰富的插件完善盘古大模型的技能集,拓宽大模型的能力边界。

面向服务伙伴,华为云开放项目机会,通过赋能、认证、技术支持、激励等各种权益,帮助伙伴快速构建业务模式,获得可持续性的快速发展。在盘古大模型落地的最后一公里提供优质服务,实现大模型商业闭环。

面向数字化转型咨询与系统集成伙伴,华为云与具备系统资质的伙伴进行BP互锁和Offering共建,深耕客户,为客户提供盘古大模型服务相关的咨询与系统集成服务的合作伙伴。

尤鹏最后表示,在大模型正在重塑千行百业的过程中,华为云欢迎更多的行业客户与伙伴加入盘古大模型,共创生态圈,共同创新,共享价值与机遇。

举报/反馈

原文链接:https://baijiahao.baidu.com/s?id=1775642367942319895&wfr=spider&for=pc

相关推荐

阅读榜

点击榜

hellenandjeckett@outlook.com

加入QQ群:849112589

回顶部