国产算力如何前进?首个国产算力PoC平台有新思路

数字经济时代,算力为王。

数字经济的蓬勃发展,也让算力成为继热力、电力之后新的关键生产力,在拉动经济增长和高质量发展中扮演着极为关键的角色。

与此同时,国产算力也处于绝佳的产业发展期。大模型等人工智能技术的崛起,不仅实打实带来巨大的算力需求,更推动国产算力产业加速演进。但国产算力当前依然遇到不少挑战,需求碎片化,供给侧与需求侧缺乏沟通和协作,以及配套生态有待成长,商业闭环有待形成,都让国产算力距离“好用”尚有一段距离。

如何真正从市场侧来破局?从市场化的维度来推动国产算力加速前进?如何加速推动从硬件、算法、AI中台到行业应用的国产算力生态体系?近日,北京电子数智科技有限责任公司(以下简称:北电数智)带来它的答案。

由北电数智打造的首个国产算力PoC平台正式对外开放,并落地北京数字经济算力中心。其依托北电数智先进计算迭代验证平台(即前进·AI异构计算平台),为国产算力集群提供垂类场景评测、适配与验证服务的同时,为金融、政务、工业、医疗、具身智能、交通等多领域AI应用开发企业垂类场景应用开发提供多种算力适配试验空间,实现从底层算力到业务场景驱动的双向链路打通。

建平台、搭桥梁、通需求和促应用,让国产算力从“可用”走向“好用”

沙利文头豹最新《2024年中国行业大模型市场报告》显示,中国行业大模型市场2023年规模达105亿元,预计2024年达165亿元,同比增长57%,2028年有望达624亿元,行业智能化转型需求是市场爆发性增长的主要驱动力。

的确,从“数据要素X”三年行动计划到“人工智能+”首次写入政府工作报告,人工智能+数据要素的组合已成为各大行业转型升级的重要抓手,大模型与行业场景加速融合也成为大势所趋。

因此,大模型带来的爆发性算力需求,为国产算力产业发展带来前所未有的契机,对于国产算力要求不断提升。最新《算力基础设施高质量发展行动计划》也明确指出,需进一步推动我国算力产业的高质量发展,以满足经济转型的提“智”增“效”的新要求。

近年来,国产算力产业发展迅猛,各类国产算力芯片如雨后春笋般涌现,一方面的确在市场层面带来巨大的活力,但也带来诸多诟病,像大部分国产算力仅仅停留在“可用”层面,离大规模商业化应用依然有着较长的路要走。

北电数智CMO、战略与市场负责人杨震表示,目前大部分国产芯片在不同指标上表现都各有一定优势,但目前还未形成完善的商业闭环,在产品力、生态、需求适配等方面还存在大量工作需要做。

例如,之前市场中缺乏足够全面的应用场景展示和切实有效的评测机制,以至于作为算力需求侧的用户,在自身应用层面对于国产算力的认知还不够清晰。而传统以指数型评测指标为主的算力评测方案,仅能呈现国产芯片的理论参数,无法展现国产芯片在不同业务场景下的性能指标,使得算力使用方在购买前无法验证国产算力能否满足自身业务需要,对于是否选用更存在诸多顾虑。

此外,另一大现实情况就是,随着AI应用井喷,因场景需求、算力资源限制及更新迭代等综合影响,多元异构算力正成为大规模训练的必然选择。但对于国内诸多数据中心来讲,多芯片混用也带来不同芯片间软件不兼容、算力难打通、开发工具链统一管理难度大等难题。

此时此刻,国产算力需要加速前进,从底层算力到业务场景逐步形成商业闭环,从“可用”全面走向“好用”。为此,北电数智的思路是建平台、搭桥梁、通需求和促应用。通过国产算力PoC平台以及“以评促用”的创新模式,北电数智希望帮助用户侧与国产AI芯片等供给侧各类企业进行对接,找到适合不同场景的“芯片+软件”最佳组合,以高效、灵活且极具性价比的算力服务加速国产算力的场景化应用和商业化落地,构建繁荣的国产异构算力应用生态。

“国内存在众多的大模型企业和30多家AI芯片企业,在算力、算法和数据层都形成烟囱林立的格局。北电数智希望将每一层的烟囱打开,促进国产算力发展,加速形成商业闭环。”杨震如是说。

双向打通算力和场景,助力国产芯片加速前进

与其他成熟的算力体系比,国产算力与场景的双向打通绝非易事。

这首先需要在数据中心等基础设施层面作为底座,为国产算力与应用场景的打通提供集群测试环境。北电数智的优势就在于依托北京数字经济算力中心。作为当下国内前沿的智算中心集群,北京数字经济算力中心由北电数智统一规划建设与设计运营,不仅在算力规模、地理位置等方面具有天然优势,而且PUE值达到1.146,更是国内人工智能产业的孵化基地,可为国产算力与应用场景提供良好的孵化基地。

另外,国产AI芯片企业现阶段普遍规模相对较小,资金并不充裕,在芯片验证上成本高昂,且与实际应用存在较大的商业鸿沟。

为此,北电数智的国产算力PoC平台的解决思路是依托先进计算迭代验证平台,通过不同AI场景下展示国产芯片的实际能力和性能表现,让大模型提供方和AI应用开发企业直观了解不同国产芯片的最佳应用场景;同时,为AI应用企业提供针对不同垂类场景的国产芯片性能评测验证服务,加速国产算力芯片在千行百业中的广泛渗透与应用。

杨震表示,国内绝大部分GPU的参数都是基于单片实验室数据,缺乏集群状态下的卡间互联、算力节点互联、集群加速比与衰减比等接近真实业务场景的数据,“让芯片厂商找到展示自己的平台,也找到迭代前进的方向,这样可以把长板做得更长,把短板补短。同时,对于很多有信创需求的行业用户,也能够知道在真实业务场景下各家芯片的表现,从而勇于使用国产算力。”

据悉,北京数字经济算力中心目前已成功完成对包括摩尔线程、寒武纪等在内十余家知名国产算力芯片的部署测试。北电数智也正在面向影视、金融、政务、工业等多个垂类场景开展测试验证服务,为不同行业的垂类模型落地树立标杆案例,并持续探寻国产算力和行业、模型、应用的最佳适配组合。

以影视行业为例,北电数智正在面向影视文化产业的AIGC视听解决方案六艺多模态影视文化大模型,基于国产算力PoC平台,深度联合10余家相关AI明星企业,打造人物AI生成代理、剧情创作辅助工具等超级应用,助力推动影视及文化产业的数字化与智能化转型升级。

更加难得的是,北电数智为了做好算力、AI框架、基础模型与应用的全面适配,在算子补齐、模型适配、算法加速、数据收集与优化、性能提升等方面做了大量工作,为推动国产芯片的提升做了大量有价值的工作。“现在,通过软件层的加速,国产芯片性能普遍能够提升2-3倍,吞吐量提升7-8倍。”

显然,国产算力与应用场景双向打通的意义重大。首个国产算力PoC平台的开放,是对北京数字经济算力中心开放与多元生态引领能力和前进·AI异构计算平台适配验证能力的充分印证,在芯片能力展示、多元场景验证和评估标准上开创了多项先河,为后续的国产算力的优质供给、商业化落地等打下了牢固基础。

综合观察,管理学巨擘拉姆·查兰认为,结构性不确定性源自于外部环境的根本性变化,它会彻底改变产业格局,并带来根本性影响。显然,由于日趋复杂的外部环境和变化多端的市场,中国算力产业正迎来结构性不确定性带来的巨大变化。北电数智首个国产算力PoC平台正式对外开放意义重大,有利于国产算力应对市场的结构性不确定性,并形成商业落地的闭环和长期健康发展,从而为中国数字经济发展注入源源不断的数字动力。

分享到: 更多

为您推荐

发表评论

您的电子邮箱地址不会被公开。 必填项已用*标注