News Center

九章云极DataCanvas推出算力包,开启普惠算力新时代

发布日期:2024.09.29信息来源:数智前线

9月24日,九章云极DataCanvas在京发布全新算力产品——算力包,在当下算力分布不均衡的情况下,以更经济、更好用、高质量、高效率的一体化算力服务模式,为用户的“最后一公里”提供支撑,用科技创新实现算力普惠,加速广大企业的数智跃迁。

01 以“度”为单位的算力资源

九章云极DataCanvas公司董事长方磊博士发布了“算力包”产品。方磊说,当前业界面临的结构性失衡问题尤为突出。算力供给的相对固定与算力需求的高度灵活性之间的矛盾,是算力产业快速发展的隐形阻碍。而“技术创新”正是破局关键。

“算力包”提供“1度算力”的算力能力标准化参考:以“度”为单位进行计费,让用户能够像使用水、电一样,便捷地获取其所需的算力资源。这种“按需购买、即买即用”的算力消费模式,打破了传统算力消费的“裸金属”桎梏,让算力资源成为便捷、易用的普惠资源。满足长尾灵活需求、成本收益最优化、低门槛的高性能工具以及加速AI应用繁荣发展等特性。

九章云极DataCanvas联合创始人暨CTO尚明栋告诉数智前线,传统裸金属的模式根据时长收费,往往通过以租代售的方式,批量提供算力,,这样的方式更适合头部企业的应用模式。而大多数的腰部客户使用算力,面临着预算有限,门槛较高的问题。

而当下,即便像OpenAI这样的企业,GPU的平均使用率也只达到58%。在泛互联网、游戏、教育、医疗等行业中,大量企业如果租用裸金属服务器,在一个完整训推周期中,GPU的平均使用不足20%。这意味着很大比例的算力资源在这样的租用模式中被浪费了。

“以长租车和打车的对比为例,长期租车在租借的时间段内,无论是否使用都要支付相对应的租金,而打车的模式则是在人们有需要的时候,再使用车并支付费用。”尚明栋打了一个比方。

而九章云极DataCanvas推出的算力包,是按“算量”来收费,客户什么时候用,就什么时候计费;不用的时候,就像一个储值卡一样,这就帮助客户避免了算力浪费。在一些早期用户的使用中,验证了客户完成相同任务时,这样的模式,比传统裸金属方式更经济。

02 用户需要的不只是算力

支撑算力包的是Alaya NeW智算操作系统,这是九章云极DataCanvas在今年4月推出的。这一智算操作系统向下纳管智算中心大规模异构算力,向上提供开箱即用的模型工具链,涵盖从模型训练、微调、推理、智能化应用的全链路服务。

“对于客户而言,最后一公里并不是大模型,而是能够进行人机交互的应用。”尚明栋解释说,尤其在大模型时代,应用很多是以智能体方式,这是基于大模型的AI原生应用,需要在大模型或垂类模型之上,为用户提供相关的工具,帮用户快速开发出智能体。

“我们提供了一套面向生成垂类大模型和行业智能体的完整工具包。”尚明栋介绍。该平台支持市面上主流的开源模型,包括Lama3、通义千问、Baichuan等,同时也有九章云极DataCanvas的7B和13B的Alaya开源大模型。

方磊博士称,未来的算力服务,不仅仅是计算芯片的供给,也是从芯片到算力的“软件定义算力”的过程,更是高效AI工具落地大模型能力的叠加聚合。

有了这样的平台,企业可以快速去训练垂类模型。比如,原先训练一个零件智能质检CV类模型是比较繁琐的。现在基于Alaya NeW上多模态的基模型,客户只需要几千张瑕疵的照片,就可以训练出一个质检垂类大模型。

现在,市场上不少公司在做类似的平台。“能够去支撑生态最后一公里,在多快好省的方式,把能力、服务构建起来,离不开过去10年长时间的积累。”尚明栋进一步介绍,这里需要大量的技术积累和工程化积累。

伴随算力包产品的发布,九章云极DataCanvas这家成立于2013年的企业,定位为人工智能基础设施提供商,即用软件加硬件的方式,开启服务的新征程。


咨询