法妞问答

为您提供最新、最全的新闻资讯

科技

法妞问答2024年11月15日发布: 大模型催生算力需求爆发式增长!训推一体机将迎应用元年 多家上市公司已布局央视还有没有必要《星光大道》?

作者:Speed | 责任编辑:Admin

本文点赞(18) | 阅读:(76)

【新澳资料免费精准期期准】

【新澳资料免费精准网址是】

【2023资料免费大全】
【2024新奥门今晚资料】
【新奥资料免费精准期期准】
【7777788888新奥门正版】
【2024新澳正版资料】
【新澳好彩免费资料大全最新版本】
【新澳精准资料网址】
【2024年正版资料免费大全挂牌】

《科创板日报》11月24日讯(记者 黄心怡) 随着ChatGPT带来的大模型热潮成为科技行业的C位担当,市场上对算力需求也面临爆发式增长。有AI产业链人士对《科创板日报》表示,百度、腾讯、讯飞等纷纷四处搜罗算力资源,但要给这些头部企业供应算力,依然较为紧张。

云从科技、云天励飞、中软国际、软通动力等上市公司则纷纷加强布局与算力相关的硬件产品,为增加算力供应提供支持。

其中,训推一体机成为了资本市场的焦点之一。云从科技相关负责人对《科创板日报》记者表示,目前训推一体机的价格大约在三四百万的范围内。在中档旗舰训练部分,报价大致在一百万以下。

总体而言,从今年试点落地到明年,我们预计将迎来市场爆发。但需要注意的是,市场的爆发也伴随一些风险因素,其中一个关键点是要确保算力的生产跟得上市场需求。”

▍训推一体机的价格处于百万级别

今年7月,华为携手伙伴联合发布昇腾AI大模型训推一体化解决方案,加速大模型在各行业应用落地,其中,云从科技、云天励飞、科大讯飞、智谱AI、达观数据、面壁智能等位列合作伙伴。

云从科技相关负责人告诉《科创板日报》记者,与华为的合作的方式是共同打造产品。华为的代工厂会将芯片与云从的大模型集成,然后共同推广给客户。云从在这个合作中不仅卖产品,还会提供其他应用开发相关的服务。整个市场空间不同于以往的分成模式,而是通过联合推广的方式,共同打造产品,并由华为各地销售团队一起推广。

“云从在过去的客户体系中有自己的优势,特别是在To B领域,包括金融、交通、治理等传统领域,以及最近拓展的制造和能源服务领域。通过结合云从的行业特点和华为的To B面向客户的深耕经验,共同推广和销售生成一体机。整个市场上,合作方各自发挥优势,联合推动产品上市,不存在所谓的分成模式。”

据了解,云从与华为合作的一体机产品主要分为两类,包括“训推一体机”和面向推理需求的一体机。

“对于一体机,至少分为三个不同的价格档次。这仅仅是针对单台设备,不包括客户有其他多台设备或集群的情况。关于训推一体机,我们的价格大致处于百万级别,高端机大约在三四百万元的范围内。由于不同客户的需求和数据负载不同,因此在配置和报价方面也可能存在差异:在中档旗舰训练部分,报价大致在一百万元以下;与其他一些厂商的一体机相比,价格更低的产品,报价大约在30万元左右。”

在一些边缘场景中,有时可能并不需要GPU,而是采用被称之为"盒子"的设备,“这类需求价格更为经济,可能更为广泛,会涉及到一系列的产品,通过我们的生态系统,提供鼠标、一体机、盒子等一整套的产品,价格在几万块钱的范围内。我们会根据不同的层级在市场上展开相应的布局。”

对于后续订单情况,云从科技方面称,第四季度已经有一些在谈订单。“而明年的整体业务体量,因为当前是与伙伴一起在推的,短期内还没有明确的放量,但整个市场空间还是比较乐观的。“

▍明年有望迎来市场爆发 产能仍受限

对于整体的市场需求,云从科技相关负责人认为,一方面对于国产信创需求的增加和对合规、私有化部署的重视,二是对数据要素和基于大模型的应用侧变化的重视。明年被强调为应用的元年,预计将涌现更多的应用场景,市场规模庞大,尤其在IT部分的升级和场景需求明确的私有化部署方面,将带来巨大的市场机会。”

在市场空间方面,云从科技计划在整个市场中占据至少10%以上的份额,并通过与华为的渠道合作来实现。“具体的数字和量化数据还在与伙伴一起深入研究和细分,将在未来明确。总体而言,从今年开始试点落地到明年,我们预计将迎来市场爆发。但需要注意的是,市场的爆发也伴随风险因素,其中一个关键点是要确保算力的生产跟得上市场需求。”

目前,云从科技正与华为探讨产能问题,以确保能够满足市场需求。“在推广方面,我们首先会完成典型新客户的落地,然后从总部向下逐级推广至各个分支机构。以电力行业为例,涉及到各个省份的网公司、电厂、石油化工企业等,总计超过5000家。通过这样的场景推广,我们有望覆盖更广泛的市场份额。”

除了云从科技外,中软国际、云天励飞等也都纷纷入局算力一体化产品。中软国际发布公告称,与华鲲振宇签署全面战略合作协议,在大模型应用领域,双方将面向金融、制造等行业,联合推出基于模型实验室的昇腾训推一体机产品,提供开箱即用服务;面向政府市场,联合推出JointPilot“四问(问数、问视、问策、问服)”系列大模型一体机。

云天励飞方面对《科创板日报》记者表示,公司于2015年起就与华为形成合作关系,作为昇腾万里伙伴计划的成员,前期已基于昇腾AI基础软硬件平台,推出一系列产品及解决方案,包括动态人像系统深目,多维大数据分析系统深海,视频结构化系统深萃,以及AI算法服务平台深智等。

据悉,云天励飞联合华为推出了大模型训推一体化产品——云天天书大模型训推一体机,其内置了自主研发的天书千亿级大模型。

该一体机通过与华为昇腾910芯片硬件加速平台在算子加速库及工具链等方面的优化,采用全国产化的大模型和硬件计算平台,集成“开箱即用”系列训推工具,能满足面向多业务场景的大模型高并发高能效处理、业务快速上线的需求。此外,也支持用户进行二次开发和敏捷部署,满足了用户个性化和灵活的使用需求。

此外,智谱AI与昇腾合作的天智ChatGLM训推一体机,也已经通过华鲲振宇等渠道进行组装和销售。相关产业链人士告诉《科创板日报》记者,智谱大模型的优势在于语言领域,其一体机主要的应用行业包括电商、金融、保险等

“天智ChatGLM训推一体机的优势在于,支持中英双文的流畅对话,可以用于电商的智能客服等场景。在报价上,根据卡数的不同,从几十万到上百万不等。”


基于华为鲲鹏+昇腾产业生态,神州数码则打造了神州鲲泰系列产品,推出了神舟鲲泰问学一体机。

神舟数码相关负责人向《科创板日报》介绍,2022年,神州数码基于与昇腾的深度合作,推出神州鲲泰 KunTai AT200中心训练服务器序列、神州鲲泰 KunTai AI200整体推理服务器系列和神州鲲泰 KunTai AE200的边缘服务器系列等三个系列产品。目前,结合神州问学Gen-AI企业落地应用最佳实践,正是强化“昇腾产业生态”的投入与布局,致力于打造人工智能全栈产品和技术解决方案。

【2o24澳门正版免费料大全精准】 【新澳门期期准】 【2024新奥天天免费资料】 【二四六香港资料期期中准】 【2024新澳门姿料】 【二四六澳门免费全全大全】 【新澳今天最新资料2024】 【新奥精准免费资料提供】

作者简介:李恩宇,资深科技记者,专注于人工智能和数字化转型领域的报道。

最新评论

Elyssia 2024-11-14 20:17

据悉,云天励飞联合华为推出了大模型训推一体化产品——云天天书大模型训推一体机,其内置了自主研发的天书千亿级大模型。

IP:42.17.7.*

至上励合 2024-11-14 24:20

“具体的数字和量化数据还在与伙伴一起深入研究和细分,将在未来明确。

IP:52.39.2.*

肖恩·丁沃 2024-11-14 17:21

该一体机通过与华为昇腾910芯片硬件加速平台在算子加速库及工具链等方面的优化,采用全国产化的大模型和硬件计算平台,集成“开箱即用”系列训推工具,能满足面向多业务场景的大模型高并发高能效处理、业务快速上线的需求。

IP:33.22.3.*

相关阅读