马斯克宣布启动全球最大AI集群,集成10万个英伟达H100 GPU

⭐发布日期:2024年10月03日 | 来源:微言校园

⭐作者:达恩·弗洛莱克 责任编辑:Admin

⭐阅读量:676 评论:5人

【香港/澳门资料大全】

【澳门名都论坛四不像论坛苹果ios版】

【白小姐四肖四码100%准】 【澳门一码一肖一特一中交易】 【2004新澳门天天开好彩大全】 【澳彩资料免费长期公开】 【新澳门资料大全正版资料玉兔东升】 【澳门最精准免费资料大全旅游团】 【澳门必中三肖三码三期免费】 【澳门管家婆免费资料的特点画肖】
【新澳门历史记录】 【新澳门彩黄大仙精准免费资料】 【澳门最准真正最准资料】 【香港王中王最快结果第41期】 【澳门六开彩资料查询2024网站】 【2024特马开码查询】 【2024年新奥门王中王结果】 【新澳最新版资料心水】

7月23日,据国外媒体报道,马斯克在其社交媒体上宣布,旗下AI初创公司xAI已开始在位于田纳西州的所谓孟菲斯超级集群(training cluster)上进行训练,号称这是“全球最强大的AI训练集群”。

马斯克在X平台的宣布截图华尔街见闻

据马斯克介绍,这个集群由100,000个液冷H100 GPU组成,这些芯片是英伟达去年开始提供的。

马斯克还表示,该集群在单个RDMA结构(即远程直接数据存取结构)上运行。据思科介绍,这种结构可以在计算节点之间提供更高效、更低延迟的数据传输,而不会给中央处理器(CPU)带来负担。

马斯克今年5月曾透露这一计划 ,将英伟达H100串联到一台巨型的超级计算机中,并称其为“算力超级工厂”。

当时,马斯克匆匆忙忙地开始了Supercluster的工作,需要购买英伟达“Hopper”H100 GPU。这似乎表明,当时这位科技大亨没有耐心等待 H200 芯片推出,更不用说即将推出的基于 Blackwell 的 B100 和 B200 GPU。尽管预计较新的 Nvidia Blackwell 数据中心 GPU 将在 2024 年底之前发货。

马斯克新浪科技

xAI的目标是到2024年12月训练出“按每项指标衡量都是全球最强大的AI”。马斯克表示,孟菲斯超级集群将为实现这一目标提供“显著优势”。

不过,据外媒表示,不要对这一时间节点报太大期望,因为马斯克以公开提出并错过许多项目(如全自动驾驶汽车、无人驾驶出租车产品Robotaxi和将人类送往火星)的最后期限而闻名。

马斯克周一还表示,特斯拉将在明年小规模生产用于内部使用的Optimus机器人,并希望到2026年能大规模生产供其他公司使用。这比他之前承诺的时间表晚了。之前马斯克宣称到2024年底将在特斯拉工厂使用Optimus机器人,并在2025年交付给其他公司。

另外,Microsoft正在与OpenAI首席执行官Sam Altman(阿尔特曼)合作开发一个价值1000亿美元的AI训练超级计算机,代号为Stargate。如果这一项目取得成功,xAI的孟菲斯超级集群可能不会长期保持全球最强大的AI训练集群地位。

心智观察所研究员潘攻愚认为,马斯克一直标榜特斯拉是一家人工智能和机器人公司。特斯拉大型工厂三班倒一刻不停地进行数据搜集用于AI训练,马斯克需要近10万块H100用于特斯拉FSD自动驾驶服务,为下半年推出Robotaxi做准备。不过如此大量的采购有两个挑战,一个是能耗。目前H100全年总能耗已经超过了格鲁吉亚等小国全年所有的电量;一个是从训练到推理的跳跃,毕竟H100用于推理的性价比并不高,会造成很多算力的“通货膨胀”。

目前,英伟达的股价正在走出另一波调整,马斯克的最新言论为其注入一针强心剂。截至当地时间22日美股收盘,英伟达上涨4.76%,特斯拉则上涨5.15%。

心智观察所研究员吕栋指出,AI既是“暴力美学”,也是工程比拼,需要算力、算法、数据的深度融合与经验积累。

一方面,随着计算量不断攀升,单卡算力角色弱化,大模型训练亟需一个超级工厂,即“大且通用”的加速计算平台,以缩短训练时间,实现模型能力的快速迭代。随着大模型参数量从千亿迈向万亿,模型能力更加泛化,大模型对底层算力的诉求进一步升级,万卡甚至超万卡集群已成为竞赛入场券。

另一方面,建设万卡或超万卡集群并非一万张GPU卡的简单堆叠,而是一项高度复杂的系统工程。算力集群不是一个计算GPU,怎么把它组织成算力网络,相互之间通讯效率怎么提高,怎么实现MFU(算力利用率)达到60%的最优目标,这些都要靠网络通讯、计算、存储一起来解决。只有软硬件结合,把整个集群算力发挥到最高,才能实现1+1>2的效果。

另外值得注意的是,在比拼算力和算法之外,如何将人工智能基础设施化,赋能全行业,中国正在做人工智能赋能实体经济的道路探索。

中国工程院院士、中国科学院计算技术研究所所长孙凝晖认为,算力基础设施的中国方案需要具备“两低一高”,即在供给侧,大幅度降低算力器件、算力设备、网络连接、数据获取、算法模型调用、电力消耗、运营维护、开发部署的总成本,让广大中小企业都消费得起高品质的算力服务,有积极性开发算力网应用;在消费侧,大幅度降低广大用户的算力使用门槛,面向大众的公共服务必须做到易获取、易使用,像水电一样即开即用,像编写网页一样轻松定制算力服务,开发算力网应用。在服务效率侧,中国的算力服务要实现低熵高通量,其中高通量是指在实现高并发度服务的同时,端到端服务的响应时间可满足率高;低熵是指在高并发负载中出现资源无序竞争的情况下,保障系统通量不急剧下降。保障“算得多”对中国尤其重要。

当前,中国也正在掀起建设万卡集群的热潮,像华为、中国移动、摩尔线程等厂商都在布局万卡集群。

【2024澳门天天开好彩大全免费】 【新澳天天开奖资料大全最新】
【2024年天天开好彩资料】 【新澳天天开奖资料大全最新54期】
【2024澳门天天开好彩大全53期】 【澳门天天开彩期期精准】
【2024全年资料免费大全】 【新澳天天开奖资料大全】
【澳门内部最精准免费资料】 【2024澳门天天开好彩大全】
【2024年新奥门天天开彩免费资料】 【新澳2024今晚开奖资料】 【澳门六开彩天天正版澳门在线】
上一条新闻 下一条新闻

推荐文章

发表评论

Putul

3秒前:这似乎表明,当时这位科技大亨没有耐心等待 H200 芯片推出,更不用说即将推出的基于 Blackwell 的 B100 和 B200 GPU。

IP:86.18.1.*

姬欢

3秒前:这比他之前承诺的时间表晚了。

IP:97.17.7.*

康纳·沃尔夫

8秒前:15%。

IP:95.46.9.*

微言校园APP介绍

APP图标

今期必中一肖一码02期澳门APP名:微言校园

版本:V7.28.329

更新时间:2024-10-02 18:15

新澳内部资料精准一码这是一个功能强大的澳门一肖一码一必中一肖雷锋APP,可以帮助你完成各种任务。包括最新24小时热点资讯,今日最新:马斯克今年5月曾透露这一计划 ,将英伟达H100串联到一台巨型的超级计算机中,并称其为“算力超级工厂”。

949494王中王内部精选APP介绍

APP图标

7777788888精准新传真APP名:微言校园

版本:V2.95.114

更新时间:2024-10-02 23:13

2024新澳门彩4949资料这是一个功能强大的二四六246天天彩49图库APP,可以帮助你完成各种任务。包括最新24小时热点资讯,今日最新:马斯克表示,孟菲斯超级集群将为实现这一目标提供“显著优势”。

新奥结果怎么查询的到APP介绍

APP图标

澳彩精准资料免费长期公开APP名:微言校园

版本:V8.22.715

更新时间:2024-10-02 24:20

香港二四六开彩资料大全302期这是一个功能强大的香港澳门资料大全APP,可以帮助你完成各种任务。包括最新24小时热点资讯,今日最新:目前H100全年总能耗已经超过了格鲁吉亚等小国全年所有的电量;一个是从训练到推理的跳跃,毕竟H100用于推理的性价比并不高,会造成很多算力的“通货膨胀”。

7777788888澳门王中王2024年APP介绍

APP图标

澳门天天彩资料自动更新2000年APP名:微言校园

版本:V1.86.707

更新时间:2024-10-02 23:24

2024澳门资料大全免费808这是一个功能强大的管家婆一肖一码100正确APP,可以帮助你完成各种任务。包括最新24小时热点资讯,今日最新:据马斯克介绍,这个集群由100,000个液冷H100 GPU组成,这些芯片是英伟达去年开始提供的。

四肖八码精准资料期期准iAPP介绍

APP图标

香港资料大全正版资料2024年免费APP名:微言校园

版本:V9.68.572

更新时间:2024-10-02 20:21

新澳好彩免费资料查询2024期这是一个功能强大的马会传真资料2024澳门APP,可以帮助你完成各种任务。包括最新24小时热点资讯,今日最新:算力集群不是一个计算GPU,怎么把它组织成算力网络,相互之间通讯效率怎么提高,怎么实现MFU(算力利用率)达到60%的最优目标,这些都要靠网络通讯、计算、存储一起来解决。

7777788888王中王最新玄机APP介绍

APP图标

新澳今天最新资料网站APP名:微言校园

版本:V8.49.216

更新时间:2024-10-02 20:19

香港正版免费资料大全一这是一个功能强大的澳门内部正版资料推荐APP,可以帮助你完成各种任务。包括最新24小时热点资讯,今日最新:不过,据外媒表示,不要对这一时间节点报太大期望,因为马斯克以公开提出并错过许多项目(如全自动驾驶汽车、无人驾驶出租车产品Robotaxi和将人类送往火星)的最后期限而闻名。

2024澳门精准正版资料63期APP介绍

APP图标

王中王一肖一码一中一MBAAPP名:微言校园

版本:V2.62.111

更新时间:2024-10-02 22:23

944cc天下彩正版资料的优势这是一个功能强大的2024王中王资料一肖中vAPP,可以帮助你完成各种任务。包括最新24小时热点资讯,今日最新:另外,Microsoft正在与OpenAI首席执行官Sam Altman(阿尔特曼)合作开发一个价值1000亿美元的AI训练超级计算机,代号为Stargate。

新澳门彩历史记录近30期APP介绍

APP图标

新澳门免费资料大全APP名:微言校园

版本:V9.59.107

更新时间:2024-10-02 14:21

新澳门一肖一码资料这是一个功能强大的澳门赛马会资料最准一码APP,可以帮助你完成各种任务。包括最新24小时热点资讯,今日最新:中国工程院院士、中国科学院计算技术研究所所长孙凝晖认为,算力基础设施的中国方案需要具备“两低一高”,即在供给侧,大幅度降低算力器件、算力设备、网络连接、数据获取、算法模型调用、电力消耗、运营维护、开发部署的总成本,让广大中小企业都消费得起高品质的算力服务,有积极性开发算力网应用;在消费侧,大幅度降低广大用户的算力使用门槛,面向大众的公共服务必须做到易获取、易使用,像水电一样即开即用,像编写网页一样轻松定制算力服务,开发算力网应用。