张婉莹系 马斯克的“地表最强AI张望集群”按下点燃键,10万块英伟达H100加抓!

好意思国当地本领 7 月 22 日张婉莹系,马斯克在酬酢平台 X 上发帖称:“xAI 团队、X 团队、非常他解救公司已于当地本领凌晨 4 时 20 分运转在‘孟菲斯超等集群’上进行张望。”

(开始:X)

按照马斯克的说法,“孟菲斯超等集群”(Memphis Supercluster)号称是面前天下上最强劲的 AI 张望集群。

他还默示,孟菲斯超等集群由 10 万块英伟达 H100 GPU 构成(选定液冷散热),在单个 RDMA(长门路直数据存取,能够克服辘集传输中干事器端数据处理蔓延)结构上运行,对 AI 进行张望。

另外,他在留言区中骄傲,方向是“在本年 12 月前张望出各项目的参数皆是人人最强劲的 AI”(有可能是 Grok 3)。

(开始:xAI 公司官网)

此前,马斯克是 OpenAI 的麇集独创东谈主之一,但自后由于公司里面的利益突破等问题,他在 2018 年退出了这家公司。眼看 AI 海浪席卷人人,马斯克当然不甘过时,于是他自力腾达。

2023 年 7 月,马斯克官宣 xAI 认真诞生,其将“相识天地的确切本色”动作公司愿景,他但愿夙昔不错用 AI 来匡助东谈主类责罚复杂的科学和数常识题而且“相识”天地。

由于他本东谈主“光环”的加抓,加之 xAI 的团队成员绝大部分皆是来自微软、DeepMind 等,xAI 俨然成为了 AI 领域“搅局者”一般的存在,对标以 OpenAI 为代表的人人 AI 领域头部玩家。

旧年 11 月,xAI 公司推出旗下名为“Grok”的首个 AI 大模子产物。据官方而已骄傲,Grok 不错通过酬酢平台 X 及时了解实践天下,而且还不错修起一样被其他大大批 AI 模子远隔的“明锐”问题,一度被业界称为“反抗版的 ChatGPT”。

与此同期张婉莹系,xAI 的吸金材干也让包括 OpenAI、Anthropic、Inflection AI 等一众 AI 公司汗颜。据悉,xAI 本年 5 月完成了 60 亿好意思元的 B 轮融资,使该公司估值达到 240 亿好意思元。

动作对比,以 AI 界的“扛把子”OpenAI 为例,诞生近 10 年融资总和超 140 亿好意思元,而 xAI 诞生只是 10 个月便完成了 OpenAI 融资总和的一半。

能获取如斯高的融资金额,一方面获利于马斯克人人强劲的高歌力和影响力,另一方面简略是本钱看中这家初创公司的后劲非常产物拓荒迭代程度。

尤其是 2024 年以来,xAI 对 Grok 的拓荒迭代按下“加快键”。本年 3 月,xAI 推出从新张望的、包含 3140 亿参数的众人搀杂模子 Grok-1,其参数是 GPT-3.5 的 1.8 倍(GPT-3.5 包含 1750 亿参数);紧接着,又推出 128k 长文本的 Grok-1.5,能够相识长语境和达成高档推理;4 月,推出旗下首款多模态大模子 Grok-1.5V,娱乐中文网能够处理文本、图表、图像等内容,且在相识实践天下方面优于其他 AI 模子;就在不久前,马斯克默示缠绵将在本年 8 月推出 Grok-2。

(开始:xAI 公司官网)

为了能与 OpenAI 的 ChatGPT、谷歌的 Gemini、Meta 的 Llama 中分一杯羹,马斯克更是“呕悉心血”。本年 5 月,马斯克就默示要在年底前部署 8.5 万块英伟达 H100 GPU,随后又进行了加码,并默示缠绵部署 10 万块英伟达 H100 GPU 来张望和运行 Grok 的下一个版块。

与此同期,马斯克还缠绵将悉数芯片串联成一个巨型诡计机系统“超等诡计集群”,处所则选址在好意思国田纳西州的孟菲斯市。

毕竟,从很大程度上来说,Grok-2 拓荒程度主如果受到芯片算力的制肘。马斯克曾坦言:“由于莫得豪阔多的 AI 芯片,推迟了 Grok-2 模子的张望和发布。张望 Grok-2 梗概需要 2 万块英伟达 H100 GPU, 而张望 Grok-2 的下一个版块以及夙昔更高的版块将需要 10 万块 H100 GPU。”

马斯克所说的这个超等诡计集群边界更是空前。通俗对比一下,动作人人边界最广大的诡计集群之一,Meta 在本年 3 月推出了 2 个诡计集群用于张望 Llama 3,每个诡计集群皆包含 2.4 万块英伟达 H100 GPU,xAI 的超等集群边界超出其 4 倍多余。

值得一提的是,近日 Meta 的 Llama 3.1 405B 认真发布,其在多项测试中稀奇 GPT-4o 和 Claude 3.5 Sonnet,而张望 Llama 3.1 则使用了多达 1.6 万块英伟达 H100 GPU。

昭着,算力已成科技巨头的必争之地。据讯息称,Meta 缠绵到本年年底采购 35 万块英伟达 H100 GPU,将其拓展到 60 万块的边界;另外,微软和 OpenAI 也在缠绵插足 1000 亿好意思元打造名为“星际之门”的超等诡计机,展望 2030 年完成拓荒。

不丢丑出,马斯克口中“天下上最强劲的 AI 张望集群”的地位似乎保管不了太久。

本年 5 月,马斯克默示但愿超等集群能够在 2025 年秋季之前运行起来,如今,跟着他这次的官宣按下“点燃键”,这比原缠绵提早了一年多。

图|马斯克亲临超等集群施工现场(开始:X)

但是,该超等集群的成立和使用并莫得得到当地一些组织的认同。据外媒报谈,尽管孟菲斯商会团体认同 xAI 公司在该地成立如斯大边界的超等集群工场,但当地反欺凌组织和其他两个环保组织对该超等集群的动力和水浪费默示担忧,并劝诫称可能会形成严重的“动力背负”。

这些组织在一封公开信中默示:“展望 xAI 的冷却塔每天至少需要 100 万加仑的水。咱们饱读舞 xAI 解救对孟菲斯市废水再运用系统的投资,以减少给水压力。”

彩虹小马

另外,据孟菲斯照明、自然气和水务公司的首席扩充官预计,“xAI 的超等集群工场每小时可能浪费高达 150 兆瓦的电力,这大致非常于 10 万户家庭所需的电力。”

参考而已:

1.https://www.tomshardware.com/pc-components/gpus/elon-musk-fires-up-the-most-powerful-ai-training-cluster-in-the-world-uses-100000-nvidia-h100-gpus-on-a-single-fabric

2.https://www.pcmag.com/news/elon-musk-xai-powers-up-100k-nvidia-gpus-to-train-grok




热点资讯

相关资讯



Powered by 国产自拍 @2013-2022 RSS地图 HTML地图

Copyright Powered by站群 © 2013-2022 版权所有