埃隆·马斯克在社交平台公开宣布,由xAI、X和英伟达等合力打造的“Supercluster”已开始投入训练。它由10万块H100组成,是目前世界上最强训练集群。10万个英伟达H100,每个就高达3-4万美元,总价值将达40亿美元(折合人民币超290亿)。
2023年7月马斯克成立了xAI,其核心初创成员来自OpenAI、谷歌DeepMind、微软研究院、特斯拉等知名企业。为了让它能和ChatGPT直接竞争,马斯克将最近两年的大部分精力用xAI。
值得一提的是,这个全球最大超级计算中心在今年3月方才动工,计划是2025年竣工,没想到仅仅只用了四个月,就提前完成了。超级计算中心所需要的资源非常多,除了英伟达芯片等基础硬件之外,工厂每小时可能使用高达150兆瓦的电力,相当于10万户家庭所需电量,这可能会对当地来说会造成巨大的负担。除了电力资源之外,超级计算中心的冷却预计每天需要130万加仑的水,也就是说每天需要从孟菲斯的主要水源中抽取。
巨额的资金投入就算马斯克贵为“世界首富”,也很是吃不消,于是他联合戴尔和超微一起建设集群,并从甲骨文拿到了24000块H100的资源。
|