开始:华尔街见闻 测试服从露出,比拟前代英伟达Hopper GPU,GB200 NVL72做事器能匡助Cohere在1000亿参数模子的磨真金不怕火齐全高达3倍的性能栽植,此外,IBM和Mistral AI也已成为CoreWeave GB200云做事的首批用户。 CoreWeave再度霸占先机,领先部署英伟达GB200系统,AI巨头争相入局。 英伟达当天在其博客上晓谕,AI云策动提供商CoreWeave已成为首批大界限部署英伟达GB200 NVL72系统的云做事提供商之一。Cohere、IBM和Mistral AI已成为首批用户。 字据最新MLPerf基准测试,这些系统提供了前代H100芯片2-3倍的性能栽植,将显贵加快大模子磨真金不怕火和推明智力。 CoreWeave首席践诺官Michael Intrator示意,这一建立既展示了公司的工程实力和践诺速率,也体现了其对下一代AI发展的专注: “CoreWeave的联想便是为了更快速地行径——咱们一次又一次地说明注解了这小数,长期是首批大界限运营起初进系统的公司。” 英伟达超大界限与高性能策动(HPC)副总裁Ian Buck示意: “宇宙各地的企业和组织正在竞相将推理模子转动为代理型东说念主工智能应用,这将改动东说念主们的使命和文娱表情。” “CoreWeave对英伟达GB200系统的快速部署提供了东说念主工智能基础架构和软件,使东说念主工智能工场成为实际。” 华尔街见闻此前说起,连年来英伟达和CoreWeave通过投资、供应和反向租借等表情构建了“亲子相关”,建立了后者的连忙崛起。2023年,英伟达甘愿在四年内向CoreWeave支付13亿好意思元,租回我方坐蓐的芯片。 近日,CoreWeave还晓谕与OpenAI互助,进一步自由了其动作AI基础行径提供商的突出地位。 这一系列动作标明,在AI算力资源执续紧缺的配景下,随意提供起初进芯片组的云做事提供商将在市集竞争中仍占据故意位置。 性能打破:新基准刷新行业记载 昨年,CoreWeave便是首批提供英伟达H100和H200 GPU的供应商之一,亦然最早演示英伟达GB200 NVL72系统的公司之一。 CoreWeave最近在汲取英伟达GB200 Grace Blackwell超等芯片的AI推理测试中创下了新的行业记载,这一收成已发布在最新的MLPerf v5.0服从中。 值得提防是,在莫得特定优化Blackwell架构的情况下,比拟前代英伟达Hopper GPU,GB200 NVL72做事器能匡助Cohere在1000亿参数模子的磨真金不怕火齐全高达3倍的性能栽植。 据先容,通过进一步优化哄骗GB200 NVL72的大颐养内存、FP4精度和72个GPU的NVLink域(每个GPU王人畅达起来协同启动),Cohere正获取显贵更高的微辞量,镌汰首个令牌(computation tokens)和后续令牌的生成时分,提供更高性能、更具本钱效益的推理。 风险教唆及免责要求 市集有风险,投资需严慎。本文不组成个东说念主投资提倡,也未计划到个别用户独特的投资目的、财务现象或需要。用户应试虑本文中的任何倡导、不雅点或论断是否得当其特定现象。据此投资,职守自傲。 ![]() 职守剪辑:于健 SF069 |