GPU和AI数据中心都跟不上,“英伟达亲儿子”也“跑不起来”
对于一家势头正好的企业而言,增长得太快,也会有意想不到的烦恼。
(相关资料图)
据The Information周五报道称,英伟达扶持的云计算提供商CoreWeave近期下调了今年的预期收入和资本支出,原因是无法获得符合预期的GPU等关键设备。
在今年4月,该公司曾对投资者表示,预计今年的收入将为6.3亿元,但6月CoreWeave将这一预期下调至略高于5亿美元。
同时,CoreWeave的资本支出也从33亿美元下调至23亿美元。The Information指出,这可能意味着CoreWeave无法获得预期的那么多芯片,或者它无法在数据中心获得足够的空间来履行对客户的承诺。
CoreWeave早先是一家以向加密货币“挖矿”者租借GPU为主业的公司,并在成立之后购买了大量的英伟达GPU。最近这家公司开始向人工智能和机器学期开发公司租借GPU,在今年早些时候获得了英伟达的1亿美元投资。
今年以来,CoreWeave已通过债务和股权融资超过27亿美元,以投资更多的芯片和数据中心,英伟达也将CoreWeave纳入其最先进的人工智能芯片H100的首批出货名单中。
然而,由于英伟达H100的需求量过大,目前产能已经成为亟待解决的问题。
华尔街见闻稍早时候曾介绍,英伟达将于2023年在全球出货约55万块H100显卡,但目前英伟达的合作伙伴台积电几乎无法满足计算GPU的生产需求,因为台积电一直使用CoWoS封装,作为代工厂的台积电正在努力提高这种芯片封装方法的产能。
即便CoreWeave拥有英伟达优先出货的优势,但产能的限制仍使其无法达成预期中的增长。
Bernstein Research高级半导体分析师Stacy Rasgon对此表示:
竞争挑战
CoreWeave所面临的挑战不止于此。
英伟达目前的H100主要销往美国科技公司,但中东玩家现在也加入了赛场。
据英国《金融时报》,沙特已通过公共研究机构阿卜杜拉国王科技大学(Kaust)购买了至少3000块英伟达的H100显卡,阿联酋也将获得数千块英伟达显卡,并已在阿布扎比马斯达尔城的国有技术创新研究所开发了自己的开源大型语言模型——Falcon。
此外,据一位了解其财务状况的人士向The Information透露,目前该公司的绝大部分收入仅来自少数几家大客户。而另一家同样从英伟达获得H100的新兴云提供商Lambda Labs,虽然收入低于CoreWeave,但它的客户名单更长,且同样也也将与英伟达达成股权融资协议。
CoreWeave的增长依然是惊人的,即便是调低了5亿美元的预计收入,也比该公司2022年约2500万美元的收入增长了25倍左右。CoreWeave预计明年的收入为23亿美元。
CoreWeave表示,到2026年,该公司签署的云服务合同将超过70亿美元,高于今年早些时候的50亿美元。
能耗难题
GPU的瓶颈来自供应商英伟达的产能,而承载GPU的数据中心的瓶颈则是高昂的能耗。
云服务商一般通过购买或租用数据中心的方式在托管包含GPU的服务器,但英伟达H100比其早期的芯片消耗更多的能量,单个H100芯片的功耗高达700瓦。
本周早些时候,在加州圣何塞举行的一次行业会议上,数据中心运营商表示,他们正在努力跟上人工智能的发展,但很难建立和运行足够多的数据中心,以容纳英伟达最新的芯片,并满足云服务商的需求。
对于能耗问题,CoreWeave表示,它已经在三个数据中心获得了约15兆瓦的电力,另外三个数据中心计划在2023年开放,这可能使容量达到约40兆瓦。该公司表示,明年其数据中心的容量可能会扩大到70兆瓦,足以容纳10万个H100芯片。
华尔街见闻此前曾介绍,数据中心为训练AI模型产生的能耗将为常规云工作的三倍,2030年,美国数据中心的电力需求预计将以每年约10%的速度增长。
AI服务器的功率较普通服务器高6-8倍,这对于电源的需求也将同步提升,通用型服务器原来只需要2颗800W服务器电源,而AI服务器的需求直接提升为4颗1800W高功率电源,服务器能耗成本直接3100元直接飙升到12400元,大涨3倍。
据咨询机构Tirias Research建模预测,到2028年数据中心功耗将接近4250兆瓦,比2023年增加212倍,数据中心基础设施加上运营成本总额或超760亿美元。
该机构称,生成式AI带来的种种创新功能,都是以处理性能和功耗方面的高昂成本为代价。
因此,虽然人工智能的潜力可能是无限的,但物理和成本最终可能是界限。
本文来自华尔街见闻,欢迎下载APP查看更多
关键词:
相关阅读
-
GPU和AI数据中心都跟不上,“英伟达亲儿...
对于一家势头正好的企业而言,增长得太快,也会有意想不到的烦恼。据Th -
剑桥科技二季度大涨背后:股东户数翻倍...
剑桥科技(603083)无疑是上半年最热门的个股之一,因涉及CPO概念,今年 -
猫眼娱乐发布2023上半年财报:收入盈利...
2023年8月17日,领先的「科技+全文娱」服务提供商猫眼娱乐(股票代号:0 -
德龙汇能(000593.SZ):氢能工作组正在加...
格隆汇8月17日丨有投资者向德龙汇能(000593 SZ)提问,“请问贵公司的氢 -
它也有保质期!燃气灶8年判废,要及时更...
为提醒广大用户正确选购和使用燃气器具,防范化解燃气安全风险,市场监 -
“猪老六”德康农牧第三度冲刺港交所 ...
近日德康农牧再次向港交所递交上市申请,这已经是公司第三次递表,此前 -
福寿园(01448.HK)公布中期业绩:营收增6...
来源:格隆汇格隆汇8月18日丨福寿园(01448 HK)公布中期业绩,截至2023 -
微软尴尬:号称“更强”的Bing悄然加入G...
微软尴尬:号称“更强”的Bing悄然加入GPT-4开关 -
越跌越买!超百亿抄底资金豪赌反弹!这...
【越跌越买!超百亿抄底资金豪赌反弹!这只ETF创三年半新低份额却暴增 -
如何让城市新青年留下来?这场住房租赁...
“住房市场正在发生由重买轻租到租购并举的重大变化。当前商品住房... -
邦健医疗(834997):2023年上半年净利...
基础层企业邦健医疗(834997)发布2023年上半年报告,公司营业收入为43 -
深高速:拟以全资子公司湖南益常高速公...
深高速(600548):拟以全资子公司湖南益常高速公路开发有限公司享有100% -
千年敦煌绘新卷 推动文物活起来
拥有1600多年历史的敦煌莫高窟,正焕发出勃勃生机。近日,由国家文物局 -
男子看守所去世 家属称7根肋骨断裂
【男子看守所去世】河南一男子在看守所服刑期间,突发疾病去世。死者家 -
中国高校“校长杯”羽毛球比赛在厦开幕
东南网8月18日报道(福建日报记者林梓健实习生林芳通讯员李慧胡啸尘摄 -
国家出台措施促进退役风电光伏设备循环利用
【新华社北京8月17日电】国家发展改革委等部门17日对外发布《关于促进 -
再融资暂停“小作文”搅动市场 投行:...
再融资暂停“小作文”搅动市场投行:目前未见“一刀切”叫停 -
新赛季战绩预测:掘金绿军52胜并列第一...
新赛季战绩预测:掘金绿军52胜并列第一湖人48胜不如勇士太阳,湖人,勇士 -
临潼组织残疾人免费观影
本报讯(王三合 记者 胡琳)为加强残疾人文化建设,丰富残疾人文化生 -
双色球怎么在网上买彩票_怎么在网上买彩票
1、现在网上彩票像360QQ淘宝等比较大的网站依然被停售,不能买。2、想