CoreWeave訪問:對AI的要求似乎每天都在增加

原文: Ai Respect 似乎每天都要加強

照片來自泰金

原著:佩吉,布洛克比茲

編輯按: 這項訪問提供了觀察AI計算機周期的視窗:需求不是由最後的GPU買賣冷卻, 而是由智慧、推理和企業級的AI應用程式推動。

這篇文章訪問了CoreWeave共同創辦人兼首席發展官Brannin McBee, CoreWeave的核心聲明是直截了當的, AI似乎每天都在以新的方式增加, 而真正的瓶颈正在從「GPU的存在」轉變成更複雜的基建問題:數據中心的電子套件、CPU、儲存、電工、供應鏈的實施能力。

CoreWeave獨一無二, 因為它位於AI基建鏈的中間: 它為Openai、Anthropic、Meta、Google、Microsoft、Nvidia等一線客戶服務, 所以它看到的不只是「gPU不足」, 随着代理化AI和共振模型的兴起,計算需求不再局限于GPU,CPU和儲存的重要性也在增加,新一代數據中心的设计必須為Vera CPU,Vera Rubin伺服器和更多的儲存留下空間。

因此AI的基建競爭從簡單的芯片購買轉至更全面的專案交付能力。 更接近於AI資本支出周期的核心。 CoreWeave一再強調「由客戶推動」。

但Nvidia仍為核心, 但CPU、HBM、儲存及數據中心電源正在成為新的變數; AI的需求仍在增加, 但未來的成功與失敗可能要依賴於誰提供穩定、穩定與规模的複雜基礎。

原文如下:

CoreWeave被視為新云區的創新早期市場領袖。

它是唯一一位接受IAI研究所最高級"白金評分"的云端服務者, CoreWeave成立于2017年,提供大型GPU計算,供初創企業和大型企業使用。

CoreWeave共同創辦人兼首席發展官Brannin McBee與企業發展與投資人關係副總裁Nick Robbins。

以下是對話的社論要点:

AI 需求不断增加

人工智能要求的浪潮是什麼時候開始的

我們看到了上個季度真正的開始 當時我們正在工程層面與客戶交流。

當我們觀察客戶需求時 這一直是很重要的觀點 我們和客戶之間有深厚的互聯互通的工程關係 這段關係讓我們能提前觀察趋势。

如果從AI市場產品的角度來看, 我會說, 第一季度是推理和AI消耗變得巨大的時候。

AI需要什么? 最近幾星期沒有比幾個月前減速的跡象嗎

尼克: 它似乎每天都在以新的方式增长。

Tai:請描述智慧的AI浪潮中CPU需求相对于GPU的上升趋势. 您會在 Nvidia GPU 伺服器旁部署一排 Vera CPU 架嗎

CoreWeave自2023年起一直在运行CPU. 我們總是有完整的云產品 所以問題不是我們是否剛開始加入CPU 但客戶到底需要什麼? 相对而言, 答案非常清楚。

和前代相比, 我覺得這趋势會繼續。

尼克: 你問題的答案是肯定的 你會看到很多維拉CPU 部署在很多維拉魯賓伺服器旁 去年,我們根本地重新设计了基本的數據中心程序,以便在GPU旁部署更多的儲存和更多的CPU。

我們這麼做是因為 我們處於一個非常獨特的環境 我們是唯一獨立的云端服務商, 任何獨立的AI雲服務提供商都不能說Anthropic、OpenAI、Meta、Google、微软、Nvidia等都是自己的客戶。

我們能瞭解客戶在何處採取科技。

瓶颈不再只是GPU

你會在未來使用Nvidia Vera CPU嗎

尼克: 這要看具体的工作量。 我們是按客戶的要求做事的 我們希望成為維拉CPU的早期重要領養者, 但隨著時間推移, 這可能會因客戶需求而改變。 客戶端對Vera CPU的興趣非常大。

也提醒了我們的合約如何運作。 如你所知,我們98%的收入 是由合同驱动的。 我們不是在猜 哪個基建客戶想要什麼 客戶會非常清楚的告訴我們他們需要什麼配置 所有東西都是客戶驱动的 是顧客決定了我們要建什麼。

泰:聊競爭模式. 你是如何上市,與SpaceX、Nebius、Oracle、Azure、AWS、Google等大型云端服務商競爭的

我寧願從不同的角度來看待第三方的確認。 除了中國, 全球十大人工智能實驗室中有九個正在使用我們的平台。 SemiAnalysis 總是把我們稱為 最高的性能。 我不認為我們得到GPU任務 是因為我們和Jensen有私人關係。

這顯示供應商對我們的實施紀錄和工程能力很有信心。

我們能贏得一個巨大的云端服務商 因為我們很擅長 我們能很快建立這些系統, 而且它們很有效。 我們能贏得研究實驗室的客戶 因為我們提供最好的技術版本 并且每樣標語都做得最好。

我們能贏得企業客戶, 因為基礎設施實在很好。

包括推理與研發工具, 幫助企業實際上將AI投入生产。

這意味著我們正在建設和提供產品, 最终會幫助科技較不成熟的企業將數據轉換成模型。

泰:目前的瓶颈是什么? 是已經有電源的数据中心外殼嗎? GPU

布蘭寧:它是有電的外殼,一個有電的数据中心外殼. 更确切地說,它是外殼內的一個部件。 你特意提到那個電工 完全正确 這里很複雜。

但重要的是,我們已經有49個這樣的地方在線上运行。 我們不把希望放在一兩個站。 我們做了49次了。

這是一個非常深刻的執行記錄。

這也意味著我們已經积累了很多關於如何處理供應鏈問題的知识。

編輯器: powered shells 是指数据中心建築本身,不包括實際計算伺服器硬件。

你能告訴我們HBM記憶體的成本與短缺嗎? 你怎么回答的? 客戶需要承受增價的代價嗎

答案是肯定的。 我們的企業模式旨在封鎖GPU的價格, 更廣泛地說, 伺服器的價格。

這就是我們如何隔離每日物價波动的影響。

如果我們的部件成本在下一個交易中增加, 我們會把它反映在我們認為可以向客戶收取的價格中, 我們在把這些費用 傳送給客戶方面得到了很好的保護 這是我們非常密切的關注。

目前, 最大的瓶颈是發電罐 但是在未來的某一刻,答案可能會改變。

維拉·魯賓如何去爬坡? 下半年會怎樣

尼克: 我們顯然是世界上第一個開始全面驗證 VR 或 Vera Rubin的內閣的公司。 去年我們在GB200,GB300上也做了一樣的事. 我希望VR今年晚些时候能出現。

我期望在2027年中能有 一個真正大,非常強大的部署 爬上山坡 此節奏與GB相似:GB在2025年开始出現, 也就是說,去年年底有很多部署,但今年是真正大规模部署GB的一年。

我想在接下來的12到18個月里, VR會有非常相似的節奏。