盤點(diǎn)「蔚小理特華米」的算力，差距超過100倍？

第一電動(dòng)大牛作者電動(dòng)星球News蟹老板 2024-05-31 09:33

5 月 21 日，雷軍直播小米 SU7 NOA 時(shí)，他說了這樣一句話：「目前業(yè)內(nèi)實(shí)現(xiàn)智駕全自研的，國(guó)內(nèi)有 7 家公司，都是決心強(qiáng)大」。

雷總口中的戰(zhàn)國(guó)七雄是誰，輿論場(chǎng)有無數(shù)組合。但當(dāng)我們把目光回到技術(shù)本身，一個(gè)關(guān)鍵詞語，這兩年成為證明車企自研智駕決心，甚至引發(fā)暗自較勁的熱詞：

訓(xùn)練算力，以及有關(guān)訓(xùn)練算力的資金投入。

這場(chǎng)算力大賽，在 4 月 28 日被馬斯克直接拉到天花板。

他在 X 上說，「特斯拉今年大概會(huì)投資 100 億美元，用于訓(xùn)練和推理結(jié)合的人工智能，后者主要用于汽車。任何沒有這種規(guī)模投入的企業(yè)，并且高效推進(jìn)，沒法玩（cannot compete）」。

100 億美元約合 723 億元人民幣，整個(gè)華為 2023 年研發(fā)投入是 1647 億元，723 是 1647 的 43.9%。

這筆錢讓馬斯克擁有了全球最高的「計(jì)算卡」儲(chǔ)備：到 2024 年底 85000 塊英偉達(dá) H100，直接成為全球最大的「卡皇」。

如果說自動(dòng)駕駛可以引發(fā)下一次生產(chǎn)力爆炸，那么目前誰擁有的訓(xùn)練算力越多，誰就更接近于造出第一顆自動(dòng)駕駛「核彈」。

于是我們不禁好奇：同樣競(jìng)逐智能駕駛高峰的「蔚小理特華米」們，他們手握的智能駕駛「核彈當(dāng)量」之間，有沒有距離？如果有，差距在哪里？

今天數(shù)字轟炸。

E 時(shí)代

先聊聊時(shí)代背景——E 這個(gè)字母，大家這兩年從車企那里聽得不少。

算力語境里面，E 指的是 Exa，1Exa 翻譯過來是 10 的 18 次方，一百億億。

比如 4 月 11 日的鴻蒙智行春季發(fā)布會(huì)上，余承東表示，目前華為的云端訓(xùn)練算力，已經(jīng)達(dá)到了 3.3EFLOPS；相比去年 11 月智界 S7 首次發(fā)布時(shí)公布的 2.8EFLOPS，又提升了約 20%。

為什么進(jìn)入 E 級(jí)訓(xùn)練算力時(shí)代，對(duì)于智能駕駛?cè)绱酥匾?/span>

訓(xùn)練 training，在人工智能領(lǐng)域指的是學(xué)習(xí)，也就是用巨量數(shù)據(jù)「喂」出一個(gè)足夠強(qiáng)大的神經(jīng)網(wǎng)絡(luò)模型；推理 inference，指的是基于這個(gè)訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)模型，使用新的、規(guī)模相對(duì)很小的現(xiàn)實(shí)數(shù)據(jù)，得出預(yù)測(cè)結(jié)果。

常見的 Orin X，就是用于推理的小算力芯片；A100/H100，就是用于訓(xùn)練的大算力芯片。

或者舉個(gè)很形象的例子，推理芯片是學(xué)生拿著現(xiàn)成的教材學(xué)習(xí)，學(xué)習(xí)芯片就像是教案組編教材，兩者的難度有本質(zhì)不同。

結(jié)果就是，掌握的智能駕駛訓(xùn)練算力越龐大，離那本「萬能教材」就越近，起碼在輿論層面，可以營(yíng)造這樣的氛圍。

蔚小理華們的算力軍備

了解完背景知識(shí)，我們需要解答一個(gè)問題：蔚小理華米們，手里有多少訓(xùn)練算力資源？

作為智能汽車新軍，截止我們發(fā)稿，小米汽車目前尚未公布訓(xùn)練算力具體規(guī)模。

但看完本段，你會(huì)對(duì)小米汽車需要「卷」到的算力規(guī)模，有一個(gè)大概認(rèn)知——想要維持「戰(zhàn)國(guó)七雄」的地位，3 個(gè) E 的算力是起步。

華為系的算力前面已經(jīng)提到過，3.3EFLOPS 的規(guī)模堪稱龐大。而且在 4 月 25 日的北京車展，華為乾崑發(fā)布會(huì)上，這個(gè)數(shù)字已經(jīng)迭代到了 3.5EFLOPS（算力精度未知）。

那蔚小理們呢？

有意思的是，目前來看，蔚小理三家各自走了不同的算力擴(kuò)張方向。

先說蔚來吧，去年 9 月份的 NIO IN 全棧技術(shù)發(fā)布會(huì)上，任少卿曬出了這樣一張 PPT：38100POPS 的「群體智能車隊(duì)算力」，約合 38E，看起來相當(dāng)炸裂（INT8 精度）。

NIO Day 2020 上，蔚來發(fā)布了 NT2.0 平臺(tái)，四顆英偉達(dá) Orin X 的配置堪稱奢華。直到那張PPT，大家才真正知道第四顆 Orin X 的用途（一顆安全冗余）。

不過，按照 NIO IN 的信息，每臺(tái) NT2.0 上的其中一顆 Orin X，承擔(dān)的實(shí)際上是本地智駕路線的快速驗(yàn)證。

所以，它不是傳統(tǒng)意義上的「人工智能大模型訓(xùn)練」，實(shí)際上的 NAD 中央智能計(jì)算集群，算力是 1400P，約合 1.4E（算力精度未公布）。

上面提到的 38E 群體算力，更像是廣義上智駕訓(xùn)練的其中一環(huán)，也是蔚來隨著保有量上升，加速智駕功能落地的獨(dú)家武器。

然后聊聊理想，目前披露的信息不多，只有 2023 年的一些舊聞。

去年 6 月，理想汽車智能駕駛副總裁郎咸朋表示，目前理想擁有 1200PFLOPS 的訓(xùn)練算力（精度未知），約合 1.2EFLOPS。

不過，另一則消息，透露了更多細(xì)節(jié)。

同樣是去年 6 月，雷鋒網(wǎng)報(bào)道稱，理想向字節(jié)跳動(dòng)旗下數(shù)據(jù)服務(wù)公司火山引擎，租用了 300 多臺(tái)英偉達(dá)人工智能訓(xùn)練服務(wù)器，用以訓(xùn)練智能駕駛大模型，這一批服務(wù)器的總算力超過 750PFLOPS。

如果報(bào)道屬實(shí)，這意味著理想租用的，是英偉達(dá)上一代人工智能服務(wù)器 DGX A100，平均每個(gè) DGX A100 的 FP16 精度算力為 2.5PFLOPS，換算成 FP8 就是 5PFLOPS，累計(jì)約 1500PFLOPS，約合 1.5E。

租用服務(wù)器的好處，在于資產(chǎn)負(fù)擔(dān)相對(duì)小，尤其對(duì)于進(jìn)展迅速的半導(dǎo)體行業(yè)——2024 GTC 大會(huì)上，英偉達(dá)已經(jīng)拿出了 A100 的下一代的下一代，B200。

當(dāng)然，長(zhǎng)期采用租賃的形式，對(duì)供應(yīng)商能力的依賴、數(shù)據(jù)/模型交流的延遲，都需要斟酌。

最后聊聊小鵬。

520 發(fā)布會(huì)上，何小鵬表示目前小鵬汽車今年會(huì)擁有超過 7000 張卡，每年會(huì)在算力上投入 7 個(gè)億。

這兩個(gè)數(shù)字是什么規(guī)模？

先來算算卡，H100 有很多個(gè)版本，但只有最貴也最強(qiáng)的 H100 SXM，可以組成延遲最低的 DGX H100 訓(xùn)練服務(wù)器，或者說這就是黃仁勛給車企/科技公司準(zhǔn)備的豪華套餐。

如果這 7000 張都是 H100，也就是 28000PFLOPS 的 FP8 算力，換算下來約合 32E，放在「云端訓(xùn)練算力」語境里面，競(jìng)爭(zhēng)力當(dāng)然極強(qiáng)的。

而如果這 7000 張都是 A100，那么估算結(jié)果大概是8.75EINT8，也夠卷了。

然后算算何小鵬的 7 個(gè)億。

補(bǔ)充一個(gè)背景知識(shí)，其實(shí)現(xiàn)在 DGX H100 國(guó)內(nèi)都可以買到，大家作為個(gè)人都能買，只是需要經(jīng)過代理，而不是直接一個(gè)電話打給老黃。閑魚渠道顯示，一臺(tái) DGX H100 的報(bào)價(jià)在 250 萬元以上。

換算下來，7 億元可以買到大概 250 臺(tái) DGX H100，里面是 2000 顆 H100 SXM，估算算力約為 8 個(gè) E。

這也是我們驚訝于何小鵬直接「梭哈」的原因，預(yù)算+行情=實(shí)力，小鵬汽車這次是直接將牌甩在了桌上。

當(dāng)然，高達(dá) 32 個(gè) E 的估算規(guī)模，能佐證何小鵬的信心——在國(guó)內(nèi)來看，足夠梭哈了。

全球第一當(dāng)量？

4 月 24 日，我在北京采訪了英偉達(dá)數(shù)據(jù)中心副總裁 Norm Marks。

Norm 分享了這樣一張圖：各家客戶目前已擁有的「DGX equivalant nodes」。

這個(gè)詞的意思，是手里的卡等效于多少個(gè) DGX H100 節(jié)點(diǎn)，而非真的擁有這么多 H100——因?yàn)檫€算上了上一代的 A100。

可以看到第二位是一家 OEM（主機(jī)廠），它有 1866 個(gè)等效 DGX H100 Pods，算力規(guī)模大概是等效不到 1.5 萬塊 H100 吧。然后重點(diǎn)來了，第一位也是一家 OEM，看起來沒多多少？實(shí)際上是圖表不夠地方畫柱狀圖了——第一位是第二位的四倍多！換算下來大概是超過 6 萬塊 H100 的算力。然后 Norm Marks 來了句：「You know who it is.（笑）」。背景知識(shí)是，他說這句話的五個(gè)小時(shí)前，馬斯克說到 2024 年底，特斯拉會(huì)擁有超過 8.5 萬塊 H100 的算力規(guī)模。

85000 塊 H100 有多少算力？

一塊 H100 最高是 3958T，85000 塊最高是 340EFLOPS（FP8），三位數(shù)的 Exa 級(jí)算力。

這樣寫可能還不夠直觀，一塊 Orin X 是 254T（INT8），340E 大概就是 133.9 萬塊 Orin X，相當(dāng)于 67 萬臺(tái)小米 SU7 Max，或者其他用了雙 Orin X 的車型的算力總和。

當(dāng)然馬斯克給了個(gè)更廣泛的語境「人工智能」，而不只是「自動(dòng)駕駛」，但他還有另一句話：「自動(dòng)駕駛就是真實(shí)世界里面的人工智能」。