AI芯片“一騎絕塵”，英偉達為什么沒有對手？

每經記者 朱成祥    每經編輯 陳俊杰    

誰是生成式AI最大的受益者？至少在芯片產業鏈，一定是GPGPU（通用圖形處理器）絕對龍頭英偉達。在AI芯片，在GPGPU領域，天下英雄誰敵手？答案是沒有。

在優良業績的助推下，英偉達一度站上一萬億美元市值。這是芯片行業內其他公司難以企及的高度，其市值也達到芯片巨人英特爾的七倍。

作為英偉達的創始人，黃仁勛究竟有什么魔法把公司帶到如此高度。從近日黃仁勛在臺大的演講中，或能窺得一二。

“學會放棄，是邁向成功的核心關鍵。”黃仁勛是這樣說的，也是這樣做的。十年前的2013年，英特爾還在耗費巨資補貼移動端平板廠商；華為憑借P6手機，帶領海思K3V2芯片初露鋒芒。而英偉達，卻漸漸淡出了彼時風頭正盛的移動端SoC市場。

“我們的放棄獲得了回報，我們創造了一個新的市場——機器人技術。擁有神經網絡處理器和運行AI算法的安全架構。”黃仁勛說道。

但任何人無法僅靠“放棄”獲得成功。放棄之外，黃仁勛更多的是“專注”。芯謀研究總監李國強告訴《每日經濟新聞》記者：“（英偉達的成果）源自它的專注，其長期專注于GPU領域，又趕上了AI生態的爆發。這兩個方面造成英偉達成為全球芯片產業王者。”

舍得放棄的“狂人”

身著皮夾克的“狂人”，這是業界對黃仁勛的印象，游戲玩家們在各大論壇中也常常親切地喊他“老黃”。由于英偉達每一階顯卡，在價格和性能上只比次一階高一些，因此黃仁勛也被稱為“刀客”，這種錯落有致的各階顯卡布局，也被叫做“老黃刀法”。

在這次演講中，老黃一改“皮衣刀客”的狂人形象，穿起了禮服，顯得溫文儒雅。演講中，黃仁勛講了一個有趣的故事。十年前，臺大陳教授邀請他來看其物理實驗室，只見整個房間都是英偉達的游戲顯卡，插在開放式電腦的主機板上，金屬架上都是散熱用的大風扇。陳教授告訴他：“黃先生，因為你的關系，我可以完成我的事業。”

陳教授的話深深地感染了黃仁勛，“（陳教授）說的那些話至今仍感動我，完美詮釋了我們公司的價值：幫助這個時代的愛因斯坦與達芬奇完成他們的事業。”

愛因斯坦在創立廣義相對論的過程中，曾尋求同時代數學家的幫助。

而在如今這個時代，無論AI，亦或物理學、生物學的研究，都離不開算力的支持。英偉達，正是AI芯片的領軍者。

“放棄”與“專注”，可謂黃仁勛成功的關鍵。十年前，AI并不興盛，行業里關注的焦點是移動端。智能手機、平板的大爆發，使得移動端芯片成為各大芯片巨頭的“兵家必爭之地”。

英偉達在移動端“起得早”，卻最終放棄。據英偉達官網，早在2008年，英偉達就推出針對移動端的Tegra芯片；2011年5月，為了補基帶的短板，英偉達又收購了Icera公司，后者在針對3G和4G網絡的手機、平板電腦的高性能基帶處理器領域一直是領先的創新者。

當時，黃仁勛宣稱：“這是英偉達在移動計算革命浪潮中成為領先公司的關鍵一步。通過將Icera公司的技術整合到Tegra中，我們將開發出一個極佳的平臺，用以支持行業中最好的手機和平板電腦。”

只是，在這輪移動計算革命浪潮中，英偉達失敗了，勝利屬于蘋果、高通和聯發科。2013年，英偉達在拉斯維加斯國際消費電子展上發布Tegra4，這款芯片也成為英偉達在手機芯片領域的“絕唱”。此后，Tegra系列芯片主要應用在任天堂Switch主機上。

AI芯片獨領風騷

盡管當下手機芯片行業不景氣，但這依舊是一個巨大的市場。十年前，要做出放棄手機芯片市場的決定，更是非常艱難。

但黃仁勛選擇放棄一個規模巨大的市場，去創造一個未知的市場。在演講中，黃仁勛感嘆：“從巨大的手機市場撤退，再創造一個不知道市場規模的機器人市場。然而，現在的我們擁有數十億美元的自動駕駛、機器人技術的事業，也開創一個新的產業。”

在桌面CPU，英特爾、AMD雙雄并立；在移動端SoC，蘋果小幅領先，高通、聯發科、紫光展銳等公司各領風騷。在AI芯片領域，不乏AMD、英特爾這樣的老牌芯片巨頭，也有芯片大神Jim Keller帶領下的初創公司Tenstorrent。盡管巨頭云集，大神匯聚，英偉達依然能夠“一騎絕塵”。

為何沒有敵手？“英偉達贏在CUDA（Compute Unified Device Architecture，英偉達推出的通用并行計算架構），贏在軟件。”一位前券商分析師如此回復記者。其后，《每日經濟新聞》采訪了多名行業專家及GPGPU行業工程師，CUDA幾乎均被提及。由CUDA構建的軟件生態，是英偉達能夠獨領風騷的關鍵。

英偉達領先其他GPGPU廠商的優勢到底有多大？“院士與高中生的差別。”芯片工程師林達（化名）告訴記者。那英偉達跟AMD呢？“院士和大學教授吧。”其回復道。

拉開差距的關鍵，在于生態。“生態是第一位，（CUDA）跟安卓系統很像，太成熟、太方便，生態太強了。就像可樂一樣，程序員已經習慣（CUDA）這個飲料了。而（CUDA）把門檻搞得很低，就好像你數學差，但是你會用計算器。”林達向記者解釋。

那么其他AI芯片公司能否使用類似CUDA的工具？比如AMD推出的ROCm（Radeon Open Compute Platform）以及非盈利組織Khronos Group推出的OpenAI。

林達舉例回復稱：“跟你買螺絲、扳手一樣。你也可以不通用，但是沒人陪你玩啊。AMD也搞了個，但是自己都不用。”

軟件生態無可替代

與非網資深行業分析師張慧娟向記者解釋道：“英偉達2006年就推出CUDA了。正是CUDA的推出，降低了GPU的應用門檻。軟件開發者可以通過CUDA使用C/C++等語言，來編寫GPU片上程序，降低了GPU的應用門檻。也是從那時開始，GPU逐漸脫離了圖像處理這一單一用途。它不僅僅可以用于圖像處理，也可以用于高性能計算。”

簡單說，CUDA降低了GPU的門檻，使得GPU的應用領域從圖像渲染拓展到方方面面，真正成為通用型處理器，因此也有了GPGPU（通用圖形處理器）的說法。

“英偉達所有架構都在CUDA之上，一直從頭走到現在，包含了很多層級在里面，包括編譯器、調試器、豐富的庫函數、各種軟件工具，是很龐大的資源。假設現在有一個新的硬件平臺，但是不兼容CUDA，那么對開發者來說就意味著大量的軟件移植工作。因此一些平臺可能會選擇兼容CUDA，也就是CUDA加速的軟件可以跑在他的硬件上，不過實際的效率和性能表現，都有待觀察，這也是CUDA生態環境的強大之處。”張慧娟補充表示。

國內頭部GPGPU廠商工程師劉默（化名）6月5日告訴記者：“經過多年的建設，英偉達的CUDA已經有400萬開發者，基本形成了壟斷態勢的生態壁壘，而軟件生態恰恰是下游客戶最為重視的產品競爭要素，這是英偉達相對于AMD、Intel以及其他初創企業的最大優勢。”

既然CUDA如此重要，其他廠商可以提供自己的硬件，然后使用CUDA生態嗎？

在這個問題上，劉默認為：“CUDA是一個完全封閉的系統，目前可以真正兼容CUDA，或者說叫使用CUDA的企業（除英偉達自身外）就AMD一家，AMD和英偉達之間有相關的IP授權，這樣英偉達的MI系列GPGPU可以使用CUDA。但其他初創企業都不能直接使用CUDA。目前初創企業有兩種思路，第一種往往是AMD系出來創業的企業，由于其芯片架構類似AMD的產品，因此硬件條件上可以直接使用CUDA，但由于IP的問題，對方會在CUDA的基礎上微調出自己的軟件棧，這種雖然便于用戶從CUDA環境遷移過去，但存在IP的風險；第二種就是完全原創的軟件棧，這種最大的問題就是客戶存在一定的遷移成本，對商業落地產生負面影響。”

電子創新網CEO張國斌也對記者表示：“讓NVIDIA自己開放CUDA硬件，以便其他廠商將CUDA集成到自己的芯片中，并運行自己為CUDA開發的軟件，這種可能性是沒有的，黃仁勛已經徹底否定了，畢竟CUDA在這方面是領先對手的，NVIDIA不可能將自己的優勢開放給其他廠商甚至對手。”

跑吧！無論如何都要保持奔跑

在演講中，黃仁勛寄語學子：“你們即將進入一個正在經歷巨大變革的世界，就像我畢業時遇到個人電腦和芯片革命時一樣，你們正處于AI的起跑線上。每個行業都將被革命、重生，為新思想做好準備。不論是為了食物而奔跑，或不被他人當做食物而奔跑。你往往無法知道自己正處在哪一種情況，但無論如何，都要保持奔跑。”

李國強表示：“英偉達很早就開始進入GPU的研發，且長期專注于GPU。在AI領域，需要的是高算力并行計算，最適合的就是GPU。（英偉達）核心產品還是GPU，別的東西也有嘗試，后來都是慢慢退出。”

此外，英偉達所建立的優勢，并不局限于CUDA生態，還有硬件架構與制程。張慧娟表示：“對于所有芯片而言，硬件架構是基礎，它就像房子的框架。比如H100，就采用最新一代Hopper架構，該架構針對大模型就有一些跨單元的協同計算，擁有更好的加速能力。其最新推出的GH200，則屬于異構集成架構，它采用英偉達自己的Grace CPU和H100 GPU，在CPU和GPU中間采取自己的NVLink互連技術。這樣的架構解決了很多數據傳輸的瓶頸，把CPU與GPU之間的帶寬大大提高了。”

這兩款產品，是英偉達即將推出的新品。目前全球大模型訓練，使用最多的仍是英偉達A100。張慧娟認為：“A100采用的還是上一代的安倍架構，這個架構也針對AI提升了它的計算性能吞吐量，包括更大的內存、更高的帶寬，這些對于大規模計算都是必不可少的。我們只是看了最新兩代的架構，再往前看，英偉達從面向游戲，到面向高性能計算，一代一代架構演進，這對它來講是非常重要的。”

來源：每經記者 朱成祥 作圖

英特爾曾施行Tick-Tock（一年升級制程、一年升級）策略，后因制程長期卡在10納米而難以推行。而英偉達，從2008年推出特斯拉架構，到2022年推出Hopper架構，一共推出9代架構，甚至不到兩年就推出一代架構。此外，由于跟臺積電的密切合作，英偉達使用的制程一直是最先進的。

頭豹研究院TMT行業高級分析師陳文廣告訴記者：“H100 采用了臺積電 4nm 工藝，集成了 800 億個晶體管，比上一代A100足足多了260億個，是目前全球范圍內最大的加速器；其CUDA核心數量則飆升到了前所未有的16896個，達到A100的2.5倍。浮點計算和張量核心運算能力也隨之翻了至少3倍，比如FP32就達到了達到60萬億次/秒。更重要的是，H100面向AI計算，針對Transformer搭載了優化引擎，使大模型訓練速度直接提升了6倍以上。這意味著，無論是訓練1750億參數的GPT-3 ，還是3950億參數的Transformer大模型，H100都能將訓練時間從之前的一周縮短到1天之內。這些突破性的技術創新幫助英偉達保持在高端芯片市場的絕對領導地位。”

或許，就如同黃仁勛所言，英偉達“一直在奔跑”。其對學子們表示：“無論是什么，像我們一樣全力以赴去追求它，跑吧！不要慢慢走。”

是的，跑吧！不要慢慢走。正是在不斷奔跑中，英偉達逐步站上全球芯片之巔。在GPU領域，曾經的王者3DX、ATI陸續被收購，唯有英偉達屹立不倒。在GPU軟件生態中，也涌現出微軟DirectX、ATI Stream，但在這場長跑中，勝者屬于CUDA。

而專注，或許是英偉達能從長跑中勝出的原因。微軟的重心不在GPU軟件生態，ATI被AMD收購之后，AMD也更傾向于CPU與GPU的異構協同。軟件是這樣，硬件同樣如此。在李國強看來，英特爾、AMD都是橫跨CPU、GPU和FPGA的龍頭，而英偉達長期專注GPU。

誰能撼動英偉達？

長期專注、不斷奔跑，奠基了英偉達芯片帝國的霸業。而在異構計算大潮下，英偉達也布局多類型芯片。比如前文提及的GH200，就融合了英偉達基于ARM架構的CPU和自身GPU。除此之下，英偉達還通過收購，推出DPU產品。

2020年上半年，英偉達以69億美元對價收購以色列網絡芯片公司Mellanox Technologies，并于同年推出BlueField-2 DPU，將其定義為繼CPU、GPU之后的“第三顆主力芯片”。

CPU、GPU人們已經比較熟悉，DPU又是做什么的？據英偉達官網，DPU是一個用于數據中心基礎設施的先進計算平臺，可大規模提供加速的軟件定義網絡、存儲、安全和管理服務。

張慧娟向記者解釋：“隨著數據量越來越大，使用傳統的CPU處理已經跟不上數據的爆發。尤其是短視頻、視覺類應用，數據量是爆炸式、指數級增長的，DPU應運而生。此前，一些FPGA廠商也在進行這方面的探索，自英偉達收購了這家DPU公司之后，DPU這個市場被迅速帶火了，AMD（2022年斥資19億美元）收購DPU芯片廠商Pensando，國內也涌現出好幾家DPU創業公司。”

在這輪“第三顆主力芯片”大潮中，英偉達也在構建自身的軟件生態，其于2021年推出DOCA。

何為DOCA？英偉達簡單直接地解釋道：“DOCA之于DPU，正如CUDA之于GPU。”

“如果說CUDA是GPU的靈魂，那么DOCA就是DPU的靈魂。因為芯片如果沒有好用的軟件配合，就是一個（干巴巴的）硬件。就如同手機，假如沒有豐富的APP，可能就只能打電話。正是因為有了軟件，讓開發者開發出各種各樣的應用，硬件的應用才如此豐富。”張慧娟表示。

通過硬件架構和軟件生態，英偉達已經在GPU領域構建強大的壁壘。在DPU領域，英偉達似乎也要如法炮制。

誰能撼動英偉達的地位呢？目前可能還沒有。“除非英偉達自己出現重大失誤，但是這樣的可能性很小。”張國斌表示。

劉默認為：“AMD的MI300是目前從硬件水平和軟件生態上最接近H100的產品，無論是國外的初創公司例如Graphcore，還是國內的幾家企業，目前還沒有能夠替代英偉達H100的產品。此外，英偉達依靠其巨大的出貨量以及在芯片制造上的投入，已經和臺積電形成了緊密的合作，而非簡單的客戶與供貨商關系。比如H100使用的4nm制程，就是英偉達和臺積電在公版5nm制程的基礎上進行優化后的特制版本。”

曾經在桌面CPU領域，英特爾也是一騎絕塵。因為領先太多，還有“i3默秒全”的說法，即i3在默認頻率下就能秒AMD全系列。然而AMD在蘇姿豐的帶領下，如今已成功與英特爾平分秋色。

AMD還能在GPU領域上演奇跡嗎？李國強認為：“確實存在這種可能。但英特爾之所以會被AMD趕上來，根本性原因在于其在晶圓制造技術上。當時英特爾在10納米節點停滯了，但AMD是Fabless模式，通過與臺積電合作才翻身。而英偉達本身就和臺積電密切合作。”

一直在奔跑的英偉達，一直在奔跑的黃仁勛，誰又能顛覆呢？

封面圖片來源：視覺中國-VCG31N1237120515