每日經濟新聞 2024-03-20 09:17:29
每經編輯 杜宇
據媒體3月19日報道,英偉達CEO黃仁勛稱英偉達最新的AI芯片Blackwell售價將在3萬美元(約合人民幣22萬元)至4萬美元之間。他估計,英偉達在研發成本上花費了大約100億美元(約合人民幣720億元)。
圖片來源:CNBC報道截圖
該價格表明,該芯片很可能是訓練和部署ChatGPT等人工智能軟件的熱門芯片,其定價范圍將與其前身H100(即Hopper)相似。
黃仁勛訴CNBC的Kristina Partsinevilos,成本不僅與芯片有關,還與設計數據中心和集成到其他公司的數據中心有關。
北京時間3月19日凌晨4點,全球市值第三大公司英偉達在美國加州圣何塞舉辦GTC大會正式開幕,經典皮衣造型的黃仁勛在會上正式公布了堪稱“核武級”的NVIDIA Blackwell架構及其首款芯片B200,這款雙芯片設計,擁有2080億個晶體管。
該芯片預計將在今年晚些時候發貨。
Blackwell平臺能夠在萬億參數級的大型語言模型(LLM)上構建和運行實時生成式AI,而成本和能耗比前身低25倍。
圖片來源:視頻截圖
據悉,英偉達稱,Blackwell擁有六項革命性的技術,可以支持多達10萬億參數的模型進行AI訓練和實時LLM推理:
全球最強大的芯片:Blackwell架構GPU由2080億個晶體管組成,采用量身定制的臺積電4納米工藝制造,兩個reticle極限GPU裸片將10 TB/秒的芯片到芯片鏈路連接成單個統一的GPU。
第二代Transformer引擎:結合了Blackwell Tensor Core技術和TensorRT-LLM和NeMo Megatron框架中的英偉達先進動態范圍管理算法,Blackwell將通過新的4位浮點AI支持雙倍的計算和模型大小推理能力。
第五代NVLink:為提高數萬億參數和混合專家AI模型的性能,最新一代英偉達NVLink為每個GPU提供了突破性的1.8TB/s雙向吞吐量,確保最復雜LLM之間多達576個GPU之間的無縫高速通信。
RAS引擎:Blackwell支持的GPU包含一個專用引擎,實現可靠性、可用性和服務性。此外,Blackwell架構還增加了芯片級功能,利用基于AI的預防性維護進行診斷和預測可靠性問題。這可以最大限度地延長系統正常運行時間,并提高大部署規模AI的彈性,使其能連續運行數周甚至數月,并降低運營成本。
安全人工智能:先進的機密計算功能可在不影響性能的情況下保護AI模型和客戶數據,并支持新的本機接口加密協議,這對于醫療保健和金融服務等隱私敏感行業至關重要。
解壓縮引擎:專用解壓縮引擎支持最新格式,加快數據庫查詢,提供數據分析和數據科學的最高性能。未來幾年,在企業每年花費數百億美元的數據處理方面,將越來越多地由GPU加速。
圖片來源:視頻截圖
Blackwell GPU體積龐大,將兩個單獨制造的晶粒組合成一個由臺積電制造的芯片。它還將作為一款名為GB200 NVLink 2的整個服務器提供,該服務器結合了72個Blackwell GPU和其他旨在訓練AI模型的英偉達部件。
亞馬遜、谷歌、微軟和甲骨文將通過云服務提供對GB200的訪問。GB200將兩個B200 Blackwell GPU與一個基于Arm的Grace CPU配對。英偉達表示,亞馬遜網絡服務將構建一個包含20000個GB200芯片的服務器集群。
在人工智能(AI)領域開發者盛會——英偉達2024 GTC 期間,英偉達創始人兼CEO黃仁勛自信地放出豪言,英偉達會在一年可“掘金”幾千億美元的數據中心市場搶到更多的“蛋糕”。
黃仁勛告訴與會者,因為英偉達生產的芯片和軟件種類繁多,所以公司處于有利地位,在全球數據中心設備的支出中,會有一大部分都來自英偉達的產品。
黃仁勛預計,每年全球對數據中心設備投入的費用將共計2500億美元,英偉達產品在其中占據的份額將超過其他芯片生產商。英偉達正致力于開發軟件,以便各行各業采用和使用AI技術。英偉達提供AI模型和其他軟件,然后根據客戶的算力和運行的芯片數量向客戶收費。
截至當地時間3月19日收盤,英偉達報893.98美元,漲幅1.07%,市值2.2萬億美元。
每日經濟新聞綜合公開資料
免責聲明:本文內容與數據僅供參考,不構成投資建議,使用前請核實。據此操作,風險自擔。
如需轉載請與《每日經濟新聞》報社聯系。
未經《每日經濟新聞》報社授權,嚴禁轉載或鏡像,違者必究。
讀者熱線:4008890008
特別提醒:如果我們使用了您的圖片,請作者與本站聯系索取稿酬。如您不希望作品出現在本站,可聯系我們要求撤下您的作品。
歡迎關注每日經濟新聞APP