黃仁勛“最新劇透”:英偉達(dá)最新AI芯片售價將超22萬元!研發(fā)成本花費(fèi)超700億元

2024-03-21 10:50:18

據(jù)外媒3月19日報道,英偉達(dá)CEO黃仁勛稱英偉達(dá)最新的AI芯片Blackwell售價將在3萬美元(約合人民幣22萬元)至4萬美元之間。他估計(jì),英偉達(dá)在研發(fā)成本上花費(fèi)了大約100億美元(約合人民幣720億元)。

該價格表明,該芯片很可能是訓(xùn)練和部署ChatGPT等人工智能軟件的熱門芯片,其定價范圍將與其前身H100(即Hopper)相似。

黃仁勛訴CNBC的Kristina Partsinevilos,成本不僅與芯片有關(guān),還與設(shè)計(jì)數(shù)據(jù)中心和集成到其他公司的數(shù)據(jù)中心有關(guān)。

北京時間3月19日凌晨4點(diǎn),全球市值第三大公司英偉達(dá)在美國加州圣何塞舉辦GTC大會正式開幕,經(jīng)典皮衣造型的黃仁勛在會上正式公布了堪稱“核武級”的NVIDIA Blackwell架構(gòu)及其首款芯片B200,這款雙芯片設(shè)計(jì),擁有2080億個晶體管。

該芯片預(yù)計(jì)將在今年晚些時候發(fā)貨。

Blackwell平臺能夠在萬億參數(shù)級的大型語言模型(LLM)上構(gòu)建和運(yùn)行實(shí)時生成式AI,而成本和能耗比前身低25倍。

據(jù)悉,英偉達(dá)稱,Blackwell擁有六項(xiàng)革命性的技術(shù),可以支持多達(dá)10萬億參數(shù)的模型進(jìn)行AI訓(xùn)練和實(shí)時LLM推理:

全球最強(qiáng)大的芯片:Blackwell架構(gòu)GPU由2080億個晶體管組成,采用量身定制的臺積電4納米工藝制造,兩個reticle極限GPU裸片將10 TB/秒的芯片到芯片鏈路連接成單個統(tǒng)一的GPU。

第二代Transformer引擎:結(jié)合了Blackwell Tensor Core技術(shù)和TensorRT-LLM和NeMo Megatron框架中的英偉達(dá)先進(jìn)動態(tài)范圍管理算法,Blackwell將通過新的4位浮點(diǎn)AI支持雙倍的計(jì)算和模型大小推理能力。

第五代NVLink:為提高數(shù)萬億參數(shù)和混合專家AI模型的性能,最新一代英偉達(dá)NVLink為每個GPU提供了突破性的1.8TB/s雙向吞吐量,確保最復(fù)雜LLM之間多達(dá)576個GPU之間的無縫高速通信。

RAS引擎:Blackwell支持的GPU包含一個專用引擎,實(shí)現(xiàn)可靠性、可用性和服務(wù)性。此外,Blackwell架構(gòu)還增加了芯片級功能,利用基于AI的預(yù)防性維護(hù)進(jìn)行診斷和預(yù)測可靠性問題。這可以最大限度地延長系統(tǒng)正常運(yùn)行時間,并提高大部署規(guī)模AI的彈性,使其能連續(xù)運(yùn)行數(shù)周甚至數(shù)月,并降低運(yùn)營成本。

安全人工智能:先進(jìn)的機(jī)密計(jì)算功能可在不影響性能的情況下保護(hù)AI模型和客戶數(shù)據(jù),并支持新的本機(jī)接口加密協(xié)議,這對于醫(yī)療保健和金融服務(wù)等隱私敏感行業(yè)至關(guān)重要。

解壓縮引擎:專用解壓縮引擎支持最新格式,加快數(shù)據(jù)庫查詢,提供數(shù)據(jù)分析和數(shù)據(jù)科學(xué)的最高性能。未來幾年,在企業(yè)每年花費(fèi)數(shù)百億美元的數(shù)據(jù)處理方面,將越來越多地由GPU加速。

Blackwell GPU體積龐大,將兩個單獨(dú)制造的晶粒組合成一個由臺積電制造的芯片。它還將作為一款名為GB200 NVLink 2的整個服務(wù)器提供,該服務(wù)器結(jié)合了72個Blackwell GPU和其他旨在訓(xùn)練AI模型的英偉達(dá)部件。

亞馬遜、谷歌、微軟和甲骨文將通過云服務(wù)提供對GB200的訪問。GB200將兩個B200 Blackwell GPU與一個基于Arm的Grace CPU配對。英偉達(dá)表示,亞馬遜網(wǎng)絡(luò)服務(wù)將構(gòu)建一個包含20000個GB200芯片的服務(wù)器集群。

在人工智能(AI)領(lǐng)域開發(fā)者盛會——英偉達(dá)2024 GTC 期間,英偉達(dá)創(chuàng)始人兼CEO黃仁勛自信地放出豪言,英偉達(dá)會在一年可“掘金”幾千億美元的數(shù)據(jù)中心市場搶到更多的“蛋糕”。

黃仁勛告訴與會者,因?yàn)橛ミ_(dá)生產(chǎn)的芯片和軟件種類繁多,所以公司處于有利地位,在全球數(shù)據(jù)中心設(shè)備的支出中,會有一大部分都來自英偉達(dá)的產(chǎn)品。

黃仁勛預(yù)計(jì),每年全球?qū)?shù)據(jù)中心設(shè)備投入的費(fèi)用將共計(jì)2500億美元,英偉達(dá)產(chǎn)品在其中占據(jù)的份額將超過其他芯片生產(chǎn)商。英偉達(dá)正致力于開發(fā)軟件,以便各行各業(yè)采用和使用AI技術(shù)。英偉達(dá)提供AI模型和其他軟件,然后根據(jù)客戶的算力和運(yùn)行的芯片數(shù)量向客戶收費(fèi)。

(稿件來源:每經(jīng)網(wǎng))

責(zé)任編輯:陳科辰

掃一掃分享本頁