導(dǎo)語：為什么在人工智能熱潮中，英偉達(dá)（Nvidia）成了最大贏家，市值破了萬億？
2022年，美國芯片制造商英偉達(dá)發(fā)布了H100，這是其有史以來最強(qiáng)大的處理器之一，也是最昂貴的處理器之一，每顆價(jià)格約為4萬美元。
這次發(fā)布似乎時(shí)機(jī)不對，企業(yè)在通貨膨脹中正想少花錢。
然后在11月，ChatGPT出現(xiàn)了。
英偉達(dá)的首席執(zhí)行官黃仁勛說："去年相當(dāng)艱難的一年，一夜之間轉(zhuǎn)機(jī)了"。
他說，OpenAI的熱門聊天機(jī)器人是一個(gè) "驚喜時(shí)刻"，"創(chuàng)造了即時(shí)需求"。
ChatGPT的突然流行，引發(fā)了全球大科技公司和初創(chuàng)公司之間的人工智能軍備競賽，這些公司急于獲得H100，黃稱其為 "世界上第一個(gè)為生成性人工智能設(shè)計(jì)的計(jì)算機(jī)（芯片）"，這是指能夠快速創(chuàng)建類似人類的文本、圖像和內(nèi)容的人工智能系統(tǒng)。
在正確的時(shí)間擁有正確的產(chǎn)品，股市大力表揚(yáng)。英偉達(dá)周三宣布，截至7月的三個(gè)月的銷售額將達(dá)到110億美元，比華爾街之前的估計(jì)高出50%以上，因?yàn)榇罂萍脊镜臄?shù)據(jù)中心支出復(fù)蘇以及對AI芯片的需求。
01
5月25日，投資者對這一預(yù)測的狂熱，使英偉達(dá)市值在一天之內(nèi)增加了1840億美元，這家已經(jīng)是世界上最有價(jià)值的芯片公司，估值接近10萬億美元。
英偉達(dá)成為生成性人工智能爆發(fā)式崛起的大贏家，這項(xiàng)技術(shù)有可能重塑各個(gè)行業(yè)，產(chǎn)生巨大的生產(chǎn)力收益，并取代數(shù)百萬的工作崗位。
H100將加速這一技術(shù)飛躍，這種芯片基于被稱為 Hopper "的新的Nvidia芯片架構(gòu)，以美國編程先驅(qū)格雷斯·霍普的名字命名，成了硅谷最熱門的商品。
"這整個(gè)事情就在我們開始生產(chǎn)Hopper的時(shí)候起飛了，"黃說，英偉達(dá)在ChatGPT首次亮相的幾周前，就開始了大規(guī)模的生產(chǎn)。
黃對未來收益的信心，部分源于能夠與芯片制造商臺(tái)積電合作，擴(kuò)大H100的生產(chǎn)規(guī)模，以滿足微軟、亞馬遜和谷歌等云供應(yīng)商、Meta等互聯(lián)網(wǎng)集團(tuán)和企業(yè)客戶的爆炸性需求。
"這是地球上最稀缺的工程資源之一，"人工智能云基礎(chǔ)設(shè)施創(chuàng)業(yè)公司CoreWeave的首席戰(zhàn)略官兼創(chuàng)始人布蘭寧·麥克比說，CoreWeave公司今年早些時(shí)候首批收到H100。
02
一些客戶等了6個(gè)月，才拿到了想要用來訓(xùn)練龐大數(shù)據(jù)模型的數(shù)千個(gè)H100芯片。人工智能初創(chuàng)企業(yè)擔(dān)心H100會(huì)供不應(yīng)求。
馬斯克為自己新成立的人工智能公司X.ai購買了數(shù)千顆Nvidia芯片，他在本周的華爾街日報(bào)活動(dòng)上說，目前GPU（圖形處理單元）"比毒品更難獲得"。
他開玩笑說，"在舊金山，這其實(shí)不是一個(gè)高標(biāo)準(zhǔn)"。
馬斯克說："計(jì)算的成本已經(jīng)達(dá)到了天文數(shù)字，為了建立生成性人工智能系統(tǒng)，服務(wù)器硬件的最低門檻必須是2.5億美元"。
H100被證明特別受微軟和亞馬遜等大型科技公司的歡迎，這些公司正在建立以人工智能工作負(fù)載為中心的整個(gè)數(shù)據(jù)中心，以及OpenAI、Anthropic、Stability AI和Inflection AI等生成性人工智能初創(chuàng)公司。
這種芯片有更高的性能，可以加速產(chǎn)品的推出或隨著時(shí)間的推移降低培訓(xùn)成本。
"就獲得進(jìn)入權(quán)限而言，是的，這就是提升新架構(gòu)GPU的感覺，英偉達(dá)的超大規(guī)模和高性能計(jì)算業(yè)務(wù)負(fù)責(zé)人伊恩·巴克說，他負(fù)責(zé)增加H100的供應(yīng)以滿足需求，一個(gè)艱巨任務(wù)。
他說："這是超大規(guī)模的，一些大客戶需要數(shù)以萬計(jì)的GPU"。
03
這種不同尋常的大型芯片，是數(shù)據(jù)中心的 "加速器"，擁有800億個(gè)晶體管，是最新iPhone處理器的五倍。雖然價(jià)格是2020年發(fā)布的A100的兩倍，但一些已經(jīng)用上的公司，說H100的性能至少是三倍。
"H100解決了一直困擾（人工智能）模型創(chuàng)造者的可擴(kuò)展性問題，"Stable Diffusion圖像生成服務(wù)的公司之一，Stability AI的聯(lián)合創(chuàng)始人兼首席執(zhí)行官埃馬德·莫斯塔克說。"這很重要，因?yàn)樗屛覀兌寄芨斓赜?xùn)練更大的模型，因?yàn)檫@已經(jīng)從一個(gè)研究問題變成了一個(gè)工程問題。"
雖然H100的推出時(shí)機(jī)非常理想，但Nvidia在人工智能方面的突破，可以追溯到近二十年前的軟件創(chuàng)新，而不是硅。
英偉達(dá)的Cuda軟件創(chuàng)建于2006年，允許GPU作為加速器被重新用于圖形以外的其他類型的工作負(fù)載。然后在2012年左右，巴克解釋說，"人工智能找到了我們"。
加拿大研究人員意識到，GPU非常適合創(chuàng)建神經(jīng)網(wǎng)絡(luò)，這是一種受人腦中神經(jīng)元互動(dòng)方式啟發(fā)的人工智能形式，當(dāng)時(shí)正成為人工智能發(fā)展的一個(gè)新焦點(diǎn)。巴克說："我們花了近20年時(shí)間才達(dá)到今天的水平。"
英偉達(dá)現(xiàn)在擁有比硬件工程師更多的軟件工程師，能夠支持隨后幾年出現(xiàn)的許多不同種類的人工智能框架，并使芯片在訓(xùn)練人工智能模型所需的統(tǒng)計(jì)計(jì)算方面更加高效。
Hopper是第一個(gè)針對“Transformer模型”進(jìn)行優(yōu)化的架構(gòu)，這種方法是OpenAI的“生成式預(yù)訓(xùn)練變換（generative pre-trained transforme）”聊天機(jī)器人的基礎(chǔ)。
英偉達(dá)與AI研究人員的緊密合作，使其能夠在2017年發(fā)現(xiàn)Transformer模型的出現(xiàn)，并開始相應(yīng)地調(diào)整其軟件。"
"Transformers"在這里指的是一種機(jī)器學(xué)習(xí)模型，特別是在自然語言處理領(lǐng)域中廣泛使用的模型。這種模型基于"注意力機(jī)制"（Attention Mechanism）工作，能夠捕捉輸入數(shù)據(jù)（如文本）中的復(fù)雜模式和依賴關(guān)系。
"英偉達(dá)可以說比其他人更早地看到了未來，他們的支點(diǎn)是使GPU可編程，"AI初創(chuàng)企業(yè)的投資者Air Street Capital的普通合伙人內(nèi)森·貝奈奇說。"發(fā)現(xiàn)了一個(gè)機(jī)會(huì)，并下了大賭注，而且一直超過了競爭對手。"
貝奈奇估計(jì)，英偉達(dá)比競爭對手有兩年的領(lǐng)先優(yōu)勢，但他也說："英偉達(dá)的地位在硬件和軟件方面都遠(yuǎn)非不可撼動(dòng)。"
Stability AI的莫斯塔克也同意，"谷歌、英特爾和其他公司的下一代芯片正在迎頭趕上，隨著軟件的標(biāo)準(zhǔn)化，即使是Cuda也變得不再是一道護(hù)城河。"
對人工智能行業(yè)的一些人來說，華爾街本周的熱情看起來過于樂觀了。然而，芯片咨詢公司D2D咨詢公司的創(chuàng)始人杰伊·戈德堡說，"就目前而言，還在半路上的人工智能市場，看起來仍將是屬于英偉達(dá)的贏家通吃市場。"