6月2日晚間，英偉達（NVIDIA）CEO黃仁勛在中國臺灣大學(xué)綜合體育館發(fā)表主題為“開啟產(chǎn)業(yè)革命的全新時代”的主題演講。在長達兩個小時的發(fā)言中，黃仁勛梳理并介紹了英偉達如何推動人工智能（AI）演進，以及AI如何變革工業(yè)。同時，他還宣布，Blackwell芯片現(xiàn)已開始投產(chǎn)，2025年將會推出Blackwell Ultra GPU芯片。下一代AI平臺名為“Rubin”，將集成HBM4內(nèi)存，將于2026年發(fā)布。
過去十年，計算成本降低了100萬倍
計算機行業(yè)發(fā)展至今已有 60 年的歷史。從IBM System 360 引入了中央處理單元、通用計算、通過操作系統(tǒng)實現(xiàn)硬件和軟件的分離、多任務(wù)處理、IO子系統(tǒng)、DMA以及今天使用的各種技術(shù)。架構(gòu)兼容性、向后兼容性、系列兼容性，所有今天對計算機了解的東西，大部分在1964 年就已經(jīng)描述出來了。PC 革命使計算民主化，把它放在了每個人的手中和家中。
2007 年，iPhone 引入了移動計算，把計算機放進了我們的口袋。從那時起，一切都在連接并隨時運行通過移動云。這 60 年來，我們只見證了兩三次，確實不多，其實就兩三次，主要的技術(shù)變革，計算的兩三次構(gòu)造轉(zhuǎn)變，而我們即將再次見證這一切的發(fā)生，即GPU（圖形處理器）所帶來的加速計算。
黃仁勛表示，計算機行業(yè)在中央處理器（CPU）上運行的引擎，其性能擴展速度已經(jīng)大大降低。但我們必須做的計算量，仍然在以指數(shù)級的速度增長，如果所需的性能沒有如此增長，那么行業(yè)將經(jīng)歷計算的通貨膨脹。和計算成本的提升。他指出，有一種更好的方法增強計算機的處理性能，減輕CPU的負擔(dān)，那便是通過專用處理器，來實現(xiàn)了對于密集型應(yīng)用程序的加速。
“現(xiàn)在，隨著CPU擴展速度放緩，最終基本停止，我們應(yīng)該加快讓每一個處理密集型應(yīng)用程序都得到加速，每個數(shù)據(jù)中心也肯定會得到加速，加速計算是非常明智的，這是很普通的常識。”黃仁勛表示。
他指出，計算機圖形學(xué)是一門完全可以并行操作的學(xué)科。計算機圖形學(xué)、圖像處理、物理模擬、組合優(yōu)化、圖形處理、數(shù)據(jù)庫處理，以及深度學(xué)習(xí)中非常*的線性代數(shù)，許多類型的算法都非常適合通過并行處理來加速。
“通過結(jié)合GPU和CPU可以加速計算。我們可以讓計算速度加快100倍，但功耗只增加了大約三倍，成本只增加了約 50%。”黃仁勛表示，英偉達在 PC 行業(yè)一直這樣做，比如在1000 美元 PC 上加一個 500 美元 GeForce GPU，性能會大幅提升。在數(shù)據(jù)中心領(lǐng)域，英偉達也是這樣做的，10億美元的數(shù)據(jù)中心增加了5億美元的GPU，它一下子變成了AI工廠。通過加速運算，還可以節(jié)省成本和能源。
黃仁勛指出，每一次加快應(yīng)用程序的速度，計算成本就會下降，速度上升100倍，就可以節(jié)省96%、97%、98%的成本。在過去十年間，一種特定算法的邊際計算成本降低了100萬倍。“現(xiàn)在我們得以用互聯(lián)網(wǎng)上所有數(shù)據(jù)來訓(xùn)練大語言模型。人工智能出現(xiàn)成為可能，是因為我們相信隨著計算變得越來越*，將會有人找到很好的用途。”
英偉達推動了大語言模型的誕生
黃仁勛強調(diào)，加速計算確實帶來了非凡的成果，但它并不容易。原因是因為這非常難。沒有一種軟件可以通過C編譯器運行，突然間應(yīng)用程序就快了100倍。這甚至不合邏輯。如果可以做到這一點，他們早就改造 CPU了。因此，對于英偉達來說，必須重寫軟件，這是最難的部分。軟件必須完全重寫，以便能夠重新表達在 CPU 上編寫的算法，使其能夠被加速、卸載并行運行。這種計算機科學(xué)的改變極其困難。
為了推動GPU所能夠帶來的計算加速，英偉達在2012年后改變了GPU的架構(gòu)，采用Tensor Core（張量計算單元），并推出了一種協(xié)助“CPU任務(wù)分發(fā)+GPU并行處理”的編程模型/平臺——CUDA，用于加速GPU和CPU之間的計算。 可以說，CUDA 增強了 CPU，卸載并加速了專用處理器可以更好完成的工作。
隨后，黃仁勛花了較大篇幅來強調(diào)英偉達運算平臺CUDA的重要性。黃仁勛表示，作為使用神經(jīng)網(wǎng)絡(luò)來進行深度學(xué)習(xí)的平臺，CUDA顯著推動了計算機科學(xué)在近20年內(nèi)的進展。現(xiàn)在，全球已有500萬名CUDA開發(fā)者。
黃仁勛指出，CUDA已經(jīng)實現(xiàn)了“良性循環(huán)”，能夠在運算基礎(chǔ)不斷增長的情況下，擴大生態(tài)系統(tǒng)，令成本不斷下降：“這將促使更多的開發(fā)人員提出更多的想法，帶來更多的需求實驗，成為偉大事業(yè)的開端。”
在CUDA之后，英偉達還發(fā)明了NVLink（一種總線及其通信協(xié)議），然后是TensorRT、NCCL，收購了Mellanox，推出TensorRT-ML、Triton推理服務(wù)器，所有這些都整合在一臺全新的計算機上，助力了生成式AI的誕生。
“當(dāng)時沒人理解這件事（推出CUDA，并使得英偉達GPU支持CUDA），我也不認為會有人來買，當(dāng)時我們在GTC大會上宣布了這件事，舊金山的一家小公司OpenAI看到了，他們便要我給他們送去一臺。”黃仁勛表示，2016年，英偉達向OpenAI交付了*臺DGX超級計算機，隨后繼續(xù)擴展超級計算機的能力，以便訓(xùn)練大量數(shù)據(jù)。2022年11月，基于成千上萬的英偉達GPU加速卡，OpenAI推出了ChatGPT，并在5天內(nèi)收獲了上百萬名用戶。
加速新的工業(yè)革命
黃仁勛表示，生成式人工智能的崛起，意味著我們可以學(xué)習(xí)并模擬物理現(xiàn)象，讓人工智能模型理解并生成物理*的各種現(xiàn)象。我們不再局限于縮小范圍進行過濾，而是通過生成的方式探索無限可能。
如今，我們幾乎可以為任何有價值的事物生成Token，無論是汽車的轉(zhuǎn)向盤控制、機械臂的關(guān)節(jié)運動，還是我們目前能夠?qū)W習(xí)的任何知識。因此，我們所處的已不僅僅是一個人工智能時代，而是一個生成式人工智能引領(lǐng)的新紀元。
更重要的是，英偉達最初作為超級計算機出現(xiàn)的設(shè)備，如今已經(jīng)演化為一個高效運轉(zhuǎn)的人工智能數(shù)據(jù)中心。它不斷地產(chǎn)出，不僅生成Token，更是一個創(chuàng)造價值的人工智能工廠。這個人工智能工廠正在生成、創(chuàng)造和生產(chǎn)具有巨大市場潛力的新商品。
“正如19世紀末尼古拉·特斯拉（Nikola Tesla）發(fā)明了交流發(fā)電機，為我們帶來了源源不斷的電子，英偉達的人工智能生成器也正在源源不斷地產(chǎn)生具有無限可能性的Token。這兩者都有巨大的市場機會，有望在每個行業(yè)掀起變革。這確實是一場新的工業(yè)革命！”
黃仁勛興奮的說道：“價值3萬億美元的IT行業(yè)，即將催生出能夠直接服務(wù)于100萬億美元產(chǎn)業(yè)的創(chuàng)新成果。它不再僅僅是信息存儲或數(shù)據(jù)處理的工具，而是每個行業(yè)生成智能的引擎。這將成為一種新型的制造業(yè)，但它并非傳統(tǒng)的計算機制造業(yè)，而是利用計算機進行制造的全新模式。這樣的變革以前從未發(fā)生過，這確實是一件令人矚目的非凡之事。”
Blackwell已投產(chǎn)，2026年推出Rubin GPU
在今年3月的GTC2024大會，英偉達正式發(fā)布了面向下一代數(shù)據(jù)中心和人工智能應(yīng)用的Blackwell GPU，時隔僅不到3個月，在此次的臺大演講當(dāng)中，黃仁勛就披露了下一代的Blackwell Ultra GPU和再下一代的Rubin GPU。
據(jù)介紹，目前Blackwell芯片已經(jīng)開始投產(chǎn)，它是當(dāng)今*上最復(fù)雜、性能最高的計算芯片。相比八年前的Pascal芯片，Blackwell芯片的AI算力提升了1000倍。
黃仁勛表示，英偉達在8年時間里，計算能力、浮點運算以及人工智能浮點運算能力增長了1000倍。這樣的增長速度，幾乎超越了摩爾定律在最佳時期的增長。
此外，相比八年前的Pascal芯片，Blackwell芯片用于訓(xùn)練GPT-4模型（2萬億參數(shù)和8萬億Token）訓(xùn)練的能耗下降了350倍。
黃仁勛解釋稱，如果使用Pascal進行同樣的（GPT-4模型）訓(xùn)練，它將消耗高達1000吉瓦時的能量。這意味著需要一個吉瓦數(shù)據(jù)中心來支持，但*上并不存在這樣的數(shù)據(jù)中心。即便存在，它也需要連續(xù)運行一個月的時間。而如果是一個100兆瓦的數(shù)據(jù)中心，那么訓(xùn)練時間將長達一年。然而，利用Blackwell進行訓(xùn)練，則可以將原本需要高達1000吉瓦時的能量降低到僅需3吉瓦時，這一成就無疑是令人震驚的突破。想象一下，使用1000個GPU，它們所消耗的能量竟然只相當(dāng)于一杯咖啡的熱量。而10,000個GPU，更是只需短短10天左右的時間就能完成同等任務(wù)。
Blackwell不僅適用于推理，其在Token生成性能上的提升更是令人矚目。在Pascal時代，生成每個Token消耗的能量高達17,000焦耳，這大約相當(dāng)于兩個燈泡運行兩天的能量。而生成一個GPT-4的Token，幾乎需要兩個200瓦特的燈泡持續(xù)運行兩天。考慮到生成一個單詞大約需要3個Token，這確實是一個巨大的能量消耗。
現(xiàn)在的情況已經(jīng)截然不同，Blackwell的推出使得生成每個Token只需消耗0.4焦耳的能量，以驚人的速度和極低的能耗進行Token生成。相比Pascal的Token生成能耗降低了約350倍，這無疑是一個巨大的飛躍。
但即使如此，英偉達仍不滿足，為了更大的突破，在推出整合Blackwell芯片的DGX系統(tǒng)的同時，英偉達還在持續(xù)研發(fā)新一代的GPU。
黃仁勛透露，英偉達將會在2025年推出增強版的Blackwell Ultra GPU（8S HBM3e 12H）。在2026年，英偉達還將推出再下一代的Rubin GPU，將集成8顆HBM4，隨后在2027年，將推出Rubin Ultra GPU，將集成12顆HBM4版本。
根據(jù)外媒wccftech介紹，Rubin GPU將采用4x光罩設(shè)計，并將使用臺積電3nm制程，以及CoWoS-L封裝技術(shù)。
“在此展示的所有的新的芯片都處于*開發(fā)階段，確保每一個細節(jié)都經(jīng)過精心打磨。我們的更新節(jié)奏依然是一年一次，始終追求技術(shù)的*，同時確保所有產(chǎn)品都保持100%的架構(gòu)兼容性。”黃仁勛說道。
生成式AI加速以太網(wǎng)
但對于新的基于AI的工業(yè)革命來說，光有AI算力的提升這還不足以滿足需求，特別是對于大型人工智能工廠來說更是如此，因此還必須使用高速網(wǎng)絡(luò)將這些人工智能工廠連接起來。
對此，英偉達推出了兩種網(wǎng)絡(luò)選擇：InfiniBand和以太網(wǎng)。其中，InfiniBand已經(jīng)在全球各地的超級計算和人工智能工廠中廣泛使用，并且增長迅速。然而，并非每個數(shù)據(jù)中心都能直接使用InfiniBand，因為很多企業(yè)在以太網(wǎng)生態(tài)系統(tǒng)上進行了大量投資，而且管理InfiniBand交換機和網(wǎng)絡(luò)確實需要一定的專業(yè)知識和技術(shù)。
因此，英偉達的解決方案是將InfiniBand的性能帶到以太網(wǎng)架構(gòu)中，這并非易事。原因在于，每個節(jié)點、每臺計算機通常與互聯(lián)網(wǎng)上的不同用戶相連，但大多數(shù)通信實際上發(fā)生在數(shù)據(jù)中心內(nèi)部，即數(shù)據(jù)中心與互聯(lián)網(wǎng)另一端用戶之間的數(shù)據(jù)傳輸。然而，在人工智能工廠的深度學(xué)習(xí)場景下，GPU并不是與互聯(lián)網(wǎng)上的用戶進行通信，而是彼此之間進行頻繁的、密集的數(shù)據(jù)交換。
它們相互通信是因為它們都在收集部分結(jié)果。然后它們必須將這些部分結(jié)果進行規(guī)約（reduce）并重新分配（redistribute）。
這種通信模式的特點是高度突發(fā)性的流量。重要的不是平均吞吐量，而是最后一個到達的數(shù)據(jù)，因為如果你正在從所有人那里收集部分結(jié)果，并且我試圖接收你所有的部分結(jié)果，如果最后一個數(shù)據(jù)包晚到了，那么整個操作就會延遲。對于人工智能工廠而言，延遲是一個至關(guān)重要的問題。
所以，英偉達關(guān)注的焦點并非平均吞吐量，而是確保最后一個數(shù)據(jù)包能夠準時、無誤地抵達。然而，傳統(tǒng)的以太網(wǎng)并未針對這種高度同步化、低延遲的需求進行優(yōu)化。為了滿足這一需求，我們創(chuàng)造性地設(shè)計了一個端到端的架構(gòu)，使NIC（網(wǎng)絡(luò)接口卡）和交換機能夠通信。
為了實現(xiàn)這一目標(biāo)，英偉達采用了四種關(guān)鍵技術(shù)：
*，英偉達擁有業(yè)界*的RDMA（遠程直接內(nèi)存訪問）技術(shù)。現(xiàn)在，我們有了以太網(wǎng)網(wǎng)絡(luò)級別的RDMA，它的表現(xiàn)非常*；
第二，引入了擁塞控制機制。交換機具備實時遙測功能，能夠迅速識別并響應(yīng)網(wǎng)絡(luò)中的擁塞情況。當(dāng)GPU或NIC發(fā)送的數(shù)據(jù)量過大時，交換機會立即發(fā)出信號，告知它們減緩發(fā)送速率，從而有效避免網(wǎng)絡(luò)熱點的產(chǎn)生。
第三，采用了自適應(yīng)路由技術(shù)。傳統(tǒng)以太網(wǎng)按固定順序傳輸數(shù)據(jù)，但在英偉達的架構(gòu)中，其能夠根據(jù)實時網(wǎng)絡(luò)狀況進行靈活調(diào)整。當(dāng)發(fā)現(xiàn)擁塞或某些端口空閑時，可以將數(shù)據(jù)包發(fā)送到這些空閑端口，再由另一端的Bluefield設(shè)備重新排序，確保數(shù)據(jù)按正確順序返回。這種自適應(yīng)路由技術(shù)極大地提高了網(wǎng)絡(luò)的靈活性和效率。
第四，實施了噪聲隔離技術(shù)。在數(shù)據(jù)中心中，多個模型同時訓(xùn)練產(chǎn)生的噪聲和流量可能會相互干擾，并導(dǎo)致抖動。英偉達的噪聲隔離技術(shù)能夠有效地隔離這些噪聲，確保關(guān)鍵數(shù)據(jù)包的傳輸不受影響。
通過采用這些技術(shù)，英偉達成功地為人工智能工廠提供了高性能、低延遲的網(wǎng)絡(luò)解決方案。在價值高達數(shù)十億美元的數(shù)據(jù)中心中，如果網(wǎng)絡(luò)利用率提升40%而訓(xùn)練時間縮短20%，這實際上意味著價值50億美元的數(shù)據(jù)中心在性能上等同于一個60億美元的數(shù)據(jù)中心，揭示了網(wǎng)絡(luò)性能對整體成本效益的顯著影響。
幸運的是，帶有Spectrum X的以太網(wǎng)技術(shù)正是英偉達實現(xiàn)這一目標(biāo)的關(guān)鍵，它大大提高了網(wǎng)絡(luò)性能，使得網(wǎng)絡(luò)成本相對于整個數(shù)據(jù)中心而言幾乎可以忽略不計。這無疑是英偉達在網(wǎng)絡(luò)技術(shù)領(lǐng)域取得的一大成就。
目前英偉達已經(jīng)擁有一系列強大的以太網(wǎng)產(chǎn)品線，其中最引人注目的是Spectrum X800。這款設(shè)備以每秒51.2 TB的速度和256路徑（radix）的支持能力，為成千上萬的GPU提供了高效的網(wǎng)絡(luò)連接。接下來，我們計劃一年后推出X800 Ultra，它將支持高達512路徑的512 radix，進一步提升了網(wǎng)絡(luò)容量和性能。而X 1600則是為更大規(guī)模的數(shù)據(jù)中心設(shè)計的，能夠滿足數(shù)百萬個GPU的通信需求。
黃仁勛強調(diào)，隨著技術(shù)的不斷進步，數(shù)百萬個GPU的數(shù)據(jù)中心時代已經(jīng)指日可待。這一趨勢的背后有著深刻的原因。一方面，我們渴望訓(xùn)練更大、更復(fù)雜的模型；但更重要的是，未來的互聯(lián)網(wǎng)和計算機交互將越來越多地依賴于云端的生成式人工智能。這些人工智能將與我們一起工作、互動，生成視頻、圖像、文本甚至數(shù)字人。因此，我們與計算機的每一次交互幾乎都離不開生成式人工智能的參與。并且總是有一個生成式人工智能與之相連，其中一些在本地運行，一些在你的設(shè)備上運行，很多可能在云端運行。這些生成式人工智能不僅具備強大的推理能力，還能對答案進行迭代優(yōu)化，以提高答案的質(zhì)量。這意味著我們未來將產(chǎn)生海量的數(shù)據(jù)生成需求。
英偉達還宣布，包括華碩、技嘉、鴻佰科技、英業(yè)達、和碩、云達科技、美超威、緯創(chuàng)及緯穎、永擎電子等將利用英偉達的GPU與網(wǎng)絡(luò)技術(shù)，推出云端、本地端、嵌入式與邊緣AI系統(tǒng)。
AI機器人時代已經(jīng)到來
展望未來，機器人技術(shù)將不再是一個遙不可及的概念，而是日益融入我們的日常生活。當(dāng)提及機器人技術(shù)時，人們往往會聯(lián)想到人形機器人，但實際上，它的應(yīng)用遠不止于此。機械化將成為常態(tài)，工廠將*實現(xiàn)自動化，機器人將協(xié)同工作，制造出一系列機械化產(chǎn)品。它們之間的互動將更加密切，共同創(chuàng)造出一個高度自動化的生產(chǎn)環(huán)境。
黃仁勛指出：“結(jié)合AI的機器人時代已經(jīng)到來。有朝一日，移動的物體都將實現(xiàn)自主運行。我們正致力于通過推進英偉達機器人堆棧的發(fā)展，來加速生成式物理AI，其中包括用于仿真應(yīng)用的 Omniverse、Project GR00T人形機器人基礎(chǔ)模型，以及Jetson Thor機器人計算平臺等。”
基于此，英偉達宣布，比亞迪電子、西門子、泰瑞達和 Alphabet 旗下公司Intrinsic等全球十多家機器人企業(yè)，正在采用英偉達的機器人平臺NVIDIA Isaac研究、開發(fā)和生產(chǎn)下一代 AI 賦能的自主機器和機器人，以此提高工廠、倉庫和配送中心的工作效率，使機器人的人類同事更安全地工作，并使機器人成為執(zhí)行重復(fù)性或超精密任務(wù)的智能助手。
未來，工廠內(nèi)的機器人將成為主流，它們將制造所有的產(chǎn)品，其中兩個高產(chǎn)量機器人產(chǎn)品尤為引人注目：一個是自動駕駛汽車或具備高度自主能力的汽車；另一個則可能是由機器人工廠高產(chǎn)量制造的產(chǎn)品是人形機器人。
在自動駕駛汽車方面，英偉達宣布，明年計劃計劃與梅賽德斯-奔馳車隊攜手，隨后在2026年與捷豹路虎（JLR）車隊合作。英偉達提供完整的解決方案堆棧，但客戶可根據(jù)需求選擇其中的任何部分或?qū)蛹墸驗檎麄€驅(qū)動堆棧都是開放和靈活的。
在人形機器人方面，黃仁勛表示，“近年來，在認知能力和*理解能力方面取得了巨大突破，這一領(lǐng)域的發(fā)展前景令人期待。我對人形機器人特別興奮，因為它們最有可能適應(yīng)我們?yōu)槿祟愃鶚?gòu)建的*。與其他類型的機器人相比，訓(xùn)練人形機器人需要大量的數(shù)據(jù)。由于我們擁有相似的體型，通過演示和視頻能力提供的大量訓(xùn)練數(shù)據(jù)將*價值。因此，我們預(yù)計這一領(lǐng)域?qū)⑷〉蔑@著的進步。”
黃仁勛還提出“數(shù)字人類”（digital humans）的概念，稱“數(shù)字人類是我們的愿景”，可應(yīng)用在客服、廣告及電玩游戲等產(chǎn)業(yè)。
將加碼AI PC市場？
在演講中，黃仁勛還披露了英偉達進軍AI PC的企圖心。黃仁勛強調(diào)，英偉達在每一個 RTX GPU 中安裝了張量核心處理器，因此也可以理解為，現(xiàn)在全球有 1 億臺基于 GeForce RTX 的AI PC，有超過200款搭載英偉達芯片的RTX AI PC，包括華碩、微星等PC品牌廠商都是合作伙伴。
在本次 Computex 2024展會上，英偉達將展示四款新的令人驚嘆的筆記本電腦。黃仁勛表示，“它們都能夠運行AI，運行由AI增強的應(yīng)用程序。未來的PC 將成為一個AI，它將不斷在后臺幫助你、協(xié)助你。你所有的照片編輯、寫作工具、你使用的一切工具都將由AI增強。你的PC還將托管帶有數(shù)字人類的 AI 應(yīng)用程序。因此，AI 將在不同的方式中表現(xiàn)出來并被用于PC中。PC 將成為非常重要的 AI 平臺。”
值得注意的是，近期業(yè)內(nèi)有傳言稱，英偉達（Nvidia）正準備推出一款將下一代 Arm Cortex CPU內(nèi)核與其 Blackwell GPU內(nèi)核相結(jié)合的芯片，主要面向Windows on Arm的AI PC設(shè)備領(lǐng)域。
考慮到目前英偉達在云端人工智能領(lǐng)域的統(tǒng)治地位，在生成式AI開始從云端進入到邊緣端的趨勢之下，英偉達希望憑借其強大的GPU能力以及近年來在自研Grace Arm CPU上積累的經(jīng)驗，以及期與PC制造商和服務(wù)器廠商多年來的深度合作，進入Arm Windows PC市場無疑一個市場機遇，特別是在PC市場正面臨生成式AI PC所帶來的換機潮的背景之下。
