【芯觀點】 數據中心大變形：看英偉達如何顛覆馮·諾伊曼架構

芯觀點──聚焦國內外產業大事件，匯聚中外名人專家觀點，剖析行業發展動態，帶你讀懂未來趨勢！

數據正在撬動我們的地球，更改變著人類的各個小世界——制造、工業、商業、醫療、教育……所有的行業都在經歷前所未有的智能化重塑。

數據作為重要的資源和生產要素，已經成為世界范圍內的共識。而這一切背后的支點——數據中心——計算和存儲數據的區域，必將是未來科技企業角逐的圣地。

如今，這個“支點”也必須面臨大變革。

因為隨著AI、機器學習等應用的深入所帶來的數據大爆炸，對算力提出了更高要求。據IDC統計，全球算力的需求每3.5個月就會翻一倍，遠遠超過了當前算力的增長速度。在此驅動下，全球計算、存儲和網絡基礎設施必須發生根本轉變。

“數據中心目前正進行一場變革，即從馮·諾依曼架構的數據中心轉向以數據為中心的架構。”英偉達網絡事業部亞太區市場開發高級總監宋慶春表示，而其背后的原因很簡單，數據大爆炸，原來的馮·諾伊曼架構下，將數據輸送至服務器的CPU芯片中進行計算的方式逐漸難以招架。

以數據為中心的新架構

以馮·諾依曼架構為基礎的數據中心里，所有的計算會以CPU或GPU為中心，即所用的數據需傳送到CPU或GPU上。基于兩者強大的算力，這樣的架構解決了數據中心計算性能的問題。

這就是x86雙雄：英特爾與AMD的角逐之地，作為老牌計算芯片，服務器仍舊是CPU的主場。英特爾也很快意識到在數據爆炸的當下，無論是云端還是邊緣服務器，越來越多的廠商都開始通過AI來加速數據處理，而CPU并不是執行此類運算的最佳載體。

因而在第一代至強可擴展處理器開始英特爾便引入AVX-512指令集，隨后第二代又引入深度學習加速技術，到了最新的第三代進一步對軟硬件整體進行優化。而AMD憑借先進工藝，和高核心數量正逐步侵占英特爾的地位。

另一邊對著數據中心虎視眈眈的英偉達，除了繞開x86的險地，推出Arm架構的CPU外，圍繞手上的三U體系，英偉達對數據中心的計算架構提出了新的見解。

不過，英偉達選擇了新的道路：讓計算圍繞數據因地制宜。

宋慶春指出，數據在網絡通信過程中，很多通信模型會制約整個系統性能的發展，用傳統的馮·諾依曼架構的計算模型就會造成網絡擁塞。無論是提升帶寬還是降低延遲都無法解決這一問題，如何繼續提升數據中心的性能成了業界面臨的新挑戰。

以數據為中心的新架構就此被提出。宋慶春解釋，新架構的特征是數據在哪，計算就在那：當數據在GPU上，計算就在GPU上；當數據在網絡中傳輸時，計算就在網絡中。

通過這樣的方式即可解決網絡傳輸中的丟包問題或其他瓶頸。新架構可以使通訊延時降低10倍以上，因而網絡計算成為現在以數據為中心的架構的關鍵技術之一。

但這場變革需要幫手，因為圍繞數據密集型應用已進入多芯片融合時代，CPU、GPU、FPGA等已入列，被譽為繼CPU、GPU后的第三顆算力芯片——DPU，將成為這場變革的關鍵因素。

DPU扮演何種角色？

DPU即Data Processing Unit，是面向數據中心的基礎架構處理器。“DPU就是做那些CPU做不好，GPU做不了的計算任務。”中科院計算所研究院、中科馭數創始人兼CEO鄢貴海曾對表示，“作為最新發展起來的處理器的一個大類，DPU產生的背景是數字智能時代，數據爆發導致的‘端-邊-云一體化’趨勢帶來對計算延遲、數據安全、資源虛擬化的需求。”

DPU有可能成為繼CPU和GPU之后的第三顆算力芯片，在英偉達眼中，它的出現為以數據為中心的新計算架構帶來不同的思路，它的到來解放了CPU和GPU的計算資源。

宋慶春表示，此前以CPU為主體的系統里，所有操作都用CPU來做。以Open vSWITCH(OVS)為例，若用CPU來運行，會占用許多CPU的資源，但包轉發率非常低，但用DPU來操作，包轉發率大幅提升，CPU的計算資源又被解放了。更值得關注的是，當用DPU運行時，實現了業務和基礎設施操作的分離，大幅降低了長尾延時。

在去年宣布推出DPU芯片時，英偉達創始人黃仁勛就表示，數據中心已成為新型計算單元，在現代化、安全的加速數據中心中，DPU已成為其重要的組成部分。CPU、GPU和DPU的結合，可構成完全可編程的單一AI計算單元，提供前所未有的安全性和算力。

在今年的GTC大會上，英偉達又迎來自己DPU產品線BlueField的新迭代。

作為業內首款400G以太網和NDR InfiniBand DPU，BlueField-3具有出色的網絡性能。相比上一代產品，它具有5倍加速計算能力、16個Arm A78 CPU核，和4倍的加密速度。BlueField-3也是首款支持第五代PCIe總線并提供數據中心時間同步加速的DPU。BlueField-3可為NVIDIA Morpheus提供實時的網絡可視化、網絡威脅的檢測與響應，以及監控、遙測和代理服務，Morpheus是一個先進的基于AI的云原生網絡安全平臺。此外，BlueField-3利用NVIDIA DOCA（集數據中心于芯片的架構）軟件開發包的優勢，為開發者提供一個完整、開放的軟件平臺，開發者可在BlueField DPU上開發軟件定義和硬件加速的網絡、存儲、安全和管理等應用。

黃仁勛在GTC上表示：“現代超大規模云技術推動數據中心從基礎上走向了新的架構，利用一種專門針對數據中心基礎架構軟件而設計的新型處理器，來卸載和加速由虛擬化、網絡、存儲、安全和其它云原生AI服務產生的巨大計算負荷。BlueField DPU正是為此而生。”

DPU的應用生態系統正逐步建立，領先的服務器制造商戴爾、浪潮、聯想和超微正在將BlueField DPU集成到他們的系統中。全球云服務供應商都在使用BlueField DPU來加速他們的業務，如百度、京東和UCloud。

以UCloud為例，據UCloud資深技術專家馬彥青介紹，從2018年起，UCloud 便開始積極探索基于BlueField DPU的高性能裸金屬物理云方案，并在去年上半年成功上線裸金屬物理云1.0。通過DPU集成的多核ARM CPU快速將物理云基礎架構軟件從x86遷移到DPU中，滿足了物理云客戶高帶寬、低延時的網絡需求。裸金屬物理云2.0繼承了1.0版本的優點，在取代原先傳統物理云獨立網關的模式，打通公有云網絡的同時，內網帶寬也實現了升級，采用bonding后可達到40Gbps水平。經測試，裸金屬云盤可以達到約40萬IOPS的高吞吐，真正實現靈活性與性能的兼顧。

他表示，選用DPU的初衷既是為了解決網絡性能的瓶頸問題，也是為了降低成本。

在GTC 2021上，黃仁勛在接受在內的媒體群訪時表示，未來屬于零信任、云原生、高計算性能的數據中心，最終也是在一個強大的芯片上建立前沿數據中心。DPU與GPU的結合將會非常重要，在將來會看到數以億計的服務器級別的電腦在全球鋪設開。

多芯片融合時代的到來

“X”PU芯片的應運而生，作為服務器領域的常年霸主，英特爾也不得不面對并承認這個事實。在第三代志強發布會上，英特爾表示，過去一年，英特爾也一直在轉型，從一家CPU公司轉型為一個XPU平臺公司，X代表很多不同的產品，包括FPGA、AI加速芯片等。

另一邊，向服務器領域施展拳腳的英偉達在發布面向數據中心的CPU之后，三U陣容正蓄勢待發。而在DPU這條賽道上，除傳統巨頭外，一些初創企業如中科馭數、Pensando等也正開發DPU產品。

宋慶春對指出，數據中心已進入多芯片融合時代，在大部分數據中心里都有GPU的身影。未來的數據中心會以AI為核心，AI正成為數據中心里非常關鍵的技術。對于英偉達而言，未來的數據中心走向3U一體的架構后，為計算帶來非常理想的優化空間，可根據計算類型為其分配最優的算力芯片，從而構建性能最佳的數據中心。

隨著DPU的崛起，數據中心成為了新的計算單元，囊括計算、存儲、通信各單元，甚至到未來會實現從單芯片到超級計算機的統一架構。“未來CPU、GPU、DPU之間的關系即是如何合理分配數據計算的位置，實現多芯片融合計算的最佳拍檔。”宋慶春說道。

（Sharon）

,農博人才,高冷,神龍斗士第三部國語 http://www.cityruyi.com/lm-2/lm-3/3767.html