英偉達 Blackwell Ultra “B300” AI GPU 可能采用插槽式設計

NVIDIA的Blackwell Ultra B300 GPU可能會在GB300服務器上采用插座式設計,這將使維護和升級變得更加容易。NVIDIA目前的數據中心高性能芯片采用了OAM設計,即板載解決方案。 通過這種設計,GPU 芯片被永久焊接到服務器主板上,如 GB200,用戶可以在一塊主板上同時找到 Grace CPU 和 Blackwell GPU。
不過,這可能是最后一個采用板載設計的系列,因為一些報道稱 NVIDIA 可能會在用于 GB300 服務器的 Blackwell B300"Ultra"GPU上采用不同的設計。 根據 MoneyDJ 和Economic Daily News(通過Trendforce)的說法,B300 GPU 可能采用基于插座的設計,這將允許用戶從主板上安裝或卸載 GPU。
據悉,英偉達的 Blackwell Ultra"B300"AI GPU 采用插座式設計可簡化英偉達的制造流程,并使多家公司受益,尤其是生產互連組件和插座的富士康。 目前的 Blackwell GPU 是直接焊接到主板上的,過渡到插座式設計后,B300 GPU 可以像 CPU 一樣從主板上拆卸下來。
這種過渡將帶來多種好處,包括提高良品率和實現靈活生產,因為 GPU 無需焊接到插座上,NVIDIA也無需依賴表面貼裝技術。 此外,由于在出現與 GPU 相關的問題時無需更換整個主板,因此該流程將簡化維護和售后服務。
因此,升級可以減少更換 GPU 時的整體停機時間,有助于公司為客戶提供更可靠的服務器。 不過,預計新的插座設計會帶來一些性能下降,因為這會帶來更高的延遲。 盡管如此,如果能改善維護、升級和提高產量,那么這種權衡還是值得的。
B300 的另一個重要變化是采用了 FP4,這有利于推理過程。 推理是經過訓練的模型對數據進行預測的方式,是人工智能計算的一個重要方面。 B200已經在人工智能工作負載中表現出色,并已被多家公司部署。
與此同時,B300"Blackwell Ultra"有望大幅提升性能,但它卻并不是首款采用基于插槽設計的產品,因為 AMD 已經在 2023 年推出的MI300A 芯片中引入了這種設計。




