消費(fèi)電子展 (CES) 可能是您最不希望企業(yè)產(chǎn)品首次亮相的地方，但 AMD 在拉斯維加斯展會(huì)上推出的眾多消費(fèi) CPU 和 GPU 中推出了一款新的服務(wù)器加速器。

AMD 揭開了其 Instinct MI300 加速器的神秘面紗，真是太棒了。

加速處理單元 (APU) 是 13 個(gè)小芯片的組合，包括 CPU 內(nèi)核、GPU 內(nèi)核和高帶寬內(nèi)存 (HBM)。加起來，AMD 的 Instinct MI300 加速器擁有 1460 億個(gè)晶體管。相比之下，英特爾雄心勃勃的Ponte Vecchio處理器將有大約 1000 億個(gè)晶體管，而 Nvidia 的Hopper H100 GPU只有 800 億個(gè)晶體管。

nstinct MI300 有 24 個(gè) Zen 4 CPU 內(nèi)核和六個(gè) CDNA 芯片。CDNA 是 AMD 的 RDNA 消費(fèi)圖形技術(shù)的數(shù)據(jù)中心版本。AMD 沒有說明每個(gè)小芯片有多少個(gè) GPU 內(nèi)核。Instinct MI300 的四舍五入是堆疊在 3D 設(shè)計(jì)中的 128MB HBM3 內(nèi)存。

3D 設(shè)計(jì)允許 CPU、GPU 和內(nèi)存芯片之間的巨大數(shù)據(jù)吞吐量。數(shù)據(jù)不需要從 CPU 或 GPU 傳輸?shù)?DRAM；它進(jìn)入 HBM 堆棧，大大減少了延遲。它還允許 CPU 和 GPU 同時(shí)處理內(nèi)存中的相同數(shù)據(jù)，從而加快處理速度。

AMD 首席執(zhí)行官 Lisa Su 在 90 分鐘的 CES 主題演講結(jié)束時(shí)宣布了這款芯片，稱 MI300 是“第一款將 CPU、GPU 和內(nèi)存整合到單一集成設(shè)計(jì)中的芯片。這使我們能夠?yàn)閮?nèi)存和 IO 共享系統(tǒng)資源，從而顯著提高性能和效率，并且[變得]更容易編程。”

Su 表示，MI300 的 AI 性能是 Instinct MI250 的八倍，每瓦性能是 Instinct MI250 的五倍。她提到了大肆宣傳的人工智能聊天機(jī)器人 ChatGPT，并指出訓(xùn)練模型需要幾個(gè)月的時(shí)間；Su 表示，MI300 可將培訓(xùn)時(shí)間從數(shù)月縮短至數(shù)周，從而節(jié)省數(shù)百萬美元的電費(fèi)。

請注意，AMD 的 MI250 是一塊令人印象深刻的硅片，用于橡樹嶺國家實(shí)驗(yàn)室的第一臺(tái)百億億級(jí)超級(jí)計(jì)算機(jī)Frontier 。

AMD 的 MI300 芯片類似于英特爾在 2024 年推出的 Falcon Shores，以及英偉達(dá)在今年晚些時(shí)候推出的 Grace Hopper Superchip。蘇說，該芯片目前正在實(shí)驗(yàn)室中，并為選定的客戶提供樣品，預(yù)計(jì)將于今年下半年推出。

AMD 推出的新 AI 加速器

Instinct 并不是 CES 上唯一的企業(yè)公告。Su還介紹了Alveo V70 AI推理加速器。Alveo 是 AMD 去年收購的 Xilinx FPGA 系列的一部分，它采用 AMD 的 XDNA AI 引擎技術(shù)構(gòu)建。據(jù) AMD 稱，它可以在各種 AI 模型上每秒提供 4 億次 AI 操作，包括視頻分析和客戶推薦引擎。

Su 表示，在視頻分析方面，與競爭對(duì)手相比，Alveo V70 為智慧城市應(yīng)用提供的街道覆蓋范圍增加了 70%，用于患者監(jiān)測的醫(yī)院病床覆蓋范圍增加了 72%，智能零售店的結(jié)賬通道覆蓋范圍增加了 80%，但她沒有說競爭是什么。

所有這一切都在 75 瓦的功率范圍內(nèi)，而且外形小巧。AMD 將于今天接受 V70 卡的預(yù)訂，并于今年春季上市。