SRAM 已經非常成熟，現(xiàn)在被認為是一種商業(yè)「管道」類型的內存，但 Marvell Technology 的最新定制 SRAM 正在展示這種現(xiàn)有內存如何在 AI 數據中心發(fā)揮作用。

顯著降低功耗和芯片面積

Marvell 聲稱其定制 SRAM 是業(yè)界首款 2nm 定制 SRAM。它旨在提升加速基礎設施中內存層的性能，提供高達 6Gbit 的高速內存，從而提升定制 XPU（處理器、加速器、GPU）和設備的性能。此外，在相同密度下，它還能顯著降低內存功耗和芯片面積。

該公司的 SRAM 比類似密度的標準片上 SRAM 功耗低 66%，運行頻率高達 3.75GHz，這是 AI 集群和數據中心管理其能源足跡和有效冷卻組件的關鍵指標。

Marvell 首席內存架構師 Darren Anand 表示：「Marvell 一直專注于優(yōu)化 SRAM，以適應 AI/機器學習應用。這與我們目前的封裝和定制高帶寬內存 (HBM) 工作具有顯著的協(xié)同效應，從而為 XPU 上的計算釋放了更多的芯片面積?！?/span>

「SRAM 有創(chuàng)新的機會」

Anand 表示：「Marvell 的 SRAM 不是不斷訪問 HBM，而是將部分工作負載保留在芯片上，并支持 AI 工作負載所需的高帶寬和寬 IO，從而有可能提高整體設備性能。」

在最先進的節(jié)點上，SRAM 可以與邏輯芯片集成在同一塊芯片上。來源：Marvell Technology

他表示：「SRAM 是唯一在個位數工藝節(jié)點上可用的存儲器，因此也是唯一能夠支持近內存計算架構的高性能存儲器。在這些前沿節(jié)點上，DRAM 無法在同一塊硅片上使用。同樣，NAND 閃存、磁阻 RAM (MRAM)、電阻式 RAM (ReRAM) 和相變 RAM (PCM) 等新興存儲器也無法在這些前沿節(jié)點上使用?！?/span>

Anand 解釋說：「在尖端節(jié)點上，SRAM 可以與邏輯芯片集成在同一芯片上，從而支持可立即供 XPU 上的處理器和邏輯引擎使用的內存層次結構?！?在這方面，它不同于連接內存和邏輯芯片的典型馮·諾依曼架構。近內存計算架構將數據放置在更靠近需要的位置，從而降低了移動數據所需的功耗并增加了帶寬。

他補充道：「典型的 XPU 至少有 30% 的硅片面積專用于 SRAM，有些設計甚至超過芯片面積的 50% 到 60%。我們正在嘗試優(yōu)化這一點，因為這會對芯片的芯片尺寸和成本產生重大影響。」

「在業(yè)界，SRAM 正變得像一個基本的 IP『管道』，這意味著很多地方都需要它，但卻缺乏技術創(chuàng)新。實際上，在 SRAM 架構中可以實現(xiàn)許多新技術，以優(yōu)化功耗、帶寬和許多其他指標。我們并不認為 SRAM 僅僅是一個管道，而是一個創(chuàng)新的機會，」Anand 說道。

Anand 認為，SRAM 面臨的最大挑戰(zhàn)是面積微縮。雖然邏輯單元和存儲器都經歷了多代的微縮，但 SRAM 單元似乎開始遇到瓶頸，導致過去幾代先進節(jié)點的微縮停滯不前?！高壿媶卧^續(xù)微縮，但存儲器位單元卻沒有，」Anand 指出。

Objective Analysis 首席分析師 Jim Handy 表示：「Marvell 的方法實現(xiàn)了節(jié)能降耗和速度提升，同時也承認了 SRAM 芯片并非隨著工藝制程線性擴展的事實。他們只是根據這些工藝制程尺寸對 SRAM 進行了輕微的調整?！?/span>

Handy 表示：「SRAM 廣泛用于高性能處理器芯片的緩存。如果芯片無需訪問外部存儲器，其速度甚至可以更快。事實上，芯片上的所有核心每個周期都能執(zhí)行一條指令，速度非?？??！?/span>

雖然 SRAM 和 DRAM 都是隨機存取存儲器的形式，但是它們的結構上有所不同。DRAM 代表動態(tài)隨機存取存儲器。這種存儲器在結構上與 SRAM 有所不同，因為它使用電容器而不是反相器和晶體管進行存儲。因此，這種存儲器需要刷新并因此發(fā)生變化，因此被定義為「動態(tài)」的。不像 SRAM，其存儲器存儲在芯片上，DRAM 存儲在與芯片外部的主板上，因此訪問時間更長。這導致 SRAM 是一種比 DRAM 更快的存儲器。

每種內存在設備中存儲的位置也不同。DRAM 通常用作主要的存儲器，因此通常存儲在主板上，但是由于 SRAM 是 CPU 中常用的存儲器，因此最可能在處理器上找到。

最后，這兩種內存在成本方面也有所不同。由于 SRAM 需要更多的功率來運行，因此與 DRAM 相比，它也是一種更昂貴的內存選擇。這是 SRAM 不總是主存儲系統(tǒng)的理想選擇的另一個原因。