Rambus通過GDDR7內存控制器IP推動AI 2.0發展

供稿 / 2024-04-23 16:401548

作為 Rambus 行業領先的接口和安全數字 IP 產品組合的最新成員，GDDR7 內存控制器將為下一波AI推理浪潮中的服務器和客戶端提供所需的突破性內存吞吐量。

面向AI 2.0的內存解決方案

AI 2.0代表著生成式AI革命性世界的到來。AI 2.0借助大語言模型（LLM）及其衍生模型的巨大增長創建新的多模態內容。多模態意味著可以將文本、圖像、語音、音樂、視頻等混合輸入到模型中，從而創建出這些以及其他媒體格式的輸出，例如根據圖像創建3D模型或根據文本提示創建視頻等。

LLM的參數規模已超過萬億，數據集樣本規模也已達到數十億。訓練LLM需要巨大的算力，這離不開最新高性能內存解決方案的支持。

通過GDDR7增強AI推理能力

AI 2.0訓練流程的輸出結果是一個推理模型，該模型可根據用戶提示創建新的多模態內容。由于準確性和保真度會隨著模型規模的擴大而提高，因此推理模型的規模也在不斷擴大。隨著AI推理變得越來越普遍，并從數據中心向邊緣和終端移動，這就促使整個計算領域需要更加強大的處理引擎和量身定制的高性能內存解決方案。

GPU一直是推理引擎的首選，在服務器和臺式機等邊緣和終端應用中，GPU一直使用的是GDDR6內存。但GDDR6的數據傳輸速率已達到標準NRZ信號的實際極限——24Gbps。為了滿足未來GPU的帶寬需求，需要使用新信號機制的新一代GDDR。而使用PAM3信號的GDDR7內存可將數據傳輸速率提高至40 Gbps或以上。

面向AI 2.0的Rambus半導體IP

作為AI 2.0的首選半導體IP供應商，Rambus提供業界領先的 HBM、PCIe和 CXL控制器 IP，現在更提供業界首個GDDR7內存控制器IP。Rambus GDDR7控制器為GDDR7存儲器的實現提供了功能齊全且具有高帶寬效率的解決方案。它支持40 Gbps的運行速度，為GDDR7存儲器設備提供160 GB/s的吞吐量，較業界吞吐量最高的GDDR6控制器（同樣來自Rambus）提高了67%。Rambus GDDR7控制器實現了適用于最先進AI加速器、圖形和高性能計算（HPC）應用的GDDR內存部署。

Rambus半導體IP總經理Neeraj Paliwal表示：“AI 2.0工作負載對帶寬提出了前所未有的高要求，因此提供更高的內存性能變得至關重要。借助我們開創性的GDDR7控制器IP解決方案，設計人員可以快速利用最新一代GDDR存儲器的優勢，實現業界領先的吞吐量。”

IDC內存半導體副總裁Soo-Kyoum Kim表示：“GDDR7內存的性能較GDDR6大幅提升。對任何希望充分利用GDDR7優化的速率和延遲特性的人來說， Rambus GDDR7控制器IP將成為重要的工具。”

Rambus GDDR7控制器的主要特點：

· 支持包括PAM3和NRZ信號在內的所有GDDR7鏈路功能

· 支持多種GDDR7設備尺寸和速率

· 專門針對各種流量情況進行優化，可實現高效率和低延遲

· 靈活的AXI接口支持

· 低功耗支持（自刷新、休眠自刷新、動態頻率縮放等）

· 可靠性、可用性和可維護性（RAS）功能，例如端到端數據路徑奇偶校驗、存儲寄存器奇偶校驗保護等

· 全方位的內存測試支持

· 對現有第三方PHY的集成支持

· 使用最新的GDDR7 VIP和內存供應商內存模型進行驗證