3月3日，美光科技宣布推出業(yè)界首款單模組256GB的SOCAMM2內(nèi)存條，該產(chǎn)品采用了全球首個(gè)單芯片32Gb LPDDR5x DRAM Die。這一技術(shù)突破使得8通道1DPC的服務(wù)器處理器能夠?qū)?nèi)存容量擴(kuò)展至單CPU 2TB，相較于之前的192GB模組系統(tǒng)，能夠處理更大的上下文窗口和更復(fù)雜的推理工作負(fù)載。

美光的256GB SOCAMM2內(nèi)存條不僅提供了巨大的存儲(chǔ)容量和帶寬，而且其功耗低于傳統(tǒng)服務(wù)器內(nèi)存。英偉達(dá)數(shù)據(jù)中心CPU產(chǎn)品負(fù)責(zé)人Ian Finder強(qiáng)調(diào)，先進(jìn)的AI基礎(chǔ)設(shè)施需要在每個(gè)層面上進(jìn)行優(yōu)化，以提高性能和效率，滿足AI推理工作負(fù)載的嚴(yán)苛需求。美光的這一創(chuàng)新正在推動(dòng)新一代AI CPU的發(fā)展，為AI基礎(chǔ)設(shè)施的性能和效率帶來顯著提升。