SKHynix正致力于为人工智能领域开发基于DDR5的CXL2.0内存解决方案,尤其是针对"内存饥渴型"LLM。CXL指的是ComputeExpressLink,这是一种互联技术,可以在CPU和GPU之间实现更快的数据传输,但在人工智能领域,它实际上是CPU和加速器之间的数据传输。

与传统的PCIe接口相比,CXL的优势在于它能让GPU直接访问系统内存,从而显著提升性能。鉴于现代内存技术无法满足大规模人工智能模型所需的功率,CXL协议最近受到了市场的广泛关注。为了解决这一问题,SKHynix和其他公司正在努力采用基于CXL的内存解决方案。

SKHynix系统架构副总裁在韩国的一次活动上讨论时提到图形处理器目前总是出现"内存饥渴"的情况,开发CXL内存模块的可能性很有必要,他还解释了公司在这一特定领域的发展方向。

据透露,SKHynix目前正在开发基于DDR5的96GB和128GBCXL2.0内存产品,并将于2025年下半年投放市场。CXL互连技术允许内存直接访问板载的其他组件,并为板载更大容量的内存提供了空间。

最近,韩国初创公司Panmnesia展示了一种尖端的CXLIP,允许GPU利用DRAM甚至SSD的内存,扩展内置的HBM,因此这是该技术的另一种发展方向。

图片来源:SKHynix在Devcon2024展会上

遗憾的是,SKHynix还没有展示CXL2.0内存解决方案,因此我们现在还无法评论其在人工智能应用中的有效性。不过,据说三星有望在今年推出自己的256GBCXL2.0内存模块,这或许能让我们对这项技术的未来发展有一个更清晰的认识。