新型的分离式内存架构(disaggregated memory)将内存和计算资源从传统整机(monolithic server)中分离出来,构建独立的、高速网络互联的计算池和内存池,以提高资源利用率和服务弹性。

背景

对于云计算而言,实现资源池化以灵活调配资源是其核心,而内存的池化管理可通过分离式内存技术实现。

将内存资源从计算节点分离出来,放在专门的内存节点上,然后通过高速网络连接,实现内存的动态配置和共享,那么系统将更加灵活高效。

另一方面,计算机处理器核心数量和计算速度飞快增加,而由于DRAM技术瓶颈、处理器芯片面积和主板DIMM插槽受限等因素,内存容量和速度的增长速度已大幅落后。与此同时,机器学习大模型和大数据分析等现代应用的工作集规模呈现爆发式增长(内存墙问题)。分离式内存可用于突破限制,构建大内存系统。

实现

  • RDMA
  • CXL被认为是下一代的分离式内存技术的主流方向(远程内存访问延迟缩短至170到250纳秒,接近本地内存访问延迟)