概念 CXL(计算快速链接)

CXL(计算快速链接)

概念 1 min read · 2026-05-04 #concept#architecture#inference

CXL(Compute Express Link)是一种基于 PCIe 物理层的开放互连标准,支持 CPU/GPU 与内存设备之间的高速缓存一致性连接,扩展可用内存容量。

与 Engram 的关系

Engram 的条件记忆模块需要存储巨大的嵌入表(1000 亿参数),确定性寻址 + 可预取使其天然适合 CXL

北大、阿里云等团队的实验(arXiv: 2603.10087):

  • 8 台服务器共享 4TB CXL 内存池
  • XConn XC50256 交换芯片,512GB/s 带宽
  • 集成进 SGLang,端到端吞吐损失 <5%

内存层级

HBM (最快最小) → 本地 DRAM → CXL 池 → NVMe SSD (最慢最大)

关联

  • Engram — CXL 的天然负载
  • HBM — CXL 的互补层级
  • HCA — CXL 提供扩展
  • SGLang — CXL 集成的推理框架

来源

DeepSeek V4最大的遗憾raw/articles/量子位-DeepSeek-V4最大的遗憾-2026.md