从UMX到Scale-Up光互连 阿里云勾勒Agentic AI基础设施新趋势

7月9日，2026开放计算技术大会在北京举行，本届大会以“智算无界：开放、多元、扩展”为主题，设置GW级智算中心、AI原生基础设施、智算网络高速互连和算电协同优化等前沿议题。阿里云作为大会战略合作伙伴，聚焦Agentic  AI时代的算力基础设施变革，围绕架构演进、互连协议、存算融合、固件智能等议题展开深度研讨，勾勒出下一代AI基础设施的技术新趋势。bze

（keynote环节陈健分享Agentic AI基础设施变革趋势）bze

第一个趋势，是Agentic AI需求带来算力范式第三次跃迁。从传统机器学习时代的CPU中心，到深度学习时代的GPU中心，再到Agentic  AI时代的CPU-GPU协同。随着Agent从Prompt Engineering一路演进到Loop  Engineering，人的因素逐步退出任务流，再结合vCPU超卖，CPU利用率和LLM请求量大幅提升；这同时也要求GPU推理集群通过KV  Cache量化/压缩和Engram等技术进一步优化推理效率，提升推理吞吐量。阿里云服务器研发资深总监陈健在主论坛Keynote中指出，Agentic  AI时代的计算是协作共生的，智能不再是GPU上孤立运行的单一负载，而是构建在CPU、GPU、多级内存与互连架构深度协同之上的综合呈现。bze

第二个趋势，是推理上下文爆炸式增长正把"存储墙"推到台前。Agent多轮对话中的工具调用会带来三倍以上的上下文膨胀，长上下文推理的KV Cache在从64K到1000万token时，容量需求从百GB级跳升至TB级——AI的挑战已不再是单纯的GPU算力问题，而是算力、内存与存储如何协同的架构设计问题。作为对这一趋势的直接回应，阿里云在开放架构系统设计分论坛正式发布磐久UMX统一内存/存储扩展架构。UMX面向GPU内存扩展和CPU内存扩展的互连场景，分别采用UALink  和CXL计算总线，支持原生Load/Store内存语义，通过ALink Scale-Up  Fabric将DRAM、存储级内存、SSD等异构介质以纳秒级延迟统一接入算力节点，形成从芯片寄存器到百TB级存储的完整分层内存，以高带宽互连消除AI  Agent时代的"存储墙"。阿里云超高速互连负责人孔阳介绍，UMX从互连芯片、介质创新到软件系统全栈自研，以CPU Scale  Up为例，自研CXL  Switch实现32GT/s传输速率与低于100ns的超低延迟，已使大模型首Token延迟直降89.6%，相关内存三层解耦成果获SIGMOD'25工业赛道最佳论文。bze

（磐久UMX：AI总线级存算互连架构）bze

第三个趋势，是Scale-Up互连正不可逆地走向光互连与开放标准。大模型多卡并行使卡间Scale-Up带宽与算力成正比，算力翻番则带宽必须翻番，而随着信号速率向224G乃至448G演进，铜互连的距离边界被持续压缩，光互连成为必然选择。阿里云服务器研发架构师韩天在第二演播室分享了阿里云的路线判断：光与铜本质是互补而非竞争，Scale-Up网络采用铜光组合的NPO方案——相比集成度更高但成熟度不足、供应弹性较差的CPO，NPO现阶段在解耦设计、故障隔离与供应灵活性上更具优势；同时UALink等开放协议正推动Scale-Up互连走向标准化，阿里云已作为需求方参与信通院牵头的OIF新NPO标准草案制定，希望以规范和标准牵引资源与效率的最优。有鉴于此，阿里云快速推出了Scale-Up域的NPO模块设--SNPO，作为下一代磐久超节点服务器的光互连解决方案，也是行业内首款于2026年产品化的NPO&NPC光电兼容、铜/光共封装的产品。针对超节点的xPU Tray需要的极高带宽密度、极高板级布局密度、极小芯片尺寸、短距互连、铜光兼容、架构演进性等核心需求进行优化，支持NPO&NPC光电兼容、支持铜/光共封装、覆盖单模/多模、3.2T/6.4T多种形态，并联合行业伙伴共建开放标准。bze

第四个趋势，是Agentic AI的能力正从上层平台下沉到硬件底座。面向超大规模AI集群运维的复杂挑战，把智能嵌入固件、让硬件"听得懂"自然语言，成为提升运维效率的新方向。阿里云服务器研发技术专家王奎英在固件技术论坛分享了磐久服务器内置AI能力的BMC创新技术，通过自研BMC-CLI打通D-Bus调用链并集成到OpenBMC中，让运维人员无需记忆任何命令即可用自然语言完成设备管理，并同时支持在线与本地两种模型部署方式，使智能运维从上层平台一路延伸至服务器固件层。bze

（阿里云磐久AL128超节点服务器荣获大会最佳实践奖）bze

从算力范式的演进，到Scale-Up存算互连的融合、光互连路线的选择与固件智能的创新，这些趋势共同指向同一条主线：Agentic   AI时代的计算是协作共生的，智能不再局限于GPU，而是构建在CPU、GPU、多级内存、高速互连乃至固件系统的深度协同之上。近年来，阿里云作为CXL联盟和UALink联盟的董事会成员，深耕开放标准和行业生态，业界首发CXL内存池化超节点服务器，牵头构建兼容UALink的ALink   System产业生态，并推出磐久AL128超节点服务器。以芯片、服务器、互连协议、存储介质和固件系统的全栈自研与软硬协同，阿里云正持续推动开放计算生态走向繁荣，打造面向Agentic  AI时代的原生云基础设施。bze

编辑：ZXSD04bze