CXL Fabric이란? AI 데이터센터가 메모리를 네트워크처럼 연결하는 이유

CXL Memory Expansion은 하나의 Server에 CPU 밖의 Memory를 추가합니다. Memory Pooling은 여러 Host가 공통 Memory Capacity를 나눠 사용할 수 있게 합니다. 다음 단계는 이 연결을 더 넓은 범위로 확장해 CPU, GPU, Accelerator와 Memory Resource를 하나의 Fabric으로 묶는 것입니다.

CXL Fabric: 여러 CXL Host, Memory Device와 Accelerator를 CXL Switch와 Fabric Manager로 연결해 Rack 또는 더 넓은 System에서 Resource를 동적으로 구성할 수 있도록 하는 Interconnect Architecture입니다.

CXL Fabric을 이해할 때 중요한 것은 Ethernet과 같은 Network처럼 “Packet을 보내는 망”만 생각하지 않는 것입니다. CXL은 Memory Semantics와 Coherency를 유지하면서 Resource를 연결하기 때문에 Memory와 Device를 System 안의 확장 가능한 구성요소처럼 다루는 Fabric입니다.

먼저 한눈에 보면

구분	Ethernet Fabric	CXL Fabric
기본 목적	Server 간 Packet Communication	Memory·Accelerator Resource 연결
대표 Access	Network Protocol·RDMA	CXL.mem·CXL.cache 등
주 거리	Rack부터 Data Center 전체	주로 Server·Rack 중심, 확장 중
핵심 Device	Ethernet Switch, NIC	CXL Switch, Controller, Fabric Manager
Resource Model	Remote Endpoint	Memory·Coherent Device
AI 활용	Scale-out GPU Network	Memory Pooling·Disaggregation

둘은 경쟁하는 부분도 있지만 역할이 다릅니다. CXL은 Memory처럼 접근해야 하는 Resource에, Ethernet은 더 넓은 거리의 범용 Network에 강합니다.

CXL 2.0은 Single-level Switching에서 시작했습니다

CXL 2.0은 Switch를 통해 여러 Host와 Device를 연결하고 Memory Pooling을 지원했습니다. 기본적으로 Switch 하나 아래 여러 CXL Device를 배치하고 Fabric Manager가 Host와 Device Relationship을 관리하는 구조입니다.

이 단계만으로도 Server마다 Memory를 직접 연결하는 것보다 훨씬 유연합니다. Memory Shelf를 Switch 뒤에 두고 필요한 Host에 Capacity를 할당할 수 있습니다.

하지만 Rack 전체를 더 복잡하게 연결하려면 Switch 하나만으로는 부족합니다. 여러 Switch를 계층적으로 연결하고 Resource를 더 큰 Topology에서 공유해야 합니다.

CXL 3.x에서 Fabric이 본격화됩니다

CXL 3.0은 Data Rate를 64GT/s로 높이고 Multi-level Switching, Fabric Topology와 Memory Sharing을 강화했습니다.

Multi-level Switching: Host와 Device 사이에 여러 단계의 CXL Switch를 구성해 더 많은 Endpoint와 Resource를 연결할 수 있도록 하는 Architecture입니다.

이 구조를 이용하면 하나의 Switch Port Count를 넘어 더 큰 Memory Fabric을 만들 수 있습니다. Rack 내부 여러 Compute Tray와 Memory Shelf를 연결하거나 더 복잡한 Resource Topology를 구성할 수 있습니다.

즉 CXL 3.x부터 CXL은 “PCIe Slot에 Memory Card를 하나 추가하는 기술”을 넘어 Fabric Architecture로 확장됩니다.

CXL Fabric에는 어떤 Component가 필요할까요?

CXL Host: CPU, GPU나 XPU처럼 CXL Device와 연결되는 Compute Endpoint입니다.

CXL Switch: Host와 CXL Memory·Accelerator 사이의 Traffic을 Forwarding하고 여러 Port를 Fabric으로 연결하는 Semiconductor입니다.

CXL Memory Controller: CXL Protocol과 DDR5 같은 DRAM Interface 사이를 연결하고 Memory Expansion·Pooling 기능을 구현합니다.

Fabric Manager: 전체 Fabric의 Device Discovery, Binding, Resource Allocation, Policy를 관리하는 Control Plane입니다.

Retimer·Cable: 64GT/s 이상 고속 Electrical Signal의 Reach를 늘려 Server·Rack 내 CXL Connection을 실제 Physical Topology로 구현합니다.

이 Component들이 함께 동작해야 CXL Fabric이 완성됩니다.

CXL Switch는 PCIe Switch와 무엇이 다를까요?

둘 다 여러 Host·Device를 연결하는 Switch처럼 보입니다. 하지만 CXL Switch는 CXL Memory와 Coherency Semantics를 이해하고 Fabric Manager가 Resource를 구성할 수 있도록 지원합니다.

PCIe Switch는 기본적으로 PCIe Transaction을 Routing하고 여러 Endpoint를 연결합니다. CXL Switch는 여기에 CXL Protocol과 Memory Resource Management 기능이 추가됩니다.

일부 최신 Switch는 Hardware Platform 하나에서 PCIe와 CXL Mode를 모두 지원하도록 설계되고 있습니다. Marvell Structera S 30260과 PCIe 60260이 Pin-compatible Hardware Platform을 지향하는 사례입니다.

즉 Physical Silicon은 가까워질 수 있지만 Software와 Protocol Semantics에서 CXL Fabric은 Memory Infrastructure 역할을 수행합니다.

Rack-scale Memory가 왜 필요할까요?

AI Server마다 GPU와 HBM, CPU Memory가 들어가지만 Workload에 따라 부족한 Resource가 다릅니다. 어떤 Job은 GPU Compute가 부족하고, 어떤 Inference Job은 KV Cache 때문에 Memory Capacity가 더 먼저 부족할 수 있습니다.

기존 Server에서는 GPU와 Memory가 하나의 Box 안에 고정돼 있어 Memory가 부족하면 Server 전체를 Upgrade하거나 추가 구매해야 합니다.

Rack-scale Architecture에서는 Compute Tray와 Memory Shelf를 분리해 필요에 따라 확장할 수 있습니다. GPU가 필요하면 Compute를 늘리고 Memory가 필요하면 CXL Memory를 추가합니다.

이것이 Composable Infrastructure의 기본개념입니다. Compute와 Memory를 독립적으로 Scale하는 것입니다.

CXL Fabric이 커질수록 NUMA가 중요해집니다

Local CPU DRAM, 다른 CPU Socket의 DRAM, Direct-attached CXL Memory, Switch 하나 너머 Memory, Multi-level Fabric Memory는 각각 Latency와 Bandwidth가 다를 수 있습니다.

모두 같은 Address Space에서 사용할 수 있다고 해서 Performance가 동일한 것은 아닙니다.

NUMA-aware Software는 Data Access Pattern을 보고 가장 적합한 Memory Tier에 Page를 배치해야 합니다. Hot Data를 멀리 두면 Fabric Bandwidth가 충분해도 Application Latency가 커질 수 있습니다.

따라서 CXL Fabric의 실제 경쟁력은 Switch Throughput뿐 아니라 End-to-end Memory Access Latency와 Software Placement로 판단해야 합니다.

Marvell Structera S가 보여주는 Rack-scale 방향

Marvell은 2026년 Structera S 30260 CXL Switch를 발표했습니다. PCIe 6/CXL 3.x 기반 260 lanes를 제공하며 16개 또는 32개의 CPU·GPU와 최대 48TB Shared Memory, 최대 4TB/s Aggregate Bandwidth를 목표로 합니다.

Marvell은 이 제품의 Round-trip Latency를 460ns 미만으로 제시하며 Rack-level Memory Pooling을 주요 Use Case로 설명합니다. 해당 수치는 회사가 제시한 특정 Architecture 기준이므로 실제 System과 Workload에서는 달라질 수 있습니다.

중요한 점은 CXL Switch가 수십 Port와 수십 TB Memory를 대상으로 하는 Rack-level Data Infrastructure Silicon으로 발전하고 있다는 것입니다.

Fabric이 커지면 Retimer와 Cable도 함께 필요합니다

CXL 3.x는 PCIe 6의 64GT/s PAM4 Physical Layer를 사용합니다. 이런 Signal은 일반 PCB를 길게 통과할수록 Loss가 커집니다.

Server 내부에서는 Retimer를 사용해 Signal을 복구할 수 있고, Rack 내 수 m 거리에서는 AEC를 사용할 수 있습니다. Astera Labs와 Credo는 PCIe 6/CXL 3.x를 최대 약 7m까지 확장하는 Smart Cable·AEC Solution을 제공하고 있습니다.

거리가 더 길어지면 Optical CXL이 필요할 수 있습니다. 즉 CXL Fabric을 논리적인 Protocol Layer에서 키울수록 Physical Connectivity Layer의 Retimer, Cable, Optics 수요도 함께 증가합니다.

CXL 4.0은 Fabric Bandwidth와 Reach를 다시 높입니다

CXL 4.0은 PCIe 7 기반 128GT/s로 Link Bandwidth를 두 배 높입니다. 또한 Native x2 Width, 최대 4 Retimer, Bundled Ports와 Memory RAS를 추가했습니다.

더 빠른 Link는 Memory Pool과 Accelerator 사이의 Bandwidth Bottleneck을 줄일 수 있지만 Signal Integrity는 더 어려워집니다. Retimer Support가 늘고 Optical Connectivity가 고려되는 이유입니다.

즉 CXL Fabric Roadmap은 Bandwidth만 커지는 것이 아니라 Fabric의 Physical Reach와 Port Density, Reliability를 동시에 확장하는 방향입니다.

CXL Fabric과 Ethernet은 어디에서 경계가 생길까요?

CXL은 Memory Semantics와 낮은 Latency가 장점이지만 거리가 멀어지고 Switch Stage가 많아질수록 Latency와 Cost가 증가합니다.

Ethernet·RDMA는 Memory Load·Store와 같은 Semantics는 제공하지 않지만 훨씬 넓은 거리와 대규모 Scale에서 검증된 Network Ecosystem을 가지고 있습니다.

따라서 미래 Data Center에서는 가까운 Memory Pool은 CXL, 더 먼 Shared Storage·Remote Memory Service는 Ethernet/RDMA를 사용하는 Hierarchical Architecture가 가능성이 높습니다.

결국 경계는 Protocol의 이름보다 Latency, Bandwidth, Resource Semantics와 Cost가 결정합니다.

Optical CXL은 Fabric의 물리적 경계를 넓힙니다

CXL Memory를 다른 Rack까지 연결하려고 하면 Copper Reach가 문제가 됩니다. Retimer와 AEC로 어느 정도 늘릴 수 있지만 Power와 Cable Density가 증가합니다.

Optical CXL은 CXL Protocol을 유지하면서 Physical Transport를 Fiber로 바꾸려는 접근입니다. CXL 4.0 Consortium 자료에서도 Retimer를 활용한 Optical Connectivity가 다뤄지고 있습니다.

Optical CXL이 상용화되면 CXL Fabric의 Physical Reach가 Rack-to-rack으로 확대될 수 있지만 Memory Access Latency와 Optical Conversion Power가 새로운 Trade-off가 됩니다.

Fabric이 커지면 Security도 더 중요합니다

Local Memory는 물리적으로 한 Server에 묶여 있습니다. Shared Fabric에서는 여러 Host가 같은 Switch와 Memory Resource를 사용합니다.

Tenant Isolation과 Access Permission, IDE Encryption, Device Authentication이 중요해집니다. 잘못된 Fabric Configuration이 다른 Host의 Memory를 노출하면 치명적인 Security 문제가 될 수 있습니다.

또 Fabric Manager가 Resource Assignment를 담당하기 때문에 Control Plane Security도 중요합니다. CXL Fabric은 Performance Technology이면서 Cloud Multi-tenant Security Architecture가 됩니다.

Failure Domain이 커지는 것도 문제입니다

Shared Switch 하나가 여러 Host와 Memory Shelf를 연결하면 해당 Switch 장애가 여러 Server에 동시에 영향을 줄 수 있습니다.

따라서 Redundant Path, Hot-plug, Error Containment, Memory Sparing과 Predictive Telemetry가 필요합니다. Rack-scale CXL의 성공은 단순 Benchmark보다 Uptime과 Serviceability에 달려 있습니다.

이 때문에 CXL 4.0도 Memory RAS Enhancement를 주요 기능으로 포함합니다.

투자 관점에서 무엇을 봐야 할까요?

첫 번째는 CXL Switch가 실제 Hyperscaler Design에 들어가는지입니다. Specification과 Sampling보다 Production Volume이 중요합니다.

두 번째는 Pooling이 Expansion보다 얼마나 커지는지입니다. Direct-attached Memory만 많다면 Controller와 Module이 중심이지만 Rack-scale Pooling이 커지면 Switch, Cable와 Fabric Software Content가 추가됩니다.

세 번째는 Physical Reach입니다. AEC와 Optical CXL이 실제 Rack Architecture에 들어가면 Connectivity Semiconductor와 Optics까지 Value Chain이 확장됩니다.

네 번째는 Software와 TCO입니다. Memory Pool Utilization이 실제 Server Cost와 GPU Idle Time을 얼마나 줄이는지 확인해야 합니다.

핵심 정리

질문	답
CXL Fabric이란?	CPU·GPU·Memory Device를 CXL Switch와 Fabric Manager로 Rack-scale까지 연결하는 Architecture입니다
CXL 2.0과 3.x 차이는?	2.0은 Switching·Pooling 기반, 3.x는 64GT/s Multi-level Fabric과 Sharing을 강화했습니다
Ethernet과 같은가요?	아닙니다. CXL은 Memory Semantics, Ethernet은 범용 Network Communication 중심입니다
왜 AI에 중요한가요?	Compute와 Memory를 독립적으로 확장하고 Memory Utilization을 높일 수 있기 때문입니다
핵심 Component는?	CXL Switch, Controller, Fabric Manager, Retimer, AEC·Optical Link입니다
가장 큰 리스크는?	Latency, Software Complexity, Security와 Shared Failure Domain입니다
투자포인트는?	CXL 3.x Switch Volume, Rack-scale Pooling, Physical Connectivity와 실제 TCO입니다

CXL Fabric의 의미는 Memory를 Network처럼 멀리 연결한다는 표현에만 있지 않습니다. 더 큰 변화는 Server라는 Box 안에 고정돼 있던 Resource Boundary를 Rack 수준으로 넓히는 것입니다.

Compute Tray와 Memory Shelf가 독립적으로 확장되고 Fabric Manager가 Workload에 맞춰 Resource를 조합할 수 있다면 Data Center는 더 이상 고정된 Server Unit의 집합이 아니라 Composable Resource Pool에 가까워집니다. CXL Fabric은 바로 그 Architecture를 Memory Layer에서 구현하려는 기술입니다.