MAP 1. 빅데이터 시대 속 데이터 처리의 새로운 길
인공 지능, 머신 러닝 등의 기술 발전으로 처리해야 할 데이터양이 폭증하면서,
고성능 CPU는 빠른 데이터 처리를 위해 단일 칩에 점점 더 많은 코어(Core)를 통합하고 있다.
특히 AI 서비스를 위한 고성능 CPU에는 100개가 넘는 코어가 존재한다.
코어 수가 증가할수록 각 코어를 담당할 충분한 메모리가 필요한데,
현재 위와 같은 상황으로 인해 고속 인터페이스를 사용하고 용량 확장이 용이한 메모리 제품에 대한 수요가 급증하고 있다.
그러나 기존에 사용되어 온 DDR 인터페이스 기반의 D램은
한정된 범위 내에서만 용량을 확장할 수 있어 AI 서비스에 필요한 성능을 충족시키지 못했다.
이로 인해 기존 메모리 성능과 고성능 CPU 간에 격차가 생기면서 병목 현상이 발생하게 되었고,
이 한계를 넘어서기 위해서는 완전히 새로운 인터페이스가 필요했다.
그렇게 삼성전자 반도체는 ‘CXL’이라는 차세대 인터페이스를 메모리 설계에 도입하기 시작했다.
MAP 2. CXL이란 무엇인가?
*CXL: Compute Express Link
빠르게 연결해서 연산한다’는 의미를 지닌 CXL(Compute Express Link)은
CPU, GPU, 스토리지 등의 다양한 장치를 효율적으로 묶어, 보다 빠른 연산 처리를 가능하게 하는 차세대 인터페이스다.
기존에는 각 장치마다 별도의 인터페이스가 존재해 서로 다른 인터페이스 간의 효율적인 연결이 어려웠으며,
각 장치 간 통신 시 다수의 인터페이스를 통과하는 과정에서 지연 현상이 발생했다.
MAP 3. CXL 기반 D램의 탄생
2021년, 삼성전자 반도체는 업계 최초로 CXL 기반 D램인 CMM-D를 개발했다.
CMM-D에는 여러 가지 특성이 있는데, 가장 괄목할 특징 중 하나는 유연한 확장성이다.
기존의 데이터센터나 서버에서 외장형 저장 장치인
SSD(Solid State Drive)를 꽂던 자리에 그대로 꽂아 사용 가능하며,
이때 시스템 내 D램 용량을 TB급까지 확장할 수 있다.
서버를 교체하거나 서버 구조를 변경하지 않고도
용량을 손쉽게 확장할 수 있는 것이다.
또한, CMM-D는 다양한 대역폭에 대응할 수 있어 고속 데이터 처리가 가능하다.
이는 CXL이 PCIe(Peripheral Component Interconnect Express)를 기반으로 하는 인터페이스이기 때문이다.
PCIe는 주로 컴퓨터의 다양한 하드웨어와 디바이스 간에 데이터를 전송하기 위한 연결 표준으로,
여러 개의 데이터 비트를 한 번에 전송하는 병렬 통신(Parallel Communication) 대신
한 번에 하나의 비트씩 데이터를 순차적으로 전송하는 직렬 통신(Serial Communication)을 사용한다.
한 번에 하나의 데이터 비트만 전송하지만,
높은 주파수의 신호를 사용하기 때문에 빠른 전송 속도를 자랑하며,
다양한 대역폭에도 효율적으로 대응한다. 또한 적은 수의 선으로 데이터를 전송하므로
신호 간 간섭이 적어 비교적 데이터 처리 과정이 매끄러우며 이로써 지연 현상도 최소화할 수 있다.
새로운 장치를 추가할 때 하나의 선만 연결하면 되기에 상대적으로 시스템을 확장하거나 변경하기에도 용이하다.
CMM-D는 이러한 특성을 통해 메모리 관리의 유연성을 제공한다.
MAP 4. 유연성을 한층 더 높인 차세대 메모리 CMM-D
삼성전자 반도체는 CXL 기반 메모리 기술 개발의 첫 결과물인 CXL 1.1에 이어
2023년 5월에는 CXL 2.0을 지원하는 CMM-D를 선보였다. CXL 2.0은
이전 버전인 CXL 1.1에서 메모리 관리의 유연성을 획기적으로 향상한 것으로,
필요에 따라 메모리를 효과적으로 공유하고 확장할 수 있는 기능을 제공한다.
더불어 강력한 보안 기능까지 갖춘 D램으로,
이를 데이터센터에 적용하면 보다 효율적인 메모리 사용이 가능해져 결과적으로 서버 운영비 절감에도 기여할 수 있다.
MAP 5. 메모리 용량 확장에 숨은 기술
CXL 2.0만의 특성 구현에는 여러 기술이 기반이 되었는데,
특히 두 가지 기술이 용량 확장의 직접적인 토대가 되었다. 바로 메모리 풀링과 스위칭이다.
CXL 2.0은 특히 메모리 풀링 기능을 세계 최초로 지원한다.
‘메모리 풀링(Pooling)’은 서버 플랫폼에서 여러 개의 CXL 메모리를 묶어 풀(Pool)을 만들고,
여러 호스트가 풀(Pool)을 공유하며 필요에 따라 메모리를 효과적으로 할당하고 해제하는 기술이다.
이를 통해 프로그램이나 작업에 필요한 메모리양에 따라 리소스를 효율적으로 관리할 수 있다.
예를 들면, 5명의 인원이 각각 1L의 물을 갖는 대신, 5명의 인원이 5L의 물을 공유함으로써
누군가 1L 이상의 물이 필요하더라도 옆 사람에게 별도로 요청하지 않고 바로 물을 사용할 수 있게 되는 것이다.
이로써 CXL 메모리의 전 용량을 유휴 영역 없이 사용할 수 있게 한다.
더불어 CXL 2.0은 스위칭 기능을 통해 프로세서, 가속기, 스토리지 등의
다양한 디바이스 간에 데이터를 효율적으로 전송하고 공유함으로써 메모리 리소스를 확장할 수 있다.
또한, CXL 2.0은 메모리 풀링과 스위칭 기능 외에도, 전원이 켜진 상태에서 장치를 연결하거나 분리할 수 있는 핫플러그 기능을 지원한다. 해당 기술 적용으로, 시스템을 재부팅 하지 않아도 디바이스를 추가하거나 교체할 수 있게 함으로써 편리성을 더했다.
MAP 6. CXL과 함께 만들어 갈 메모리의 미래
삼성전자 반도체는 CMM-D, CMM-DC, CMM-H, CMM-HC 등
CXL 인터페이스를 기반으로 한 다양한 메모리 제품군을 연이어 공개하며 CXL 기반 메모리 제품의 범용성을 높여가고 있다.
여기에서 한 걸음 더 나아가 고성능 컴퓨팅 플랫폼용 신규 인터페이스인 CXL을 적극 활용해,
메모리 대역폭과 용량을 원하는 만큼 확장하는 미래를 꿈꾸고 있다.
이러한 꿈을 실현하기 위해 CXL 기반 메모리 기술의 생태계 구축에도 앞장서 왔다.
CXL 기반 메모리 개발 초기 단계부터 글로벌 주요 데이터센터, 서버, 칩셋(Chipset) 업체들과의 개발 협력을 진행해 왔으며,
CXL 소프트웨어 도구인 SMDK(Scalable Memory Development Kit)를 오픈 소스로 공개했다.
이로써 메모리 업계뿐 아니라 대학교, 연구기관 등을 대상으로
차세대 메모리 기술 연구·개발에 대한 관심도를 높임으로써 차세대 메모리 기술의 탄생을 가속화하고 있다.
출처:
[반도Chat Ep.5] 메모리 사용성을 유연하게 확장하는 새로운 인터페이스 ‘CXL’
최근 빅데이터 기반의 서비스가 확장되면서 메모리 성능에 대한 요구가 끝없이 늘어나고 있다. ‘반도Chat’ 시리즈 다섯 번째 이야기의 주제는 기존 메모리의 한계를 극복하고, 미래 메모리 기
news.samsungsemiconductor.com
