Compute Express Link (CXL), işlemciler, hızlandırıcılar ve bellek cihazları arasında iletişim sağlayan açık bir bağlantı standardıdır. Bellek kapasitesini genişletme ve kaynakları daha esnek kullanma olanaklarıyla veri merkezi mimarilerinde öne çıkar.

Compute Express Link (CXL) Nedir?

CXL, PCI Express’in fiziksel bağlantı altyapısını temel alarak bellek erişimi ve önbellek tutarlılığı gibi özellikler sunar.

Önbellek tutarlılığı (cache coherence), aynı verinin farklı önbelleklerde bulunan kopyalarının tanımlanan kurallar doğrultusunda tutarlı tutulmasını ifade eder. Böylece desteklenen bileşenler ortak veriler üzerinde daha düzenli çalışabilir.

Ancak bütün CXL cihazları aynı özelliklere sahip değildir. Kullanılabilen işlevler, cihaz türüne, desteklenen CXL sürümüne ve sistem tasarımına bağlıdır.

CXL Nasıl Çalışır?

CXL, farklı görevler üstlenen protokolleri bir araya getirir:

• CXL.io: Cihazın tanınması, yapılandırılması ve giriş/çıkış işlemleri için kullanılır.

• CXL.cache: Uyumlu bir cihazın, ana sistem belleğindeki verileri tutarlı biçimde önbelleğe almasını destekler.

• CXL.mem: Ana işlemcinin, CXL cihazına bağlı belleğe erişmesini sağlar.

Bu protokollerin tamamı her cihazda bulunmaz. Örneğin bellek genişletmeye yönelik Type-3 cihazlar, sisteme ek bellek sunmak için tasarlanır.

Bellek Genişletme, Havuzlama ve Paylaşım Arasındaki Fark Nedir?

Bellek Genişletme

Memory expansion, sunucuya CXL üzerinden ek bellek kapasitesi kazandırılmasıdır. Bu yaklaşım, yalnızca işlemcinin doğrudan bağlı bellek yuvalarına dayanma zorunluluğunu azaltabilir.

Ancak kapasite sınırsız değildir. İşlemcinin, bağlantıların ve işletim sisteminin desteklediği sınırlar geçerlidir.

Bellek Havuzlama

Memory pooling, bellek kaynaklarının bir havuzdan farklı sistemlere tahsis edilebilmesidir. Amaç, bir sunucuda kullanılmadan duran kapasitenin başka bir sistemin ihtiyacını karşılayabilmesidir.

Havuzlama, bütün sunucuların aynı bellek alanına eş zamanlı eriştiği anlamına gelmez.

Bellek Paylaşımı

Memory sharing, birden fazla işlem biriminin aynı bellek bölgesine erişebilmesidir. Bunun için uygun donanım, erişim kontrolü ve yazılım koordinasyonu gerekir.

Havuzlama kapasitenin dağıtılmasına, paylaşım ise aynı veriye ortak erişime odaklanır. Her CXL destekli sistem bu özelliklerin tamamını sunmaz.

Yapay Zekâ İçin Neden Önemlidir?

Yapay zekâ uygulamalarında model ağırlıkları, veri kümeleri ve KV Cache gibi yapılar bellek ihtiyacını artırabilir. CXL, uygun tasarımlarda ek kapasite sağlayarak bu verilerin farklı bellek katmanlarında tutulmasına yardımcı olabilir.

Örneğin kapasite yetersizliği yaşayan bir sunucuda, bazı verilerin CXL belleğine yerleştirilmesi daha büyük iş yüklerinin çalıştırılmasını mümkün kılabilir. Bellek yoğun yapay zekâ ve veri tabanı uygulamaları, CXL genişletme çözümlerinin hedeflediği alanlar arasındadır.

Ancak daha fazla bellek, her zaman daha hızlı çıkarım anlamına gelmez. Kazanım, uygulamanın kapasiteye mi yoksa veri aktarım hızına mı ihtiyaç duyduğuna bağlıdır.

CXL Belleği Yerel Bellekten Daha Hızlı mı?

CXL’nin temel avantajı, her koşulda daha düşük gecikme sunması değildir. CXL belleğine erişimde bağlantı, denetleyici ve varsa anahtarlama bileşenlerinden geçilir. Bu yol, doğrudan bağlı DRAM’e kıyasla ek gecikme oluşturabilir.

Linux’un CXL dokümantasyonu da erişim gecikmesini cihaz, bağlantı ve anahtarlama bileşenlerini dikkate alarak değerlendirir.

Bu nedenle sık kullanılan verilerin daha hızlı bellekte, daha az erişilen verilerin başka bir katmanda tutulduğu bellek katmanlama yaklaşımları önem kazanır. Verinin nereye yerleştirildiği, kapasite kadar belirleyici olabilir.

CXL, GPU Belleğinin Yerini Alır mı?

CXL belleği, GPU üzerindeki HBM veya GDDR belleğinin doğrudan eşdeğeri değildir. Bellek kapasitesi, bant genişliği ve erişim yolu birlikte değerlendirilmelidir.

Bir sunucunun CXL desteklemesi, içindeki her GPU’nun CXL belleğine doğrudan ve tutarlı biçimde erişebileceğini göstermez. Bunun için hızlandırıcının, bağlantı mimarisinin ve yazılımın ilgili kullanım biçimini desteklemesi gerekir.

Dolayısıyla “CXL eklenince bütün GPU’lar ortak dev bir belleği kullanır” şeklindeki açıklama fazla geneldir.

Kullanım İçin Neler Gerekir?

CXL’den yararlanmak yalnızca bir bellek kartı takmakla sınırlı değildir. Şu bileşenlerin birlikte değerlendirilmesi gerekir:

• Uyumlu işlemci ve platform: Gerekli CXL özelliklerini desteklemelidir.

• BIOS ve firmware: Belleğin tanımlanmasını ve yapılandırılmasını desteklemelidir.

• İşletim sistemi: Ek belleği uygun biçimde yönetebilmelidir.

• Yazılım politikaları: Verilerin hangi bellek katmanına yerleştirileceği belirlenmelidir.

• Güvenlik ve hata yönetimi: Erişimler, izolasyon ve arızalar kontrol edilmelidir.

Linux dokümantasyonu, CXL yapılandırmasının donanım, firmware, işletim sistemi ve kullanıcı politikaları arasında koordinasyon gerektirdiğini belirtir.

CXL, bellek kapasitesini ve kaynak kullanımını daha esnek yönetmek için önemli bir araçtır. Gerçek faydası, yalnızca eklenen bellek miktarıyla değil; uygulamanın erişim alışkanlıkları, bağlantı kapasitesi ve yazılım desteğiyle belirlenir.

Kaynaklar: CXL Consortium — Explaining CXL Memory Pooling and Sharing ve Exploring Coherent Memory and Innovative Use Cases; Linux Kernel Documentation — Compute Express Link, Devices and Protocols ve CXL Access Coordinates Computation; Astera Labs — Flexible CXL Product Suite Enables Low-Latency Memory Expansion.

Editör Notu

Bu içerik, kamuya açık veri merkezi teknolojisi kaynakları ve resmî teknik dokümantasyonlardan yararlanılarak hazırlanmış bir araştırma ve değerlendirme yazısıdır. İçerikte yer alan değerlendirmeler editoryal yorum niteliğindedir. CXL özellikleri ve performansı; standart sürümüne, donanıma, bağlantı yapısına ve yazılım desteğine göre değişebilir.