OpenAI CEO’su Sam Altman, Cheeky Pint podcast’inde küresel bellek tedariki ve yapay zekâ altyapısı üzerine konuşurken, RAM’in kişisel bilgisayarlarda tutulması yerine veri merkezlerinde kullanılmasını tercih ettiğini söyledi. Altman’ın açıklaması, özellikle modelleri kendi bilgisayarında çalıştırmak isteyen kullanıcılar arasında tartışma yarattı. Çünkü bu yaklaşım, sınırlı bellek kaynaklarının kimin kullanımına öncelik verilmesi gerektiği sorusunu gündeme getiriyor.

Altman’ın değerlendirmesi, yalnızca kişisel bilgisayarlarla bulut sunucuları arasında teknik bir tercih olarak görülmemeli. Görüşünün temelinde, dünyadaki DRAM üretiminin sınırlı olması ve bu belleğin farklı kullanım alanları arasında paylaştırılması gerektiği düşüncesi bulunuyor. DRAM, bilgisayarların geçici verileri hızlı biçimde saklamak için kullandığı bellek türüdür; günlük dilde çoğunlukla RAM olarak anılır.

Altman neden bulut altyapısını tercih ediyor?

Podcast’te Altman, bazı kullanıcıların açık kaynaklı yapay zekâ modellerini kendi cihazlarında çalıştırmayı hedeflediğini belirtti. Bu yaklaşımda model, uzak bir sunucudan hizmet almak yerine kullanıcının bilgisayarındaki işlemci ve belleği kullanıyor. Yerel çıkarım adı verilen bu yöntem, verilerin cihazdan çıkmaması, çevrimdışı kullanım imkânı ve kullanıcıya daha fazla kontrol sağlaması gibi avantajlar sunabiliyor.

Altman ise bellek kaynaklarının küresel ölçekte verimli kullanılmasına odaklanıyor. Ona göre kişisel bilgisayarlara takılan RAM, kullanıcıların elinde çoğu zaman tam kapasiteyle çalışmıyor. Altman, podcast’te belleğin bilgisayarlarda zamanın yalnızca yaklaşık yüzde beşinde kullanıldığı yönündeki değerlendirmesini paylaştı. Bu oran, tüm bilgisayarlar ve kullanım biçimleri için bağımsız olarak doğrulanmış genel bir ölçüm olarak değil, Altman’ın kaynak kullanımına ilişkin savının parçası olarak anlaşılmalı.

Altman’ın bakış açısına göre veri merkezleri, aynı donanımı çok sayıda kullanıcı ve iş yükü arasında paylaştırabilir. Böylece pahalı ve sınırlı bellek kapasitesi, kişisel cihazlarda uzun süre boşta kalmak yerine daha yoğun kullanılabilir. Bu yaklaşım, bulut altyapısının ölçek ve kullanım oranı açısından avantajlı olabileceği düşüncesine dayanıyor. Ancak bu, yerel çalıştırmanın herkes için gereksiz olduğu anlamına gelmiyor; yalnızca Altman’ın toplam kaynak dağılımında buluta öncelik verilmesini savunduğunu gösteriyor.

Yerel yapay zekâ ile bulutun farklı avantajları

Yerel çıkarım, kullanıcıya veriler ve çalışma ortamı üzerinde daha fazla kontrol sağlayabilir. Kişisel bilgiler cihazdan ayrılmadığında mahremiyet açısından bazı yararlar doğabilir. Ayrıca internet bağlantısına ihtiyaç duyulmaması, gecikmenin azalması veya belirli görevlerin doğrudan bilgisayarda yürütülmesi gibi avantajlar da kullanım senaryosuna bağlı olarak öne çıkabilir. Buna karşılık güçlü modelleri yerel olarak çalıştırmak, yüksek miktarda RAM ve işlem gücü gerektirebilir.

Bulut tabanlı sistemlerde ise büyük sunucular, yüksek performanslı donanımlar ve merkezi altyapı kullanılır. Bu yapı, kullanıcıların güçlü bir bilgisayar satın almadan gelişmiş modellere erişmesini sağlayabilir. Sunucu kaynakları farklı kullanıcılara tahsis edildiğinden, talebin yoğun olduğu dönemlerde kapasiteyi yönetmek ve altyapıyı büyütmek de mümkün olabilir. Bununla birlikte bulut hizmetlerinin çalışması için veri merkezlerine, ağ bağlantısına ve büyük miktarda donanıma ihtiyaç vardır; gizlilik ve hizmete erişim koşulları da kullanıcıların değerlendirmesi gereken konular arasındadır.

Dolayısıyla tartışma, tek bir yöntemin her koşulda üstün olup olmadığıyla ilgili değil. Kullanıcının amacı, verinin hassasiyeti, modelin boyutu, bağlantı imkânı ve donanım maliyeti hangi yaklaşımın daha uygun olduğunu belirliyor. Altman’ın sözleri, bu seçenekler arasındaki dengeyi özellikle kaynak verimliliği açısından ele alıyor.

RAM kıtlığı ve teknoloji fiyatları

Altman’ın açıklamaları, yapay zekâ şirketlerinin hızla artan donanım ihtiyacının yaşandığı bir dönemde geldi. Büyük modelleri eğitmek ve hizmete sunmak için veri merkezleri; hızlandırıcı çiplerin yanı sıra önemli miktarda bellek, depolama ve enerji kapasitesine ihtiyaç duyuyor. Şirketlerin bu donanımı güvence altına almak için büyük bütçeler ayırması, üretim kapasitesi üzerindeki rekabeti artırabiliyor.

Arzın talebi karşılamakta zorlandığı dönemlerde, bellek ve diğer bileşenlerin maliyetleri yükselme baskısı görebilir. Bu artışlar zaman içinde bilgisayar, telefon ve başka elektronik ürünlerin üretim giderlerine yansıyabilir. Ancak son kullanıcı fiyatlarını yalnızca RAM talebi belirlemez; üretim kapasitesi, diğer bileşenlerin maliyeti, lojistik, döviz kurları ve üreticilerin fiyat politikaları da etkili olur. Bu nedenle tüketici ürünlerindeki her fiyat artışını doğrudan tek bir şirkete veya tek bir bileşene bağlamak doğru olmaz.

Altman’ın bulut lehine yaptığı değerlendirme, OpenAI gibi yapay zekâ şirketlerinin büyük ölçekli hesaplama kaynaklarına duyduğu ihtiyacı da görünür kılıyor. Şirketlerin veri merkezlerine yönelik yatırımları, bellek üreticileriyle yapılan tedarik anlaşmalarının önemini artırıyor. Bu tür anlaşmalar kapasiteye erişimi güvenceye alabilir; aynı zamanda üretimin ne kadarının hangi müşterilere ayrılacağı konusunda daha geniş bir piyasa tartışması yaratabilir.

Bellek üreticileriyle anlaşmaların önemi

Samsung ve SK Hynix gibi bellek üreticilerinin bulut hizmeti sağlayıcıları ve büyük ölçekli yapay zekâ projeleriyle yaptığı anlaşmalar, sektördeki tedarik rekabetinin bir parçası. OpenAI’ın Stargate gibi altyapı girişimleri de bu ölçekteki hesaplama kapasitesi ihtiyacının gündeme gelmesine katkı sağlıyor. Uzun vadeli tedarik sözleşmeleri, alıcılar için gelecekteki kapasiteye erişimi güvence altına alabilir; üreticiler açısından ise planlama ve yatırım kararlarına temel oluşturabilir.

Bu anlaşmaların dünyadaki RAM üretiminin tamamını ya da kesin olarak belirli bir çoğunluğunu kapsadığı sonucuna varmak için sözleşmelerin kapsamına ilişkin açık ve güvenilir veriler gerekir. Daha temkinli bir ifadeyle, büyük teknoloji şirketlerinin uzun vadeli alımları mevcut üretim kapasitesi üzerindeki rekabeti artırıyor ve bazı ürün gruplarında arzın nasıl dağıtılacağını etkileyebiliyor. Bunun tüketici donanımına ne ölçüde yansıyacağı ise zaman içinde üretim artışına, talebin seyrine ve sektörün yatırım kararlarına bağlı olacak.

Altman’ın temel savı, sınırlı belleğin çok sayıda kişisel bilgisayarda kısmen kullanılmadan kalması yerine, veri merkezlerinde daha yoğun biçimde değerlendirilmesi gerektiği yönünde. Buna karşılık yerel yapay zekâ savunucuları gizlilik, bağımsızlık ve cihaz üzerinde kontrol gibi değerleri öne çıkarıyor. RAM tartışmasının merkezinde bu iki yaklaşımın yanı sıra, hızla büyüyen yapay zekâ altyapısının donanım kaynaklarını nasıl paylaşacağı sorusu bulunuyor.