The Information’ın konuya yakın kaynaklara dayandırdığı habere göre, Çin merkezli yapay zeka şirketleri DeepSeek ve Moonshot AI, yeni modellerini eğitirken OpenAI’ın GPT-6 Astra modelinden alınan yanıtları kullanmış olabilir. İddia, Moonshot’ın geçen hafta yayımladığı Kimi K3.1 Pro ile DeepSeek’in 17 Ekim’de tanıttığı V4.1-Flash’ın güncel sürümünü kapsıyor. Ancak haber, bu şirketlerin modelleri kesin olarak GPT-6 Astra’dan damıttığını kanıtlayan bağımsız bir teknik inceleme sunmuyor; aktarılan bilgiler kaynaklara dayalı iddialar olarak değerlendirilmelidir.

Tartışmanın merkezinde model damıtma adı verilen eğitim yöntemi bulunuyor. Bu yöntemde daha küçük ya da yeni bir model, güçlü bir modelin çok sayıda soruya verdiği yanıtlardan yararlanılarak eğitiliyor. Amaç, büyük modelin yanıt üretme becerisinin bazı yönlerini daha düşük maliyetle başka bir sisteme aktarmak. Yöntemin kullanılması tek başına kötüye kullanım anlamına gelmez; önemli olan verinin nasıl elde edildiği, kullanım koşullarına uyulup uyulmadığı ve eğitim sürecinin ne ölçüde şeffaf yürütüldüğüdür.

Model damıtma nasıl çalışıyor?

Damıtma sürecinde geliştirici, öğretmen model olarak kullanılan güçlü sisteme geniş bir soru kümesi gönderir. Sorular; matematik, yazılım geliştirme, bilgi yanıtları veya farklı akıl yürütme görevlerini kapsayabilir. Geliştirici daha sonra modelin verdiği yanıtları toplar ve bu örnekleri öğrenci modelinin eğitiminde kullanır. Öğrenci model, bu örneklerden hareketle benzer sorulara uygun yanıtlar üretmeyi öğrenir.

Bu yaklaşım, yeni bir modeli baştan ve yalnızca kendi üretilmiş eğitim verileriyle geliştirmekten daha hesaplı olabilir. Çünkü araştırma ve geliştirme ekibi, pahalı ve uzun sürebilen bazı eğitim aşamalarını azaltabilir. Bununla birlikte damıtma, öğretmen modelin tüm yeteneklerini otomatik olarak kopyalamaz. Sonuç; seçilen soruların çeşitliliğine, yanıtların niteliğine, öğrenci modelinin mimarisine ve sonradan yapılan eğitime bağlıdır. Ayrıca öğretmen modelden alınan yanıtlar, her zaman doğru veya güvenilir olmayabilir.

Gizli akıl yürütme konusu da bu tartışmanın önemli parçalarından biri. Bu ifade, bir modelin yanıt oluştururken izlediği ara adımlara veya iç süreçlere ilişkin verileri anlatmak için kullanılıyor. Bu tür verilerin elde edilmesi ve kullanılması, sıradan kullanıcı yanıtlarından farklı güvenlik ve hizmet koşulu sorunları doğurabilir. Haberdeki iddialar, GPT-6 Astra’dan hangi tür yanıtların alındığını ya da bu yanıtların eğitim verisine nasıl dönüştürüldüğünü ayrıntılı biçimde ortaya koymuyor.

İddialar hangi modelleri kapsıyor?

Haberde adı geçen modellerden ilki Moonshot AI’ın Kimi K3.1 Pro sistemi. Moonshot, modelin şirket içi bir programlama testinde GPT-6 Astra’dan daha iyi sonuç verdiğini açıklamıştı. Ancak bu karşılaştırma şirketin kendi ölçümüne dayanıyor. Testin kapsamı, kullanılan sorular, değerlendirme yöntemi ve sonuçların bağımsız biçimde tekrarlanıp tekrarlanmadığı bilinmediği için açıklamayı kesin ve genel bir üstünlük kanıtı olarak yorumlamak doğru olmaz.

İkinci model, DeepSeek’in V4.1-Flash sürümü. DeepSeek bu modeli Amerikan yapımı sistemlere daha düşük maliyetli bir alternatif olarak tanıtmıştı. Düşük maliyet, modelin kullanım ve dağıtım açısından cazip olmasını sağlayabilir; ancak tek başına performans, güvenilirlik veya eğitim yöntemleri hakkında kesin bir hüküm vermez. V4.1-Flash’ın GPT-6 Astra yanıtlarından yararlanıp yararlanmadığı da haberde aktarılan kaynakların iddiası düzeyindedir ve bağımsız doğrulamaya ihtiyaç duyar.

OpenAI’ın önceki suçlamaları

OpenAI, Moonshot AI ile bağlantılı kullanıcıların modellerinden veri elde etmeye çalıştığını daha önce de ileri sürmüştü. Şirketin 30 Eylül tarihli açıklamasına göre, Kimi geliştiricisiyle bağlantılı kullanıcılar temmuz ayında bir kampanya yürüttü. OpenAI, bu çalışmanın kendi modellerinin gizli akıl yürütmelerini ortaya çıkarmayı amaçladığını savundu. Şirket, söz konusu faaliyetlerle ilişkili 15 binden fazla kullanıcı belirlediğini ve 28 Temmuz’a kadar ilgili hesapları engellediğini bildirdi.

OpenAI ayrıca topladığı bilgileri diğer yapay zeka geliştiricileriyle paylaştığını söyledi. Bu açıklama şirketin kendi değerlendirmesini yansıtıyor; kamuya açık bilgiler, kampanyanın kapsamını ve elde edildiği ileri sürülen verinin hangi ölçüde model eğitiminde kullanıldığını tek başına doğrulamıyor. Bu nedenle önceki suçlamalar da bağımsız kanıtlarla desteklenmesi gereken iddialar olarak ele alınmalı.

Şirketler neden endişeli?

OpenAI, Anthropic ve Google gibi büyük yapay zeka geliştiricileri, damıtmanın rakiplerin daha az yatırım yaparak öncü modellerin bazı becerilerine yaklaşmasını sağlayabileceği konusunda uyarıda bulunuyor. Bu şirketlere göre, bir modelin geniş ölçekte yanıtlarının toplanması, eğitim ve hesaplama maliyetleri yüksek olan sistemlerin sağladığı avantajın kopyalanmasını kolaylaştırabilir. Böyle bir durum, yalnızca ticari rekabeti değil, model sağlayıcılarının verileri ve hizmetleri üzerindeki denetimini de ilgilendiriyor.

Öte yandan damıtma, yapay zeka alanında bilinen bir tekniktir ve daha küçük, hızlı veya belirli görevlere uyarlanmış modeller geliştirmek için meşru biçimde kullanılabilir. Dolayısıyla tartışmanın odağı, tekniğin varlığından çok, verinin izinsiz veya hizmet koşullarına aykırı yollarla toplanıp toplanmadığıdır. Bir sistemden çok sayıda yanıt almak, erişim sınırlarını aşmak ya da izin verilmeyen içeriği çıkarmaya çalışmak, meşru model sıkıştırma ve eğitim çalışmalarından farklı değerlendirilmelidir.

Koruma önlemleri ve belirsizlikler

Model sağlayıcıları, toplu veri çıkarma girişimlerini zorlaştırmak için çeşitli teknik ve operasyonel önlemler alıyor. Anthropic, ekim başında Claude modellerine yönelik yeni koruma adımları duyurdu. Şirket, bu önlemlerin damıtma saldırılarıyla toplanan veri miktarını yaklaşık yüzde 90 ila 99 oranında azalttığını açıkladı. Bu oran Anthropic’in kendi bildirdiği sonuçtur; farklı sistemlerde veya farklı saldırı yöntemlerinde aynı etkinin görülüp görülmeyeceği ayrıca değerlendirilmelidir.

Önlemler genel olarak olağandışı sorgu örüntülerini belirleme, otomatik ve yoğun istekleri sınırlama, hesapları inceleme ve kullanım koşullarını uygulama gibi yöntemleri içerebilir. Ancak korumalar arttıkça, araştırma, test veya meşru ürün geliştirme amacıyla çok sayıda sorgu yapan kullanıcıların da etkilenmemesi gerekir. Bu nedenle sağlayıcıların kötüye kullanımı engelleme ile meşru kullanımın önünü açık tutma arasında denge kurması önem taşır.

Şimdilik haber, DeepSeek ve Moonshot AI’ın GPT-6 Astra yanıtlarını eğitimde kullandığını kesin biçimde ortaya koymuyor. İddiaların doğrulanması için eğitim verilerinin kaynağı, kullanılan yöntemler ve ilgili hizmet koşulları hakkında daha fazla bilgiye ihtiyaç var. Yine de olay, güçlü ve kullanıcılara açık modellerin yalnızca son kullanıcılar tarafından değil, rakip sistemleri geliştiren ekipler tarafından da veri kaynağı olarak kullanılabilmesi riskini gündeme getiriyor. Bu nedenle öncü model sağlayıcıları, hem teknik korumaları geliştirmek hem de veri kullanımına ilişkin kuralları açık ve uygulanabilir hale getirmek zorunda kalabilir.