Mistral, “Le Chonk” adını verdiği Large 4 yapay zekâ modelinin geliştiricilerin indirip kendi sistemlerinde çalıştırabileceği sürümünü yayımladı. Şirket, modeli ilk olarak ekim ayında ön izlemeye açmıştı. Large 4, metinleri ve görselleri işleyebiliyor; Mistral’ın açıklamasına göre özellikle kod yazma ve siber güvenlik alanlarındaki görevler için geliştirildi.

Modelin toplam büyüklüğü 1 trilyon parametre olarak açıklanıyor. Parametreler, bir yapay zekâ modelinin eğitim sırasında öğrendiği örüntüleri ve bu bilgileri yanıt üretirken kullanma biçimini belirleyen iç değerlerdir. Large 4, her işlemde bütün parametreleri etkinleştirmek yerine, göreve bağlı olarak yaklaşık 49 milyar parametre kullanıyor. Bu yaklaşım, modelin büyük kapasitesinden yararlanırken her isteğin hesaplama yükünü sınırlamayı amaçlıyor.

İndirme ve kendi sunucusunda çalıştırma olanağı

Mistral, modelin öğrendiği bilgileri temsil eden ağırlık dosyalarını geliştiricilerin erişimine açtı. Bu dosyalar sayesinde kullanıcılar Large 4’ü indirip kendi donanımlarında çalıştırabiliyor; kullanım amaçlarına göre sistemi uyarlayabiliyor veya başka yazılımlara entegre edebiliyor. Böylece kuruluşlar, modelle ilgili bazı işlemleri kendi sunucularında yürüterek altyapı ve dağıtım tercihleri üzerinde daha fazla kontrol sahibi olabiliyor.

Şirket, Large 4’ün Avrupa’daki altyapı kullanılarak sıfırdan eğitildiğini belirtiyor. Modeli kendi ortamında çalıştırmak istemeyen geliştiriciler için Mistral’ın sunduğu hizmetler üzerinden erişim seçeneği de bulunuyor. Bu iki kullanım biçimi, kurumların teknik kaynaklarına, güvenlik gereksinimlerine ve işletme tercihlerine göre farklı çözümler seçmesine olanak tanıyor.

Kodlama ve siber güvenlik yetenekleri

Mistral, Large 4’ün kodlama görevlerinde ekim ayında sunulan ön izleme sürümünden daha iyi sonuç verdiğini bildiriyor. Şirketin aktardığına göre model, kod üretmenin yanı sıra yazılımlardaki güvenlik açıklarını belirleme ve bu açıkların giderilmesine yardımcı olma konusunda da geliştirildi. Bu açıklamalar Mistral’ın paylaştığı değerlendirmelere dayanıyor; farklı yazılım dilleri, kullanım koşulları ve test yöntemleri sonuçları etkileyebileceğinden, iddialar bağımsız bir garanti olarak değerlendirilmemeli.

Large 4, farklı görevlerin gerektirdiği işlem miktarını belirlemeye yardımcı olan üç çalışma düzeyi sunuyor. Basit veya günlük isteklerde daha düşük düzey tercih edilebilirken, daha karmaşık görevlerde modelin daha fazla hesaplama yapmasına izin verilebiliyor. Bu seçenek, yanıt kalitesi ile işlem maliyeti ve hız arasındaki dengeyi geliştiricilerin kendi uygulamalarına göre ayarlamasını sağlıyor.

Ticari kullanım için lisans ayrımı

Mistral’ın lisansı, geliştiricilerin modeli kullanmasına, değiştirmesine ve ticari ürünlere entegre etmesine izin veriyor. Ancak modeli müşterilerine internet üzerinden doğrudan hizmet olarak sunmak isteyen işletmeler için ayrı bir koşul bulunuyor: Bu tür çevrim içi hizmetlerin sağlayıcılarının Mistral’dan ayrı bir ticari lisans alması gerekiyor. Bu nedenle Large 4’ü bir ürünün içinde kullanmak ile modeli kendi müşterilerine bağımsız bir çevrim içi hizmet olarak sunmak aynı lisans kapsamına girmeyebilir.

Geliştiricilerin modeli ürüne veya hizmete dahil etmeden önce güncel lisans koşullarını incelemesi önem taşıyor. Özellikle modelin dağıtım biçimi, kullanıcıların modele nasıl erişeceği ve hizmetin ticari yapısı, gerekli izinleri belirleyebilir. Large 4’ün yayımlanması böylece geliştiricilere hem kendi altyapılarında çalışma hem de Mistral’ın hizmetlerinden yararlanma seçenekleri sunarken, çevrim içi ticari dağıtım için lisans gerekliliklerini de beraberinde getiriyor.