Meta 816 milyar parametreli Muse Spark Open modelinin ağırlıklarını açtı

Meta, 15 Ekim 2026’da Muse Spark Open modelinin ağırlıklarını kamuya açtı. Meta Superintelligence Labs tarafından yayımlanan model kartına göre toplam 816 milyar parametreli model doğuştan çok modlu: metin, görsel, video ve ses girişi alıp metin üretiyor. Bağlam penceresi 1 milyon token, aktif parametre sayısı ise 42 milyar. Meta, modeli şimdiye kadar yayımlanmış en yetenekli ABD açık ağırlıklı modeli olarak tanımlıyor ve kodlama ile uzun ufuklu ajan görevlerini öne çıkarıyor.

Mimari

Muse Spark Open, bir Mixture-of-Experts Transformer ile bir Perception Encoder çiftinden oluşuyor. Dil modeli 62 katmanlı ve gizli boyutu 8192; toplam 256 uzman var ve her token için top-k yönlendirmesiyle bunlardan sekizi devreye giriyor. Dikkat bloğunda QK-norm’lu gated attention kullanılıyor: gruplu sorgu yapılandırmasında 128 sorgu ve 16 anahtar-değer başlığı var, başlık boyutu 64. Sözlük 202.048 token’dan oluşuyor ve giriş ile çıkış gömmeleri birbirine bağlı değil. Perception Encoder ise 50 katmanda 1,8 milyar parametre taşıyor; 14×14 yama boyutu kullanıyor ve seyrek dikkatte her dördüncü katman ile son katman tam dikkate geçiyor.

Düşünme bütçesi ve önerilen ayarlar

Model, reasoning_effort parametresiyle cevap vermeden önce ne kadar düşüneceğini ayarlıyor. low, medium, high ve xhigh seçenekleri var; varsayılan xhigh ve başka bir değer hata veriyor. Meta çoğu kurulum için sıcaklık 1.0, top_p 1.0 ve top_k kapalı ayarını öneriyor; karmaşık problem çözme, kodlama ve ajan görevlerinde high veya xhigh tercih edilmeli. Eğitim verisi kamuya açık kaynaklar, internet taramaları, üçüncü taraflar, Meta’nın kendi ürün ve servisleri ile sentetik üretimden oluşuyor; 100’den fazla dil kapsanıyor.

Nereden erişilecek

Ağırlıklar Amazon SageMaker AI, Google Cloud Model Garden, Hugging Face ve Microsoft Foundry Models üzerinden indirilebiliyor; API tarafında Baseten, Fireworks AI, Groq, Modal, Nebius, OpenRouter ve Together AI listeleniyor. Çıkarım için SGLang, vLLM, TensorRT-LLM, Hugging Face Transformers, Apple MLX, llama.cpp ve Unsloth destekleniyor; AMD, Apple, Intel ve NVIDIA donanımları için optimizasyonlar var, ince ayar için PyTorch TorchTitan kullanılabiliyor. Ağırlıklar BF16 ve NVFP4 sürümleriyle geliyor.

Yerelde çalıştırmak hala ağır

Modeli kendi donanımında çalıştırmak isteyenler için eşik yüksek: NVFP4 sürümü en az 700 GB, BF16 sürümü 2 TB VRAM istiyor. Meta’ya göre Muse Spark Open, sınıfındaki iki Apple M5 Ultra ile masaüstünde çalışabilen ilk model. Yani açık ağırlık herkesin kendi bilgisayarında koşturacağı anlamına gelmiyor; pratikte ilk adres yine bulut ve API sağlayıcıları olacak.

Kaynak: Unite.AI