Murati 594 milyar parametreli modelini açıyor

OpenAI’den ayrılan eski teknoloji sorumlusu Mira Murati’nin kurduğu Thinking Machines Lab, ikinci nesil çok modlu modeli Inkling 2 Small’ı duyurdu. Şirket, 594 milyar parametreli modelin ağırlıklarını güvenlik testlerinin ardından Apache 2.0 lisansıyla herkese açacağını bildirdi. Model şimdilik kurumsal platform Tinker üzerinden geliştiricilerin testine sunulmuş durumda.

Dev parametre havuzu, küçük aktif yük

Inkling 2 Small, adındaki “Small” ifadesine rağmen toplamda 594 milyar parametre taşıyor. Modelin maliyet tarafındaki avantajı seyreltilmiş Uzmanlar Karması (Mixture of Experts) mimarisinden geliyor. Yapı içinde matematik, kod, mantık ve görsel ayrıştırma gibi alanlarda uzmanlaşmış 384 alt ağ bulunuyor. Her token işlenirken yönlendirici katman bunlardan yalnızca sekizini tetikliyor; yani çıkarım sırasında yaklaşık 17 milyar parametre devreye giriyor.

Modelin bağlam penceresi 1 milyon token. Bu, yüzlerce sayfalık teknik dokümanın, tüm kod depolarının ya da uzun video akışlarının tek bir bağlam bloğunda tutulabilmesi anlamına geliyor. Şirket, bu tasarımın modeli kurumsal sunucularda barındırmayı da ekonomik hale getirdiğini belirtiyor.

Bağımsız testte 31 puan

Yapay zeka analiz platformu Artificial Analysis’in bağımsız zeka endeksinde Inkling 2 Small 31 puan aldı. Bu sonuç, ilk nesil Inkling modellerinin skorunu ikiye katlıyor. Değerlendirmelerde model, açık ağırlık kategorisinde Çinli DeepSeek ve Qwen modelleriyle aynı ligde yarışabilen ilk Batılı büyük model olarak öne çıkıyor.

Modelin öne çıktığı alanlar arasında görsel girdileri doğrudan anlayan yerel görsel akıl yürütme, otonom kodlama, uzun belge analizi ve harici yazılım araçlarını yönetebilen ajan iş akışları sayılıyor. Şirket, araç çağırma tarafında hata payının çok düşük olduğunu aktarıyor.

Murati’nin açık kaynak tercihi

Murati, lansmanla birlikte yayınladığı duyuru metninde frontier seviyesindeki modellerin yalnızca birkaç trilyon dolarlık teknoloji devinin tekelinde kalmaması gerektiğini savundu. Murati’nin açıklaması şöyle:

“Yapay genel zekaya giden yol, kapalı API duvarlarının ardına hapsedilemez. Inkling 2 Small’ın ağırlıklarını topluluğa açarak, bağımsız geliştiricilerin, üniversitelerin ve dünya genelindeki mühendislerin bu gücü kendi ellerinde tutmalarını sağlıyoruz.”

Apache 2.0 lisansı, ticari şirketlerin modeli telif veya ek kısıtlama olmadan kendi özel verileriyle eğitebilmesi ve ürünlerine entegre edebilmesi anlamına geliyor. Ağırlıkların önümüzdeki hafta Hugging Face üzerinden indirilebilir olması bekleniyor.

Neden önemli

Açık ağırlıklı modeller son iki yılda ağırlıklı olarak Çinli laboratuvarların elinde görünüyordu. 594 milyar parametrelik bir modelin Apache 2.0 ile yayınlanması, Avrupalı ve Amerikalı ekiplerin de aynı ölçekte bir taban modeli kendi altyapılarında çalıştırabilmesi anlamına geliyor. Bu da hem maliyet hem veri kontrolü açısından kurumların seçeneklerini genişletiyor.

Öte yandan modelin ağırlıklarının herkese açık olması, kötüye kullanım ve denetim tartışmalarını da beraberinde getiriyor. Thinking Machines Lab, bu nedenle yayın öncesi bağımsız güvenlik ve kırmızı takım testlerini tamamlamayı şart koştu.

Kaynak: WebTuring