Çeviri teknolojileri geliştiren Translated, 12 Kasım 2026’da 45 dili kapsayan araştırma modeli Lara Mini’yi duyurdu. Şirket modeli sıfırdan eğitti: 6 trilyon token, İngilizce ve 44 dil daha. Avrupa Birliği’nin 24 resmi dilinin tamamı listede.
7,2 milyar parametre, token başına 600 milyon
Lara Mini 7,2 milyar parametre taşıyor ama her token için bunun yalnızca 600 milyonunu çalıştırıyor. Model, 128 yönlendirilmiş uzmandan dördünü devreye alıyor, bir de paylaşılan uzman sürekli açık kalıyor. 34 katmanın 14’ü Gated DeltaNet doğrusal dikkat, 13’ü 512 tokenlık pencereyle kayan dikkat, 7’si küresel dikkat katmanı. Bu dağılım, tam dikkat kullanan modellerde büyüyen çıkarım durumunu sınırlamayı amaçlıyor.
Eğitimden sonra ayrı bir 100 milyar tokenlık aşama bağlam penceresini 4.096’dan 131.072 tokena çıkardı. Veri tarafında açık kaynaklardan toplanan içerik 13,8 trilyon tokenlık havuza süzüldü ve ilk eğitim tokenlarının yüzde 97’si bir belgenin ilk okuması. İngilizce 2,49 trilyon tokenla (yüzde 41,4), diğer 44 dil 2,18 trilyonla (yüzde 36,4) katkı verdi. Kalan pay kod, matematik ve denetimli ince ayara benzeyen örneklerden geldi.
Diller ayrı uzman grupları kullanmıyor
Yönlendirme analizi, dillerin ayrı uzman gruplarına sahip olmadığını, uzmanları paylaştığını gösterdi. Akraba diller ağın başında benzer, orta katmanlarda neredeyse aynı yönlendirmeyi üretiyor. Araştırmacılar ortak yönlendirmenin ortak anlamsal temsil anlamına gelmediğini, deneylerin çok dilli eğitimin genel akıl yürütmeyi ya da İngilizce başarıyı artırdığını göstermediğini özellikle belirtiyor.
İngilizce ikamesi deneyi de bu temkini destekliyor. Aynı kontrol noktası iki kez 100 milyar tokenlık son aşamayla eğitildi. Çok dilli payın yüzde 33’ü İngilizceyle değiştirilince İngilizcenin payı yüzde 27’den yüzde 60’a çıktı. İngilizce gelişim ortalaması yalnızca 0,3 puan artarken desteklenen dillerin ortalaması 2,7 puan düştü. Deney yalnızca son aşamayı kapsıyor, ana ön eğitimdeki çok dilli payı ölçmüyor.
Kıyaslamada sınıfının önünde, sınırları açık
Translated modeli 56 açık temel modelle, 26 İngilizce, çok dilli, matematik ve kod kıyaslamasında karşılaştırdı. Aktif parametresi 2 milyarı geçmeyen 36 model arasında Lara Mini ortalama 57,0 puanla ilk sırada. granite-4.0-h-tiny 53,9, Qwen3-1.7B ise 53,8 alıyor. Bu iki model sırasıyla 22,5 ve 36 trilyon tokenla eğitilmişken Lara Mini’nin ilk eğitimi 6 trilyon token.
Model çok dilli anlamada 56,7 ve matematikte 59,9 ile sınıfında birinci, İngilizcede 66,4 ile ikinci, kodda 45,1 ile beşinci. Karşılaştırma temel modelleri kapsıyor, talimat takip eden sürümleri değil. Kalite diller arasında değişiyor; eğitim verisi kısıtlı olduğu için Azerice ve Bengalce en düşük skorlu diller arasında.
Hız tarafında tek kullanıcı için A100’de nicelemesiz ölçüm saniyede yaklaşık 1.100 üretilen karakter. Genel ortalaması daha yüksek olan modellerin tamamı metni en az 1,8 kat yavaş üretiyor. Avantaj uzun istemlerde ve tek kullanıcıda en yüksek, GPU’yu çok kişi paylaşınca daralıyor.
Araştırma modeli, hazır ürün değil
Yayınlanan dosya bir sohbet ya da talimat takip modeli değil: metin tamamlama temelli ve güvenlik ince ayarı yok. Model kartı yanlış, taraflı ya da saldırgan metin üretebildiğini, ek eğitim olmadan asistan olarak kullanılmaması gerektiğini yazıyor. Ağırlıklar başvuru incelemesiyle veriliyor. Araştırma ve ticari olmayan kullanım için CC BY-NC-SA 4.0, kod ve tokenizer Apache 2.0 lisansında. Ticari lisans ayrıca satılıyor, eğitim verisi paylaşılmıyor.
Şirket Lara Mini’yi Lara 4 ailesinin parçası olarak görüyor. 13 Kasım’daki ek duyuruya göre model henüz Lara Translate uygulamasında değil. Bir sonraki sürümde metni telefonda işleyen çevrimdışı çevirinin temeli olması planlanıyor. 45 dil sayısı eğitim kapsamını anlatıyor, uygulamada başlangıçta hangi dillerin olacağı açıklanmadı.
Kaynak: Unite.AI
Deneyimini paylaş
Bir sorunun, farklı bir çözümün veya eklemek istediğin bir notun var mı? Giriş yapmadan da yazabilirsin.