Orzed Meridian: Günlük Üretim Yükünü Taşıyan Model Katmanı
- Python, TypeScript, Go, Rust ve Java ağırlıklı bir kod derlemi üzerinde ince ayar yapılmış 13B ila 22B parametreli yoğun mimari.
- Araç kullanımı ve fonksiyon çağırma hizalaması istem düzeyinde bir yama değil, bağımsız bir eğitim aşamasıdır.
- Kod üretimi, içerik taslakları, yeniden yapılandırma, yapısal çıktı ve iç dokümantasyon dahil Yürütme (Execution) hattının çoğunu sırtlar.
- 800 ms ila 1.2 saniye ortanca gecikme süresiyle etkileşimli Orzed Konsol akışları için idealdir.
- Horizon'un planlama derinliğinin fazla geleceği ancak doğru cevabın şart olduğu ana proje gövdesinde çalışır.
Orzed Horizon projenin mimarisini düşünen modelse, Orzed Meridian projeyi fiilen inşa eden modeldir. Normal bir çalışma gününde Orzed Konsol üzerinden geçen kodların çoğunu yazan, içerik taslaklarını hazırlayan ve otomasyonlar için yapısal çıktıları üreten ana iş gücü katmanıdır.
Mimari ve Dört Aşamalı Eğitim Yaklaşımı
Meridian, 13 milyar ila 22 milyar parametre aralığında yoğun (dense) bir decoder-only transformer modelidir. 64K ila 128K token bağlam penceresine sahiptir. Araç kullanımı (tool use) ve fonksiyon çağırma yeteneği, serbest metin çıktısını sonradan ayrıştırarak değil, doğrudan kod çözme (decoding) döngüsünün bir parçası olarak yapısal yükler üretecek şekilde eğitilmiştir.
Açık kaynaklı temel modelin üzerindeki ince ayar dört aşamalıdır:
- Kod derlemi: Makine üretimi eski kodlardan arındırılmış, Python, TypeScript, Go, Rust ve Java ağırlıklı açık lisanslı kod tabanları.
- Teknik yazım derlemi: Hakemli teknik makaleler, RFC belgeleri ve tasarım dokümanları.
- Orzed iç iş akışı derlemi: Tamamlanmış projelerden alınan ve yalnızca kıdemli mühendis incelemesinden geçmiş yaklaşık 12.000 gerçek Yürütme (Execution) istem-çıktı çifti.
- Araç kullanımı hizalaması: Bir yıllık canlı ajan operasyonlarından toplanan ve parametre doğruluğuna göre etiketlenmiş araç çağrı izleri.
Performans Bantları ve Sınırlar
600 gerçek görevden oluşan üretim değerlendirme setimizde Meridian çıktıları %78 ila %86 oranında kıdemli incelemeci tarafından doğrudan veya ufak düzenlemeyle kabul edilir. 4 ila 7 ardışık araç çağrısı gerektiren stres setinde ise tam zincir başarısı %70 ila %78 bandındadır. İlk tokena ulaşma süresi (streaming) 200 ila 400 milisaniye, toplam ortanca gecikme ise 800 ms ila 1.2 saniyedir.
Meridian’ın üç net sınırı vardır: 80K token sonrasında uzun bağlam kalitesi düşmeye başlar, niş regülasyon veya gerçek zamanlı gömülü sistemlerde uzman modellere yönlendirme gerektirir ve 3-4 adımı aşan derin planlama zincirlerinde durum takibini Horizon planı altında yürütmesi gerekir.
Sıkça sorulan sorular
Bu boyutta neden MoE yerine yoğun (dense) bir model tercih edildi?
13B ila 22B parametre aralığında yoğun modeller; kodlama, yapısal çıktı ve araç kullanımı gibi iş yüklerinde benzer bütçeli MoE modellerini yakalar veya geçer. Ayrıca dağıtımı ve hata ayıklaması çok daha yalındır.
Meridian hangi programlama dillerinde en güçlüdür?
Eğitim ağırlığının büyük kısmını sırasıyla Python, TypeScript, Go, Rust ve Java taşır. C# ve Kotlin ikinci bantta yer alır. Elixir veya Haskell gibi daha nadir yığınlarda ciddi işler için Konsol otomatik olarak üçüncü parti öncü modellere yönlendirme yapar.
Meridian'ın bağlam penceresi ne kadar geniştir?
Bağlam penceresi 64K ila 128K token aralığındadır; bu boyut bir özellik geliştirme, yeniden yapılandırma veya referanslı taslak yazımı için idealdir. Tüm proje geçmişini kapsayan işlerde sistem Meridian'ı zorlamak yerine işi Horizon'a devreder.