Orzed Pulse: Her An Hazır, Milisaniye Altı Hafif Model Katmanı
- Orzed Horizon'un akıl yürütme kalitesini çok daha küçük bir ayak izinde korumak için damıtılmış 3B ila 7B parametreli yoğun model.
- Canlı iş yüklerinde 200 milisaniyenin altında ortanca gecikme süresiyle satır içi kontrol kapıları ve yüksek frekanslı çağrılar için idealdir.
- QA Agent ilk geçişini, Intake Agent brief analizini, Routing Layer sınıflandırıcısını ve onlarca satır içi doğrulamayı çalıştırır.
- Ağ gecikmesini en aza indirmek için Orzed Konsol'a hizmet veren bölgesel uç (edge) çıkarım düğümlerinde konumlandırılır.
- Derin planlama modeli değildir; karmaşıklık tavanını aşan her görevi Routing Layer üzerinden Meridian veya Horizon'a devreder.
Orzed Pulse, model yığınımızdaki en küçük ancak açık ara en sık çağrılan modeldir. Horizon projeleri planlıyor ve Meridian onları inşa ediyorsa, Pulse geri kalan her yerde çalışır: her QA kapısında, her sınıflandırma çağrısında, her yönlendirme kararında ve her satır içi doğrulamada.
Mimari ve İki Aşamalı Damıtma (Distillation)
Pulse, 3 milyar ila 7 milyar parametre aralığında yoğun bir decoder-only transformer modelidir ve 16K ila 32K token bağlam penceresine sahiptir. Ağ geçiş süresini ortadan kaldırmak için doğrudan bölgesel Konsol çıkarım düğümlerinde çalışır; 50 ms ağ süresi ve 150 ms çıkarım süresiyle kullanıcı hiçbir gecikme hissetmeden satır içi kontrolleri tamamlar.
Modelin kalitesi Orzed Horizon’dan yapılan iki aşamalı damıtmadan gelir:
- Geniş dağılım damıtması: Sınıflandırma, yapısal veri çıkarma, anlamsal karşılaştırma ve doğrulama görevlerinden oluşan milyonlarca girdi-çıktı çifti Horizon üzerinden geçirilerek Pulse bu çıktıları taklit edecek şekilde eğitilir.
- Hedefli görev damıtması: QA ilk geçişi, Intake brief okuma ve Routing sınıflandırması gibi spesifik görevlerde hem Horizon’un hem de kıdemli mühendislerimizin uzlaştığı etiketli veri setleri üzerinde ikinci kez ince ayar yapılır.
Konsol İçindeki Rolü ve Performans Bantları
Pulse dört ana yüzeyde görünür: Yürütme hattından gelen her çıktıyı deterministik testlerle birleştirip kanıt paketi üreten QA Agent ilk geçişi (%78-84 tekil, birleşik %92-95 doğruluk), müşteri briefindeki eksikleri saniyeler içinde çıkaran Intake Agent (%80-88 yakalama oranı), görevleri %92-96 doğrulukla doğru model katmanına ayıran Routing Layer sınıflandırıcısı ve Meridian/Horizon çıktılarındaki şema hatalarını yakalayan yapısal çıktı doğrulaması. Ortanca gecikme 200 milisaniyenin altında, 95. yüzdelik dilim ise 350 milisaniye civarındadır.
Sıkça sorulan sorular
Pulse bu kadar küçükken nasıl çok daha büyük bir model gibi performans gösteriyor?
Damıtma (distillation) sayesinde. Pulse, Orzed Horizon'un geniş bir görev dağılımındaki çıktılarını yeniden üretmek üzere eğitilmiştir. Bu süreç, Horizon'un karar kalitesinin önemli bir kısmını yüksek frekanslı dar görevler için küçük parametre boyutuna taşır.
Normal bir günde Pulse üzerinde neler çalışır?
QA Agent ilk kontrolü, gönderilen her proje briefinin Intake Agent tarafından ilk taraması, gelen görevlerin yönlendirme sınıflandırması ve yapısal JSON/YAML çıktılarının şema doğrulaması. Çağrı adedi olarak platformdaki toplam çıkarımların çoğunluğunu oluşturur.
Pulse nerede başarısız olur?
İki veya üç adımdan fazla zincirleme akıl yürütme gerektiren her işte. Pulse tek adımlı değerlendirme, sınıflandırma ve yapısal çıktıda güçlüdür; planlama ve derin kod sentezinde Routing Layer görevi üst katmanlara devreder.