LLM Dünyasında Klasik Makine Öğrenmesi (ML) Teslimatı

MLOps mlops, klasik-ml

LLM'ler klasik makine öğrenmesini emekliye ayırmadı. Gradient boosting ve lojistik regresyonun maliyet, gecikme ve güvenilirlikte hala kazandığı alanlar.

  • Yazar: Orzed Team
  • 1 dk okuma
Önemli çıkarımlar
  • Tablosal ML problemleri 2026'da da LLM'lerle değil, gradient-boosted karar ağaçlarıyla (XGBoost, LightGBM) çözülür.
  • Canlı üretim hacimlerinde bir LLM çağrısı, lojistik regresyon çıkarımından yaklaşık 1.000 ila 10.000 kat daha pahalıdır.
  • Finans ve sigorta gibi regüle kararlar, LLM'lerin kolayca veremediği özellik düzeyinde açıklanabilirlik (SHAP) gerektirir.
  • En güçlü üretim mimarileri genellikle hibrit çalışır: LLM yapılandırılmamış metinden özellik çıkarır, klasik ML nihai skoru üretir.

Bir ekip LLM tabanlı bir dolandırıcılık tespit sistemi kurmak için bize başvurdu ve yüksek bir aylık çıkarım bütçesi ayırmıştı. Modelin göreceği girdileri sorduğumuzda işlem başına tamamı yapısal (tutarlar, kimlikler, zaman damgaları, kategorik bayraklar) 47 sütunluk sabit bir şema tarif ettiler. Çıktı ise ikili sınıflandırmaydı: dolandırıcılık var veya yok.

Doğru cevap bir LLM değil, gradient-boosted karar ağacıydı. Mevcut etiketli verileri üzerinde XGBoost ile üç günde bir temel model kurduk: %96 kesinlik (precision), %92 duyarlılık (recall), 1 milisaniyenin altında gecikme ve LLM çözümünün yaklaşık 2.000’de biri maliyetle ertesi hafta canlıya çıktılar.

Klasik ML Nerede Kazanır, LLM Nerede Kazanır?

Klasik ML (XGBoost, LightGBM, CatBoost, Lojistik Regresyon) beş alanda tartışmasız üstündür: yüksek hacimli tablosal tahminler (churn, kredi riski, öneri), milisaniye altı gecikme gerektiren gerçek zamanlı sistemler, SHAP veya özellik ağırlıklarıyla denetçiye “neden bu karar verildi” sorusunun yanıtlandığı regüle sektörler, 5.000 satırlık küçük etiketli veri setleri ve yapısal anomali tespiti.

LLM’ler ise açık uçlu üretim, yapılandırılmamış metin/görsel/ses üzerinde akıl yürütme, dış araç orkestrasyonu, çok turlu sohbet arayüzleri ve etiketli verinin henüz bulunmadığı soğuk başlangıç problemlerinde rakipsizdir.

Hibrit Mimariler: İki Dünyanın Gücünü Birleştirmek

Canlıdaki en sağlam sistemler çoğu zaman iki yaklaşımı birleştirir:

  • Klasik Model + LLM Açıklaması: Dolandırıcılık modeli işlemi milisaniyede skorlar; LLM bu skoru müşteri temsilcisi için doğal dilde açıklar.
  • LLM Özellik Çıkarımı + Klasik Skorlama: LLM müşteri e-postasından duygu ve niyet gibi yapısal alanları çıkarır; klasik model bu alanları finansal verilerle birleştirip nihai skoru üretir.
  • Klasik Ön Filtreleme + LLM Analizi: Vakaların %95’ini ucuz klasik model çözer; yalnızca belirsiz kalan %5’lik uç vakalar derin analiz için LLM’e yönlendirilir.
Sıkça sorulanlar

Sıkça sorulan sorular

İnce ayar (fine-tuning) yapılmış bir LLM tablosal görevlerde klasik ML'i geçmez mi?

Maliyet-performans dengesinde neredeyse hiçbir zaman geçemez. Aynı etiketli veriyle eğitilen bir XGBoost modeli doğruluğu yakalar veya geçer; üstelik çıkarım maliyeti 100 ila 1.000 kat daha düşüktür ve gecikmesi milisaniyenin altındadır.

LLM'ler klasik ML'i gerçekte hangi alanlarda açık ara geride bırakır?

Açık uçlu metin üretimi, özetleme, çok adımlı akıl yürütme, araç kullanımı, sohbet arayüzleri, çok modlu (görsel/ses/metin) girdiler ve henüz hiç etiketli verinizin olmadığı soğuk başlangıç (cold-start) problemlerinde.

Hangi model sınıfını seçeceğime nasıl karar veririm?

Girdi yapısal ise (veritabanı satırları, sabit şema), çıktı bilinen bir tahminse (sınıf, skor, sıralama) ve elinizde etiketli veri varsa varsayılanınız klasik ML olmalıdır. Bunlardan biri bile yoksa LLM değerlendirin.