LLMRouter: LLM yönlendiricileri için birleşik açık kaynak altyapı
ABD'li dört üniversiteden araştırmacılar, büyük dil modeli yönlendirmesini beş bileşenli bir karar süreci olarak formüle eden açık kaynak bir altyapı sundu. Sistem, 16'dan fazla yönlendirme yöntemini tek arayüzde birleştirerek öğrenilmiş yönlendiricilerin sabit-model temel çizgisine göre yaklaşık yüzde 14,6 daha iyi maliyet-kalite dengesi kurduğunu gösteriyor.
UIUC, Maryland, Nanyang ve Purdue üniversitelerinden araştırmacılar, LLM yönlendirmeyi (routing) bağlam kodlayıcı, model kodlayıcı, skorlama fonksiyonu, karar kuralı ve öğrenme sinyali olmak üzere beş bileşenli bir sıralı karar süreci olarak formüle eden açık kaynak bir altyapı sundu. LLMRouter adı verilen sistem, farklı sorguları hangi modelin en verimli şekilde çözebileceğini otomatik olarak belirlemeyi amaçlıyor.
Altyapı, KNN, SVM, Elo ve grafik-tabanlı yöntemlerden BERT-tabanlı sınıflandırıcılara kadar 16’dan fazla yönlendirme yöntemini tek bir arayüzde birleştiriyor. Araştırmacılara farklı yaklaşımları aynı ortamda geliştirme, değerlendirme ve devreye alma imkânı sunuyor.
Sabit modele göre belirgin fark
Sistemin test sonuçları, öğrenilmiş yönlendiricilerin tek bir sabit modeli her sorguda kullanmaya kıyasla yaklaşık yüzde 14,6 daha iyi maliyet-kalite dengesi kurduğunu gösteriyor. Bu bulgu, karmaşık sorguları pahalı büyük modellere, basit sorguları ise ucuz küçük modellere otomatik yönlendiren sistemlerin, sabit model seçimine göre belirgin bir verimlilik avantajı sunabileceğine işaret ediyor.
Sabit kurallarla model seçen sistemlerin yerini öğrenen/dinamik yönlendirme katmanlarının alması, kurumların yapay zeka maliyetlerini otomatik olarak optimize etmesine olanak tanıyabilir.
- arXiv - LLMRouter: Unified Infrastructure for Developing, Evaluating, and Deploying LLM Routers · 2026-08-07
Bu haber ozgun ozet olarak hazirlanmistir; telif hakki ilgili kaynaklara aittir. Tam metin icin kaynak baglantilarini ziyaret edin.
Ilgili Haberler
Anthropic araştırmacısından kendi kendini geliştiren yapay zekâya bir bakış
Anthropic'in fellows programındaki bir araştırmacı, yapay zekâ sistemlerinin literatür tarayıp yöntem önererek ve modeli kısa iterasyonlarla eğiterek hizalama hatalarını azaltabildiğini gösteren yeni bir makale yayınladı. Çalışmada, en iyi otomatik yöntem ortalama altı saat içinde deneyimli insan araştırmacıların önerdiği yöntemleri geride bırakmış; maliyet karşılaştırmasında saatte yaklaşık 4 dolarlık otomatik araştırmaya karşı insan araştırmacı için saatte yaklaşık 150 dolar rakamı veriliyor.
Sony, EMI ve Warner Chappell, Anthropic'i şarkı sözü korsanlığıyla suçlayan yeni dava açtı
Büyük müzik yayıncıları Sony, EMI ve Warner Chappell, Anthropic'in kitap yazarlarıyla 1,5 milyar dolarlık telif uzlaşmasının ardından şirketi bu kez torrent yoluyla binlerce şarkı sözü ve nota içeren eseri izinsiz indirmekle suçlayan yeni bir dava açtı. Dilekçe, kurucu ortağın toplu indirme yaptığını gösteren iç yazışmaları kanıt olarak sunuyor. Anthropic ise iddiaları reddedip adil-kullanım savunmasını sürdüreceğini açıkladı.
Anthropic'in yeni Fable 5.1 modeli daha ucuz ve daha az kısıtlayıcı geliyor
Anthropic, en gelişmiş model ailesinin yeni sürümlerini — Fable 5.1 ve Mythos 5.1'i — yayınladı. Yeni sürüm performans artışının yanında token maliyetini düşürüyor ve güvenlik filtrelerinin yanlış-pozitif engellemelerini azaltıyor. Kurumsal müşteriler için daha önce sunulmayan 'Sıfır Veri Saklama' özelliği artık Fable ailesine de geliyor; Mythos 5.1 ise yalnızca siber güvenlik veya yaşam bilimleri araştırması yapan kayıtlı ortaklara açılıyor.