Stanford Üniversitesi'nden araştırmacılar, çoklu yapay zeka ajan sistemlerinde yaşanan verimlilik sorunlarına yenilikçi bir çözüm getirdi. Agent Capsules adlı bu sistem, birden fazla AI ajanının birlikte çalıştığı durumlarda hem maliyet hem de performans optimizasyonu sağlıyor.
Mevcut sistemlerde, N adet ajan kullanan bir işlem hattı tipik olarak her çalıştırma için N adet ayrı dil modeli çağrısı gerektiriyor. Bu durum hem yüksek token maliyetlerine hem de yavaş işlem sürelerine neden oluyor. Araştırmacılar, ajanları daha az çağrıda birleştirmenin (bileşik yürütme) token tasarrufu sağladığını, ancak naif birleştirmelerin araç kaybı ve prompt sıkıştırması nedeniyle kaliteyi sessizce düşürdüğünü keşfetti.
Agent Capsules, çoklu ajan işlem hattı yürütmesini ampirik kalite kısıtlamaları olan bir optimizasyon problemi olarak ele alıyor. Sistem, grup başına koordinasyon yükünü ölçüyor, kompozisyon fırsatlarını puanlıyor ve üç farklı bileşik yürütme stratejisi arasında seçim yapıyor. Her mod değişikliği, kayan ortalama çıktı kalitesine göre kontrol ediliyor.
Araştırma, birleştirilmiş çağrılara daha fazla bağlam enjekte etmenin sıkıştırmayı iyileştirmek yerine kötüleştirdiğini doğruladı. Bu nedenle sistemin yükselme merdiveni (standart, ardından iki fazlı, sonra sıralı) birleştirilmiş promptları yeniden yazmak yerine ajan başına gönderime doğru hareket ederek kaliteyi geri kazanıyor.