Araştırmacılar, büyük dil modellerinin çalışmasını hızlandıran yeni bir derleyici teknolojisi geliştirdi. Event Tensor adı verilen bu sistem, GPU işlemcilerde karşılaşılan performans sorunlarını çözerek yapay zeka uygulamalarının daha verimli çalışmasını sağlıyor. Teknoloji, özellikle ChatGPT benzeri dil modellerinin yanıt verme hızını artırıyor. Geleneksel yaklaşımlar, GPU'da farklı işlemlerin başlatılması sırasında oluşan gecikmeler ve eşzamanlama sorunları yaşıyor. Event Tensor, bu işlemleri tek bir sürekli çekirdek halinde birleştirerek bu problemleri ortadan kaldırıyor. Sistem aynı zamanda değişken boyutlardaki verileri ve veriye bağlı hesaplamaları etkin şekilde yönetiyor. Test sonuçları, yeni teknolojinin büyük dil modellerinin hizmet verme süresini önemli ölçüde azalttığını ve sistem başlatma maliyetlerini düşürdüğünü gösteriyor.