Araştırmacılar, büyük dil modellerinin bellek kullanımını dramatik şekilde azaltan yeni bir sıkıştırma tekniği geliştirdi. Sequential KV Cache Compression adlı bu yöntem, modellerin çalışma sırasında oluşturdukları geçici verileri çok daha verimli şekilde saklamaya olanak tanıyor. Mevcut yöntemlerden farklı olarak, bu teknik verilerin rastgele sayılar değil, modelin eğitildiği dildeki anlamlı kalıplar olduğunu fark ediyor. İki katmanlı sistem önce benzer metin parçalarını tespit ederek birleştiriyor, ardından sadece farklılıkları kaydediyor. Bu yaklaşım, Shannon entropi limitinin ötesine geçerek daha yüksek sıkıştırma oranları elde ediyor ve yapay zeka uygulamalarının daha az kaynak tüketerek çalışmasını sağlıyor.

Akıllı telefonlarda çalışan yapay zeka uygulamaları için kritik önem taşıyan gecikme süresi tahmini konusunda önemli bir gelişme yaşandı. Araştırmacılar, mobil cihazların işlemci frekanslarının sürekli değişmesi nedeniyle oluşan tahmin zorluklarını çözen FLAME adlı sistemi geliştirdi. Geleneksel yöntemler, işlemcilerin enerji tasarrufu için frekanslarını dinamik olarak ayarlaması sebebiyle gerçek kullanımda yetersiz kalıyordu. Özellikle küçük dil modelleri gibi yeni nesil yapay zeka uygulamalarında bu sorun daha da kritik hale geliyor. Yeni sistem, CPU ve GPU arasındaki karmaşık asenkron etkileşimi dikkate alarak çok daha doğru tahminler yapabiliyor. Bu gelişme, mobil cihazlarda çalışan yapay zeka uygulamalarının performansını optimize etmek ve enerji verimliliğini artırmak açısından büyük önem taşıyor.

Bilgisayar bilimciler, 3-uniform hipergraflarda çevrimiçi eşleştirme problemine optimal çözüm buldu. Stanford Üniversitesi araştırmacıları tarafından geliştirilen yeni algoritma, (e-1)/(e+1) yaklaşık 0.4621 rekabet oranı elde ediyor. Bu oran, matematiksel olarak mümkün olan en iyi performansı temsil ediyor. Çalışma, 1990'da Karp, Vazirani ve Vazirani tarafından iki parçalı graflar için tanıtılan klasik çevrimiçi eşleştirme problemini, daha karmaşık hipergraf yapılarına genişletiyor. Araştırmacılar ayrıca, bu oranın gerçekten optimal olduğunu kanıtlayan düşmanca örnek oluşturarak teorik alt sınırı da belirledi. Bu gelişme, algoritma teorisi ve optimizasyon alanında önemli bir ilerlemeyi işaret ediyor.

Araştırmacılar, araç rotalama problemlerindeki karmaşık zamanlama kısıtlarını çözmek için yeni bir algoritma geliştirdi. Ev sağlık hizmetleri, uçak programlama ve teknisyen rotaları gibi alanlarda karşılaşılan bu problemler, müşteri ziyaretleri arasındaki senkronizasyon gereksinimlerini içeriyor. Geliştirilen fragment-tabanlı yöntem, rotaları yeni bir parça dizisi olarak temsil ederek tüm zamanlama bağımlılık türlerini işleyebiliyor. Bu yaklaşım, alternating column-and-row generation tekniğiyle alt sınır hesaplayan ve optimize edilmiş çözümler üreten price-cut-and-enumerate algoritmasını kullanıyor. Çalışma, literatürdeki mevcut yöntemlerin aksine sadece belirli alt sınıflara odaklanmayıp tüm zamanlama bağımlılık türlerini kapsaması açısından önemli.

Protein mühendisliği alanında büyük bir atılım gerçekleşti. Araştırmacılar, yapay zeka destekli yeni bir yöntemle sadece üç gün içinde 10 milyondan fazla veri noktası üreterek protein optimizasyonu sürecini dramatik şekilde hızlandırdı. Proteinler, 20 farklı amino asitten oluşur ve bunların farklı kombinasyonları astronomik sayılara ulaşır. Örneğin, sadece 50 amino asitlik bir protein için test edilmesi gereken kombinasyon sayısı 1,13x10⁶⁵'tir - bu rakam trilyonun sahip olduğu sıfır sayısının beş katı kadar sıfır içerir. Bu devasa sayısal zorluk, geleneksel yöntemlerle protein optimizasyonunu neredeyse imkansız hale getirirken, yeni yapay zeka yaklaşımı bu süreci köklü bir şekilde değiştirmeyi vaat ediyor.

Büyük yapay zeka modelleri güçlü performans sergilemek için uzun düşünce zincirleri kullanıyor, ancak bu her zaman gereksiz hesaplama maliyeti yaratıyor. Stanford ve diğer kurumlardan araştırmacılar, yapay zekanın ne kadar 'düşüneceğini' akıllıca belirleyen ORBIT sistemini geliştirdi. Bu yenilikçi yaklaşım, AI modellerinin farklı zorluk seviyelerindeki problemler için en uygun düşünce stratejisini seçmesine olanak tanıyor. Sistem, pekiştirmeli öğrenme kullanarak her çaba seviyesi için en verimli çözüm yollarını keşfediyor ve kullanıcıların maliyet-doğruluk dengesini istedikleri gibi ayarlamalarına imkan veriyor. Bu gelişme, AI sistemlerinin daha verimli ve esnek hale gelmesinde önemli bir adım.

Araştırmacılar, büyük dil modellerinin (LLM) kombinatoryal optimizasyon problemlerini çözme yeteneğini geliştiren yenilikçi bir framework geliştirdi. DASH adı verilen bu sistem, geleneksel yöntemlerin aksine sadece nihai sonuçlara odaklanmak yerine çözüm sürecinin dinamiklerini de dikkate alıyor. Bu yaklaşım, algoritmaların hem daha hızlı hem de daha verimli çalışmasını sağlıyor. Özellikle farklı problem türlerine uyum sağlama maliyetini azaltarak, otomatik heuristik üretim sürecini optimize ediyor. Çalışma, yapay zekanın karmaşık optimizasyon problemlerini çözmede daha akıllı stratejiler geliştirebileceğini gösteriyor.

Araştırmacılar, kimyasal formülasyonların otomatik tasarımı için devrim niteliğinde bir yapay zeka sistemi geliştirdi. AI4S-SDS adlı bu sistem, neuro-sembolik çerçeve ve Monte Carlo Ağaç Arama algoritmasını birleştireyor. Geleneksel büyük dil modellerinin karşılaştığı bağlam penceresi sınırlamaları ve yol-bağımlı keşif problemlerini çözmeyi hedefliyor. Sistem, seyrek durum depolama mekanizması ve dinamik yol yeniden yapılandırma özelliği sayesinde, sabit token bütçesi altında sınırsız derinlikte araştırma yapabiliyor. Malzeme biliminin temel taşlarından biri olan kimyasal formülasyon tasarımında, yüksek boyutlu kombinasyonel uzayda gezinme sorununa çözüm getiriyor. Bu gelişme, yeni malzemelerin keşfi ve kimyasal süreçlerin optimizasyonunda önemli ilerlemeler sağlayabilir.

Yapay zeka ajanları günlük hayatta giderek yaygınlaşırken, araştırmacılar şimdiye kadar sadece sunucu tarafındaki verimliliğe odaklanmışlardı. MIT ve Stanford araştırmacıları tarafından geliştirilen AgentOpt, bu alandaki önemli bir boşluğu dolduruyor. İstemci tarafında kaynak optimizasyonu yapabilen ilk framework-bağımsız Python paketi olan AgentOpt, geliştiricilerin model seçimi, yerel araçlar ve API bütçesini uygulama gereksinimlerine göre optimal şekilde dağıtmasını sağlıyor. Sistem, kalite, maliyet ve gecikme kısıtları altında en iyi performansı hedefliyor. Bu yaklaşım, AI ajanlarının daha verimli ve maliyet-etkili çalışmasını mümkün kılarak, gerçek dünya uygulamalarında yaşanan kaynak israfını önemli ölçüde azaltma potansiyeline sahip. AgentOpt'un sunduğu istemci tarafı optimizasyon, AI ajanlarının endüstriyel adaptasyonunda kritik bir adım olarak değerlendiriliyor.

MIT ve Stanford araştırmacıları, sunucusuz bilişimin (serverless computing) en büyük sorunlarından birini çözen Nexus adlı yeni bir sistem geliştirdi. Mevcut sunucusuz mimarilerde her sanal makine, ağır iletişim altyapısını (SDK, RPC, TCP/IP) tekrarlamak zorunda kalıyor ve bu durum fonksiyonların bellek ayak izinin %25'inden fazlasını tüketiyor. Nexus, hesaplama işlemlerini giriş/çıkış (I/O) işlemlerinden şeffaf bir şekilde ayırarak bu sorunu çözüyor. KVM tabanlı bu yeni hiper yönetici, mevcut kod tabanlarıyla tam uyumluluk sağlarken performansı önemli ölçüde artırıyor. Bu gelişme, bulut bilişim sağlayıcılarının daha yoğun sunucusuz ortamlar kurmasına ve maliyetleri düşürmesine olanak tanıyacak.

Araştırmacılar, büyük dil modellerinin eğitiminde karşılaşılan kritik bellek sorununu çözen SAGE adlı yeni bir optimizasyon algoritması geliştirdi. Mevcut AdamW optimizatörü, modelin iki katı büyüklüğünde bellek tüketirken, önceki hafif alternatifler embedding katmanlarındaki yüksek varyanslı gradyanlarla başa çıkamıyordu. SAGE, Lion tarzı güncelleme yöntemini yeni bir bellek-verimli ölçeklendirme tekniğiyle birleştirerek bu sorunu çözüyor. Algoritmanın 'güvenli sönümleyici' özelliği, yüksek varyanslı boyutları mevcut yöntemlerden daha etkili şekilde kontrol altına alarak daha iyi yakınsama sağlıyor. 1.3 milyar parametreye kadar Llama modellerinde test edilen SAGE tabanlı hibrit sistem, önemli bellek tasarrufu sağlarken performansı koruyor.