Yapay zeka araştırmacıları, büyük dil modellerinin eğitimi sırasında karşılaşılan yüksek bellek tüketimi sorununa yenilikçi bir çözüm geliştirdi. AdaFRUGAL adı verilen bu yöntem, eğitim sürecini otomatik olarak optimize ederek hem GPU belleği kullanımını azaltıyor hem de eğitim süresini kısaltıyor. Geleneksel FRUGAL yönteminin aksine, AdaFRUGAL sabit parametreler yerine dinamik kontrol mekanizmaları kullanarak manuel ayarlama ihtiyacını ortadan kaldırıyor. İngilizce ve Vietnamca veri setleri üzerinde yapılan testler, bu yaklaşımın kaynak kısıtlı ortamlarda çalışan araştırmacılar için pratik bir çözüm sunduğunu gösteriyor.

Kuantum işlemcilerin pratikte ne kadar avantajlı olduğu konusu bilim dünyasında halen tartışılıyor. Yeni bir araştırma, kuantum tavlama yönteminden ilham alan GPU tabanlı algoritmaların, çok amaçlı optimizasyon problemlerinde klasik yöntemlerden yaklaşık 100 kat daha hızlı çözüm üretebileceğini gösterdi. Bu çalışma, önceki kuantum üstünlüğü iddialarını sorguluyor ve klasik bilgisayarların halen güçlü rakipler olduğunu ortaya koyuyor. Araştırmacılar, kuantum işlemcilerin ön ve son işleme maliyetlerinin tam olarak hesaba katılmadığı durumların yanıltıcı sonuçlar doğurduğunu vurguluyor.

Bilim insanları, metal alaşımlarının katılaşma sürecini simüle eden iki güçlü bilgisayar programını karşılaştırdı. Araştırmada, alüminyum-bakır alaşımı ve NASA'nın mikro yerçekimi deneylerinden elde edilen veriler kullanılarak, malzemelerin nasıl donduğu incelendi. Bu çalışma, havacılık ve uzay endüstrisinde kritik öneme sahip yüksek kaliteli metal parçaların üretimi için önemli sonuçlar içeriyor. İki farklı hesaplama yaklaşımı - biri GPU hızlandırmalı, diğeri adaptif mesh teknolojisi kullanan - aynı fiziksel modeli çözerek dendritik yapıların oluşumunu takip etti. Sonuçlar, her iki kodun da deneysel verilerle uyumlu tahminler ürettiğini gösterdi. Bu tür simülasyonlar, malzeme bilimcilerinin pahalı deneyler yapmadan önce sonuçları öngörmelerine yardımcı oluyor.

Araştırmacılar, kuantum-klasik hibrit hesaplama süreçlerinde yaşanan verimsizlikleri gidermek için yenilikçi bir önbellek sistemi geliştirdi. Sistem, farklı görünen ama aynı işlevi yerine getiren kuantum devrelerini tespit ederek, daha önce hesaplanmış sonuçları yeniden kullanıyor. ZX-hesabı indirgeme ve graf tabanlı özgün tanımlama teknikleri kullanan sistem, dağıtık bilgisayar ağlarında çalışabiliyor ve CPU, GPU ile kuantum işlemciler arasında uyumlu çalışıyor. MareNostrum 5 süper bilgisayarında yapılan testlerde, özellikle büyük kuantum optimizasyon problemlerinde önemli performans artışları kaydedildi. Bu gelişme, kuantum bilgisayarların pratik uygulamalarda daha verimli kullanılmasının önünü açıyor.

Araştırmacılar, yapay zeka tabanlı kodlama ajanlarının GPU performansını artırmak için yenilikçi bir framework geliştirdi. ARGUS adlı bu sistem, veri akış değişmezlerini kullanarak GPU çekirdeklerinin optimizasyonunu gerçekleştiriyor. Mevcut AI ajanları fonksiyonel olarak doğru GPU kodları üretebilse de, matris çarpımı ve dikkat mekanizmaları gibi kritik hesaplamalarda performansları elle optimize edilmiş kütüphanelerin çok gerisinde kalıyor. ARGUS, bu sorunu çözmek için derlenme zamanında veri koreografisini kodlayan özel bir dil kullanıyor ve donanım talimatlarını Python benzeri sözdizimi ile erişilebilir hale getiriyor.

Yanasse projesi, matematiğin bir alanındaki ispat stratejilerini başka alanlara aktararak yeni teoremler bulabilen devrim niteliğinde bir sistem geliştirdi. Sistem, 27 farklı matematik alanından 217 bin ispat durumunu analiz ediyor ve GPU hızlandırmalı benzetim algoritmaları kullanarak farklı alanlar arasında bağlantı kuruyor. İlk denemede olasılık teorisinden temsil teorisine aktarılan stratejilerle 10 denemeden 4'ünde başarılı yeni ispatlar üretildi. Bu yaklaşım, matematikçilerin farklı alanlardan ilham alarak çalışma biçimini taklit ediyor.

Araştırmacılar, video ve görüntü üreten yapay zeka modellerinin aşırı yüksek hesaplama maliyetlerini çözmek için RainFusion2.0 adlı yeni bir sistem geliştirdi. Diffusion Transformer modellerinin dikkat mekanizmaları büyük hesaplama gücü gerektiriyor ve bu durum pratik uygulamaları sınırlıyor. Mevcut seyrek dikkat yöntemleri GPU'lar için tasarlandığından farklı donanımlarda verimli çalışamıyor. RainFusion2.0, önemsiz token'ları atlayarak hesaplamaları azaltan, çevrimiçi uyarlanabilir ve düşük ek yük gerektiren bir seyrek dikkat mekanizması sunuyor. Sistem, GPU dışındaki ASIC gibi farklı donanım türlerinde de verimli çalışacak şekilde tasarlandı. Bu gelişme, video üretimi yapay zekasının daha geniş alanlarda kullanılmasının önünü açabilir.

Araştırmacılar, büyük dil modellerinin (LLM) hizmet verdiği sistemlerde kritik bir güvenlik açığı keşfetti. vLLM gibi popüler sistemlerde kullanılan paylaşımlı önbellek bloklarının, bit düzeyindeki hatalarla manipüle edilebileceği ortaya çıktı. Bu saldırı yöntemi, GPU belleğindeki Rowhammer saldırılarına benzer şekilde çalışıyor ancak daha sinsi bir yapıya sahip. Saldırının üç temel özelliği tespit edildi: manipüle edilmiş çıktıların normal yanıtlardan ayırt edilememesi, sadece hedeflenen prefix'i paylaşan isteklerin etkilenmesi ve zaman içinde hasarın birikmesi. Bu durum, yapay zeka sistemlerinin güvenilirliği açısından yeni bir tehdit oluşturuyor çünkü saldırı tespit edilmesi zor ve kalıcı etkiler yaratıyor.

Araştırmacılar, büyük ölçekli yapay zeka hesaplama merkezlerinin elektrik şebekesinde beklenmedik bir sorun yarattığını keşfetti. GPU tabanlı AI eğitimi sırasında ortaya çıkan düzenli güç dalgalanmaları, elektrik şebekesinde geniş alan salınımlarına yol açabiliyor. Bu durum, geleneksel yük artışlarından farklı olarak sürekli bir zorlayıcı etki yaratarak şebekenin doğal salınım modlarını güçlendirebiliyor. Çalışma, AI teknolojisinin yaygınlaşmasıyla birlikte elektrik altyapısında yeni bir mühendislik sorunu ortaya çıktığını gösteriyor.

Araştırmacılar, granül akışları ve akışkan-parçacık etkileşimlerini simüle etmek için LEDDS adlı yeni bir açık kaynak framework geliştirdi. Bu sistem, karmaşık hesaplamalı fizik problemlerini GPU'larda verimli şekilde çözmek için algoritmik primitifler kullanıyor. LEDDS, Lattice Boltzmann ve Discrete Element Method (LBM-DEM) yöntemlerini birleştirerek tam bağlı simülasyonlar gerçekleştiriyor. Framework, komşu arama, çarpışma tespiti ve akışkan-parçacık bağlantısı gibi tüm işlemleri taşınabilir primitifler dizisi olarak ifade ediyor. Bu yaklaşım, cihaza özel kod yazma ihtiyacını ortadan kaldırarak, araştırmacılara daha esnek ve erişilebilir bir simülasyon ortamı sunuyor.

Araştırmacılar, büyük dil modellerinin kod üretimi ve matematiksel akıl yürütme performansını artırmak için 'olasılıklı düşünce programları' adını verdikleri yeni bir test-zamanı çerçevesi geliştirdi. Bu yöntem, modelin daha az GPU hesaplaması kullanarak daha fazla kod örneği üretmesini sağlıyor. Geleneksel yaklaşımda uygun bir program elde edilene kadar sürekli örnekleme yapılırken, yeni teknik modelin olasılık dağılımını doğrudan programlara entegre ederek maliyetli hesaplama sürecini optimize ediyor. Özellikle büyük ölçekli kod üretimi projelerinde kaynak kullanımını dramatik şekilde azaltma potansiyeline sahip bu gelişme, yapay zeka destekli programlama araçlarının verimliliğini artırabilir.