Araştırmacılar, yapay zeka modellerinin eğitim süresini dramatik şekilde kısaltan yeni bir yöntem geliştirdi. Geleneksel bilgi aktarım yöntemlerinin tersine, bu yaklaşım daha zayıf bir 'öğretmen' modeli kullanarak güçlü öğrenci modellerin eğitimini hızlandırıyor. Yöntem, eğitimin sadece erken aşamalarında zayıf öğretmenden bilgi aktarımı yapıyor ve öğrenci öğretmeni geçtiğinde bu süreci durduruyor. ImageNet ve CIFAR veri setlerinde 4,8 kata kadar hızlanma sağlanırken, nesne tespiti ve görüntü üretimi gibi farklı alanlarda da başarılı sonuçlar alındı. Bu buluş, büyük ölçekli görsel öğrenmenin maliyetini önemli ölçüde azaltabilecek potansiyele sahip.

Araştırmacılar, kuantum makine öğrenmesi sistemlerinin eğitim sürecini optimize eden yenilikçi bir algoritma geliştirdi. Observable-guided generator selection adı verilen bu yöntem, kuantum devrelerindeki parametreli üniter operatörlerin generator seçimini iyileştirerek daha hızlı öğrenme sağlıyor. Algoritma, gradyanlarda yüksek birinci derece hassasiyet koruyan ve Hessian matrisindeki ikinci derece parazitleri bastıran generatorları seçiyor. Pauli-string observables kullanılan kısıtlı ortamlarda, bu seçim problemi karşılıklı anti-commuting generatorları tercih eden binary optimizasyon problemi olarak formüle ediliyor. Beş qubit'lik küçük ölçekli devrelerde yapılan deneyler, seçilen generatorların rastgele seçime kıyasla daha hızlı eğitim sağladığını gösteriyor.

Binlerce GPU ile büyük ölçekli yapay zeka modeli eğitimleri, elektrik şebekelerini tehdit eden güç dalgalanmalarına neden oluyor. Araştırmacılar, bu sorunu çözmek için EasyRider adlı yeni bir güç mimarisi geliştirdi. GPU'ların eğitim sırasında milisaniyeler içinde maksimum güçten boşta bekleme moduna geçmesi, transformatörlere ve koruma ekipmanlarına zarar verebilecek ani voltaj ve frekans değişikliklerine yol açıyor. EasyRider sistemi, raf seviyesinde pasif bileşenler ve aktif kontrollü yardımcı enerji depolama kullanarak bu güç dalgalanmalarını yumuşatıyor. Sistem, sık şarj/deşarj döngülerinde enerji depolama sisteminin ömrünü maksimize etmek için sürekli izleme yapıyor. Bu teknoloji, yapay zeka altyapısının elektrik şebekesi güvenliği açısından sürdürülebilirliğini artırıyor.

Araştırmacılar, yapay sinir ağları ve tensor ağlar gibi karmaşık modellerin eğitiminde kullanılan optimizasyon yöntemlerini geliştirmek için yeni bir yaklaşım önerdiler. Doğal gradyan iniş (NGD) yöntemi, geleneksel gradyan iniş tekniklerinin aksine fonksiyonel bir bakış açısıyla parametre güncellemeleri yapar. Bu yöntem, Newton metoduna benzer şekilde Hessian matrisi yerine teğet uzayın Gram matrisini kullanarak yerel olarak optimal güncellemeler sağlar. Ancak hem geleneksel hem de doğal gradyan yöntemleri yerel minimumlarda takılı kalma sorunu yaşar. Yeni çalışma, bu sorunları aşmak için momentum kavramını doğal gradyan iniş yöntemine entegre etmeyi araştırıyor. Bu yaklaşım, özellikle doğrusal olmayan manifoldlar üzerinde çalışan makine öğrenmesi modellerinin performansını artırma potansiyeli taşıyor.

Matematik dünyasının en önemli teoremlerinden biri olan Mostow Rigidity için, lisans düzeyi analiz bilgisiyle anlaşılabilir yeni bir ispat yöntemi geliştirildi. Bu çalışma, genellikle çok karmaşık matematiksel araçlar gerektiren ünlü teoremi, geometri ve topoloji alanındaki lisansüstü öğrenciler için erişilebilir hale getiriyor. Mostow Rigidity, üç boyutlu hiperbolik uzayların temel geometrik özelliklerini açıklayan kritik bir sonuçtur ve modern matematiğin birçok dalında uygulaması bulunur. Yeni ispat yöntemi, teoremi öğrenmek isteyen öğrenciler için önemli bir kaynak niteliğinde olup, analitik açıdan daha hafif bir yaklaşım sunuyor.

Büyük dil modellerinin insan tercihlerine göre eğitilmesinde kullanılan mevcut yöntemler, her soru için sadece bir doğru-yanlış cevap çifti kullanarak veri setlerindeki zengin bilgiyi değerlendiremiyor. Araştırmacılar, aynı soru için birden fazla cevabı karşılaştırarak daha etkili eğitim sağlayan grup tabanlı optimizasyon yöntemlerini geliştirdi. Ancak bu yaklaşım, bilgisayar hafızasında ciddi sorunlar yaratıyordu. Yeni GroupDPO algoritması, hafıza kullanımını önemli ölçüde azaltarak bu sorunu çözüyor ve büyük grup boyutlarıyla ölçeklenebilir eğitim imkanı sunuyor.

Araştırmacılar, Stable Diffusion gibi metin-görsel dönüştürücü yapay zeka modellerinin eğitim verilerini tespit edebilen yeni bir saldırı yöntemi geliştirdi. 'Üyelik çıkarım saldırısı' olarak adlandırılan bu teknik, belirli bir görüntünün AI modelinin eğitiminde kullanılıp kullanılmadığını %90'dan fazla doğrulukla tespit edebiliyor. Yöntem, diffüzyon sürecindeki gürültü tahminlerinin tutarlılık özelliklerini analiz ederek çalışıyor ve mevcut yöntemlere kıyasla hem daha hızlı hem de daha doğru sonuçlar veriyor. Bu gelişme, AI modellerinin yaygınlaşmasıyla birlikte artan gizlilik endişelerini gündeme getiriyor ve telif hakkı ihlalleri ile kişisel verilerin korunması konularında yeni tartışmalara yol açıyor.

Araştırmacılar, geleneksel yapay sinir ağı eğitim yöntemlerinin yerine geçebilecek VoodooNet adlı yeni bir mimari geliştirdi. Bu sistem, uzun süren iteratif eğitim süreçlerini ortadan kaldırarak tek adımda analitik çözüme ulaşıyor. Girdi verilerini 'Galaktik Genişleme' yöntemiyle yüksek boyutlu uzaya yansıtarak karmaşık özellikleri ayırt edebilen VoodooNet, MNIST veri setinde %98.10, Fashion-MNIST'te ise %86.63 doğruluk oranına ulaştı. Özellikle Fashion-MNIST'teki sonuçlar, 10 döngülük geleneksel eğitim yöntemini geride bırakırken eğitim süresini büyük ölçüde kısalttı. Bu yaklaşım, yapay zeka modellerinin eğitim paradigmasında önemli bir değişimi işaret ediyor.

Araştırmacılar, yapay zeka sistemlerinin öğrenme sürecindeki keşif-yararlanma dengesini daha esnek bir şekilde ayarlayabilen yeni bir yöntem geliştirdi. Geleneksel pekiştirmeli öğrenme yaklaşımlarında, sistemin çevresini keşfetmesi için verilen güçlendirme bonusları zaman alıcı ve ayarlaması zor süreçler gerektiriyordu. Yeni yöntem, büyük dil modellerinin eğitiminde kullanılan 'en iyi N seçimi' tekniğini güçlendirme kavramıyla birleştirerek bu sorunu çözüyor. Bu yaklaşım, yapay zeka sistemlerinin yeni durumları keşfetme ve mevcut bilgilerini kullanma arasındaki dengeyi daha hızlı ve esnek bir şekilde ayarlamalarına olanak tanıyor. Sonuç olarak, sistemler açık bir politika öğrenmeden bile davranışlarını değiştirebiliyor ve farklı görevlerde daha etkili performans sergileyebiliyor.

Araştırmacılar, süper bilgisayarlar ve veri merkezlerinin kalbi olan bağlantı ağlarında yaşanan performans düşüşlerinin nedenlerini analiz etti. Çalışma, yapay zeka eğitimi ve yüksek performanslı hesaplama uygulamalarının oluşturduğu trafik desenlerinin ağlarda ciddi tıkanıklıklara yol açtığını ortaya koyuyor. VEF Traces çerçevesi kullanılarak geliştirilen yeni metodoloji, bu iletişim operasyonlarını karakterize etmeyi ve ağ performansına etkilerini modellenmeyi mümkün kılıyor. Bulgular, en verimli ağ tasarımlarının bile belirli trafik desenleri altında performans kaybı yaşayabileceğini gösteriyor ve gelecekteki ağ tasarımları için önemli öngörüler sunuyor.

Alman araştırmacılar, programlama eğitiminde devrim yaratabilecek yeni bir akıllı öğretmen sistemi geliştiriyor. Python programlama dili odaklı bu sistem, öğrencilere bireyselleştirilmiş ipuçları ve öneriler sunuyor. Geleneksel programlama öğretim sistemlerinden farklı olarak, büyük dil modellerini entegre eden platform, hem temel hem ileri düzey programlama konularını kapsıyor. Sistem, Avrupa veri koruma yasalarına ve Alman etik standartlarına uygun şekilde tasarlanıyor. Bu çalışma, programlama eğitiminde insan öğretmenlerin bulunmadığı durumlarda bile etkili öğrenme desteği sağlayabilecek bir çözüm sunuyor. Araştırmacılar, sistemin hem öğretim hem de araştırma platformu olarak kullanılabileceğini belirtiyor.