Büyük dil modellerinin insan geri bildirimlerinden öğrenmesi sırasında yaşanan kritik bir sorun çözülmeye çalışılıyor. ChatGPT gibi modeller, insanlardan aldıkları geri bildirimlerle eğitilirken 'ödül aşırı optimizasyonu' sorunu yaşıyor - yani gerçek performans düşerken bile proxy ödül puanları yükselmeye devam edebiliyor. Bu durum, Goodhart yasası olarak bilinen 'bir ölçü hedef haline geldiğinde, artık iyi bir ölçü olmaktan çıkar' prensibinin bir yansıması. Araştırmacılar, bu soruna Wasserstein dağıtımsal olarak güçlü pişmanlık optimizasyonu (DRRO) adında yeni bir yaklaşım geliştirdi. Mevcut yöntemler genellikle aşırı kötümser sonuçlar verirken, bu yöntem daha dengeli bir çözüm sunuyor.

Büyük dil modellerinin ürettiği metinlerin kaynağını tespit etmek giderek zorlaşırken, araştırmacılar BREW adlı yeni bir dijital imza yöntemi geliştirdi. Bu sistem, yapay zeka tarafından üretilen metinlere görünmez çoklu bit imzalar yerleştirerek, sahte pozitif sonuçları dramatik şekilde azaltıyor. Geleneksel yöntemlerin aksine, BREW iki aşamalı bir doğrulama mekanizması kullanıyor: önce bağımsız blok oylamasıyla mesajı tahmin ediyor, ardından pencere kaydırma tekniğiyle yerel düzenlemelere karşı sağlam doğrulama yapıyor. Test sonuçları, %10 eş anlamlı kelime değişikliği altında bile %96.5 doğru tespit oranı ve sadece %2 yanlış pozitif oranı gösteriyor.

Araştırmacılar, büyük dil modellerinin mantıksal düşünme kapasitesini artırmak için ResRL adında yeni bir pekiştirmeli öğrenme yöntemi geliştirdi. Mevcut teknikler, modellerin doğru cevap verme oranını artırırken yaratıcılığını kısıtlıyor. Yeni yöntem, negatif örnekleri akıllıca kullanarak hem doğru sonuçlar üretmeyi hem de çeşitlilik kazanmayı hedefliyor. ResRL, pozitif ve negatif yanıtlar arasındaki benzer anlamsal dağılımları ayırarak çalışıyor. Bu sayede modeller, yanlış cevaplara odaklanmadan öğrenim sürecini optimize edebiliyor. Geliştirilen teknik, yapay zeka modellerinin daha etkili problem çözme yetenekleri kazanmasını sağlayabilir.

Bilim insanları, DNA sentezi siparişlerindeki potansiyel biyolojik tehditleri tespit etmek için yeni bir güvenlik sistemi geliştirdi. CRC-Screen adlı bu sistem, mevcut güvenlik protokollerinin büyük bir açığını kapatıyor. Geleneksel yöntemler, bilinen tehlikeli DNA dizilerini referans listelerle karşılaştırarak çalışır, ancak bu yaklaşım yeni veya bilinmeyen toksik organizmaların DNA dizileri karşısında yetersiz kalıyor. Araştırmacılar, yapay zeka destekli üç farklı analiz yöntemini birleştiren hibrit bir sistem tasarladı. Bu sistem, DNA dizilerinin k-mer benzerliklerini, beş farklı büyük dil modelinin değerlendirmelerini ve kümelenmiş veri yapılarındaki kosinüs benzerliklerini analiz ediyor. Test sonuçları, sistemin farklı taksonomik ailelerden gelen tehlikeli DNA dizilerini %100 başarıyla tespit ettiğini gösteriyor. Bu gelişme, biyogüvenlik alanında önemli bir adım olarak değerlendiriliyor.

Araştırmacılar, matematiksel biyolojide yaygın kullanılan stokastik simülasyon algoritmasını (SSA) hızlandırmak için yenilikçi bir yaklaşım geliştirdi. Hava durumu ve iklim modellemesinden ilham alan çalışma, hesaplama hassasiyetini düşürerek simülasyonları önemli ölçüde hızlandırmanın mümkün olduğunu gösteriyor. İki farklı strateji test edildi: karma hassasiyet yöntemi ve tek tip hassasiyet yöntemi. Karma hassasiyet yaklaşımı, 16-bit hesaplama kullanırken kritik verileri 32-bit'te saklayarak hem hız hem de doğruluk sağlıyor. Beş farklı biyolojik model üzerinde yapılan testler, bu yöntemin istatistiksel güvenilirliği korurken hesaplama süresini dramatik şekilde azalttığını ortaya koyuyor. Bu gelişme, büyük ölçekli biyolojik simülasyonları daha erişilebilir hale getirerek araştırma kapasitesini artırabilir.

Araştırmacılar, beynin doğal temizlik ağı olan glimfatik sistemin çalışmasını görüntüleme verilerinden yeniden oluşturabilen yeni bir hesaplama yöntemi geliştirdi. Bu sistem, beyin omurilik sıvısının damar çevresindeki boşluklardan beyin dokusuna taşınarak metabolik atıkların temizlenmesini sağlıyor. Yeni yaklaşım, gürültülü görüntüleme verilerinden fiziksel olarak geçerli transport alanları oluşturarak, Alzheimer ve diğer nörodejeneratif hastalıklarla ilişkili olan beyin atık temizleme mekanizmalarının daha iyi anlaşılmasına katkı sağlayabilir. Geliştirilen framework, kişiye özel görüntüleme verilerinden yüksek doğrulukta glimfatik transport alanları yeniden oluşturabiliyor.

Bilim insanları, radikal çiftlerin spin dinamiklerini kontrol etmek için yeni bir kuantum optimal kontrol yöntemi geliştirdi. Bu çalışma, biyokimyasal reaksiyonlarda radikal çiftleri kuantum tutarlı duruma getirmek için gerekli elektromanyetik alan şeklini matematiksel olarak belirlemeyi amaçlıyor. Araştırmacılar, Pontryagin Maksimum İlkesi'ni kullanarak triplet-born singlet verimini maksimize eden kontrol sistemini tasarladı. Bu yöntem, özellikle biyolojik sistemlerdeki kuantum etkilerini anlamak ve kontrol etmek açısından önemli bir adım teşkil ediyor. Geliştirilen iteratif Pontryagin Maksimum İlkesi (IPMP) yöntemi, optimal kontrolün bang-bang yapısını belirlemede yeni bir yaklaşım sunuyor.

Büyük dil modelleri doğal dilde güven seviyelerini ifade edebiliyor ancak sistematik olarak aşırı güvenli davranıyorlar. Stanford araştırmacıları bu sorunun temel nedenini keşfetti: modeller güven tahminlerini kendi verdikleri cevaptan bağımsız yapıyor. Geliştirilen ADVICE yöntemi, modellerin güven seviyelerini kendi cevaplarına dayandırmasını sağlayarak bu sorunu çözüyor. Yapılan deneyler, yöntemin güven kalibrasyonunu önemli ölçüde iyileştirdiğini ve farklı durumlara güçlü genelleme yapabildiğini gösteriyor. Bu gelişme yapay zeka sistemlerinin şeffaflığı ve güvenilirliği açısından önemli bir adım.

Matematikçiler, düz olmayan geometrik yapılarda momentum uzayı inşa etmek için yeni bir matematiksel araç geliştirdi. Genelleştirilmiş Fourier Dönüşümü (GFT) adı verilen bu yöntem, eğri yüzeyler ve karmaşık geometrik şekiller üzerinde klasik Fourier analizinin genişletilmesi anlamına geliyor. Araştırma, spektral ayrıştırma tekniği kullanarak herhangi bir Riemann manifoldu üzerinde bu dönüşümü tanımlıyor ve bunun izometrik bir izomorfizm olduğunu kanıtlıyor. Özellikle kuantum fiziği ve genel görelilik teorisi gibi alanlarda, düz olmayan uzaylarda dalga fonksiyonlarını ve momentum dağılımlarını analiz etmek için kritik önem taşıyan bu gelişme, matematiksel fizikte yeni araştırma kapılarını açıyor.

Araştırmacılar, yapay zeka modellerinin eğitiminde kullanılan ödül sistemlerini iyileştirmek için yeni bir yaklaşım geliştirdi. Mevcut sistemlerde modeller doğru cevapları tahmin edebiliyor ancak gerekçelerini sağlam temellere dayandıramıyor. Bu durum eğitim sürecinde gürültü yaratarak öğrenme kalitesini düşürüyor. Yeni geliştirilen RM-NLHF yöntemi, ikili sınıflandırma yerine doğal dil geri bildirimini kullanarak daha detaylı süreç ödülleri sağlıyor. Bu yaklaşım, yapay zeka modellerinin sadece doğru sonuçlara ulaşmakla kalmayıp, bu sonuçlara nasıl vardığını da daha iyi öğrenmesini sağlayabileceğini gösteriyor.

Büyük dil modellerinin karmaşık problemleri çözerken kullandığı zincirsel mantık yürütme (CoT) yönteminde ciddi bir açık keşfedildi. Araştırmacılar, bu modellerin eğitim sırasında gördüklerinden daha fazla mantık adımı gerektiren problemlerde performanslarının keskin bir şekilde düştüğünü ortaya koydu. MIT ve diğer kurumlardan bilim insanları, bu başarısızlığın arkasındaki mekanizmayı inceleyerek, hataların rastgele dağılmadığını, belirli token pozisyonlarında yoğunlaştığını buldu. Daha da önemlisi, 'hatalı işleme kafaları' adını verdikleri özel dikkat mekanizmalarının, doğru mantık yollarını bastırırken yanlış çıkarımları güçlendirdiğini keşfetti. Bu bulgu, yapay zekanın mantık yürütme yeteneklerinin geliştirilmesi açısından kritik önem taşıyor.