Araştırmacılar, transformer tabanlı yapay zeka modellerinin mantıksal çıkarım yeteneklerini inceledi. Çalışmada, "A, B'den büyük; B, C'den büyük; o halde A, C'den büyük" türü geçişli mantık yürütme davranışı analiz edildi. İki farklı öğrenme türü karşılaştırıldı: model ağırlıklarına gömülü öğrenme ve bağlam içi öğrenme. Bulgular, bu iki yaklaşımın tamamen farklı stratejiler geliştirdiğini gösterdi. Ağırlık tabanlı öğrenen modeller, insanlar ve hayvanlarınkine benzer doğrusal ilişki haritaları oluştururken, bağlam içi öğrenen modeller genellikle ezberleme stratejisi benimsiyor. Ancak eğitim verileri geçişli çıkarımı gerektirdiğinde, bu modeller de mantıksal genelleme yapabiliyorlar. Araştırma, yapay zeka sistemlerinin akıl yürütme mekanizmalarını anlamak açısından önemli ipuçları sunuyor.

Kimyasal hesaplamalarda kritik olan elektron korelasyonlarının belirlenmesi için yeni bir yapay zeka yaklaşımı geliştirildi. Ranking Configuration Interaction (RCI) adı verilen bu yöntem, moleküllerdeki elektron davranışlarını tahmin etmek için geleneksel yöntemlerden farklı olarak 'sıralama' stratejisi kullanıyor. Transformer mimarisi kullanan sistem, elektronların orbital bağımlılıklarını daha doğru modelleyerek, kimyasal reaksiyonların ve moleküler özelliklerin hesaplanmasında önemli iyileştirmeler sağlıyor. Bu gelişme, ilaç tasarımından malzeme bilimlerine kadar pek çok alanda hesaplama kimyasının geleceğini şekillendirebilir.

Araştırmacılar, moleküllerin elektron davranışlarını simüle etmek için kullanılan zaman-bağımlı yoğunluk fonksiyonel teorisi (TDDFT) hesaplamalarını hızlandıran yeni bir yapay zeka modeli geliştirdi. OrbEvo adlı bu sistem, graph transformer mimarisi kullanarak moleküllerin dış elektrik alan etkisiyle değişen dalga fonksiyonlarını öğreniyor. Geleneksel TDDFT yöntemleri, optik absorpsiyon ve elektron dinamiği gibi özelikleri hesaplamak için çok ince zaman adımlarıyla tüm elektronik durumları simüle etmek zorunda kalıyor ve bu işlem oldukça zaman alıyor. Yeni model, moleküler simetriler ve dış elektrik alanların etkilerini dikkate alarak bu süreci önemli ölçüde hızlandırabiliyor. Bu gelişme, kimyasal reaksiyonların anlaşılması ve yeni malzemelerin tasarımı açısından büyük önem taşıyor.

Araştırmacılar, tek hücreli RNA dizileme verilerinden gen programları arasındaki karmaşık etkileşimleri öğrenebilen ORBIT adlı yeni bir yapay zeka modeli geliştirdi. Bu öz-denetimli transformer modeli, deneysel müdahale verilerine ihtiyaç duymadan, gen programlarının birbirlerini nasıl etkilediğini analiz edebiliyor. 191.890 prefrontal korteks çekirdeği üzerinde yapılan testlerde, ORBIT'in Alzheimer hastalığı ile ilişkili gen aktivasyon yapılarını başarıyla tespit ettiği görüldü. Model, her gen programının diğer programlar üzerindeki yönlü etkisini ölçerek, hücre tipine özgü yol değişikliklerini belirleyebiliyor. Bu teknoloji, hastalıkların hücresel düzeydeki mekanizmalarının anlaşılmasında önemli bir adım.

Bilim insanları, fonksiyonel MRI verilerini analiz etmek için yeni bir yapay zeka modeli geliştirdi. CortexMAE adlı bu sistem, 3 boyutlu beyin görüntülerini 2 boyutlu düz haritalara dönüştürerek Vision Transformer teknolojisini beyin verilerine uyarladı. 2100 saatlik açık fMRI verisi üzerinde eğitilen model, beyin aktivitelerini daha iyi anlayabilmek için geliştirildi. Araştırmacılar ayrıca fMRI modelleri için ilk açık değerlendirme platformu olan Brainmarks'ı da hayata geçirdi. Çalışmada düz harita, bölütleme ve hacim tabanlı temsil yöntemleri karşılaştırıldı. Sonuçlar düz harita yaklaşımının genel olarak en iyi performansı sergilediğini gösterdi. Bu gelişme, beyin görüntüleme teknolojilerinde yapay zekanın kullanımına yeni perspektifler kazandırıyor.

Büyük dil modellerinin en önemli sorunlarından biri olan 'mod çöküşü' için yeni bir çözüm geliştirildi. Bu sorun, yapay zeka modellerinin aynı cümleleri tekrar etmesi veya yaratıcılığını kaybetmesi olarak kendini gösteriyor. Araştırmacılar, sorunu dinamik sistemler açısından ele alarak, modelin iç temsillerinin düşük boyutlu bir alana sıkışması olarak tanımladılar. Geliştirdikleri 'Güçlendirilmiş Mod Düzenleme' adlı yöntem, modelin hafıza yapısına hafif müdahaleler yaparak bu tuzaktan kaçmasını sağlıyor. Yöntem, birden fazla büyük dil modelinde test edildi ve önemli başarılar elde edildi. Bu gelişme, yapay zeka asistanlarının daha tutarlı ve yaratıcı metinler üretmesine katkı sağlayabilir.

Yapay zeka dünyasının en önemli mimarilerinden transformer'ların yerel dikkat mekanizması, şaşırtıcı bir şekilde küresel dikkattan daha iyi sonuçlar verebiliyor. Araştırmacılar, bu paradoksal durumun nedenini matematiksel olarak açıkladı. Yerel dikkat, her kelimenin sadece sınırlı sayıda önceki kelimeye odaklanmasını sağlayarak hem hesaplama maliyetini düşürüyor hem de model performansını artırıyor. Çalışma, bu mekanizmanın ifade gücünü lineer zamansal mantık çerçevesinde analiz ederek, yerel dikkat eklenmesinin modele ek bir geçmiş operatörü kazandırdığını gösteriyor. Bu keşif, dil modellerinin nasıl çalıştığına dair temel anlayışımızı derinleştiriyor.

Stanford araştırmacıları, sosyal medya mesajlarındaki karmaşık duygusal yapıları analiz edebilen yeni bir yapay zeka sistemi geliştirdi. Geleneksel duygu analizi araçları bir metnin genel tonunu 'olumlu', 'olumsuz' veya 'nötr' olarak sınıflandırırken, yeni sistem aynı mesajda hem olumlu hem olumsuz duyguların bir arada bulunabileceğini tespit edebiliyor. Directed Social Regard (DSR) adı verilen bu yaklaşım, özellikle siyasi söylemler ve sosyal medya manipülasyonlarında sıkça görülen karmaşık mesajları analiz etmek için tasarlandı. Sistem, bir mesajdaki farklı hedeflere yönelik savunuculuk, yardımseverlik, karşıtlık ve zararlı içerikleri aynı anda tespit edebiliyor. Bu gelişme, çevrimiçi platformlardaki nefret söylemi, dezenformasyon ve manipülasyon kampanyalarının daha etkili şekilde tespit edilmesine olanak sağlayabilir.

Araştırmacılar, mevcut transformer modellerinin sınırlarını aşan yeni bir yapay zeka mimarisi geliştirdi. State Stream Transformer (SST) V2, geleneksel modellerin aksine pozisyonlar arası gizli bilgiyi koruyor ve sürekli bir mantık yürütme süreci sağlıyor. Bu yenilik, AI modellerinin daha verimli öğrenmesini ve daha derin düşünme kapasitesini mümkün kılıyor. Model, her katmanda doğrusal olmayan bir tekrarlama mekanizması kullanarak, gizli durumları tüm dizi boyunca akıtıyor. En önemli özelliği ise çıkarım sırasında her pozisyonda sürekli düşünebilme yetisi - tıpkı insanların karar vermeden önce düşünmesi gibi. İki aşamalı paralel eğitim prosedürü sayesinde verimli öğrenme sağlanırken, gizli durum analizi modelin farklı anlamsal alanlarda gezinerek mantık yürüttüğünü gösteriyor.

Endonezya'daki üniversite öğrencilerinin yapay zekâ teknolojilerine bakış açısını analiz eden yenilikçi bir çalışma, makine öğrenmesi ve transformer modelleri kullanarak duygu analizi gerçekleştirdi. 2.295 öğrenci görüşünün incelendiği araştırmada, geleneksel makine öğrenmesi yöntemleri ile modern derin öğrenme yaklaşımları karşılaştırıldı. Çalışma sonuçları, transformer tabanlı DistilBERT modelinin %84,78 doğrulukla en iyi performansı gösterdiğini ortaya koydu. Bu tür analizler, eğitim kurumlarının AI entegrasyonu süreçlerinde öğrenci görüşlerini daha iyi anlamalarına yardımcı oluyor ve teknoloji kabul süreçlerinin optimize edilmesine katkı sağlıyor.

Büyük dil modelleri program yazma görevlerinde etkileyici sonuçlar elde ediyor, ancak gerçek öğrenme yetenekleri belirsizliğini koruyor. Araştırmacılar, transformer modellerin gerçekten genelleme yapıp yapmadığını test etmek için kontrollü bir deney ortamı geliştirdi. Milyonlarca benzersiz program üzerinde yapılan testler, modellerin yeni durumlarla karşılaştıklarında ciddi sınırları olduğunu ortaya çıkardı. Bu bulgular, yapay zekanın öğrenme mekanizmalarının düşünülenden daha karmaşık olduğunu gösteriyor.