Araştırmacılar, dar bant genişlikli ve yüksek gürültülü kanallar üzerinden görüntü iletimi için yeni bir yaklaşım geliştirdi. Schrödinger Köprüsü tabanlı Üretken Semantik İletişim (SBGSC) adı verilen bu yöntem, mevcut teknolojilerin karşılaştığı halüsinasyon problemlerini ve yüksek hesaplama maliyetlerini önemli ölçüde azaltıyor. Geleneksel yöntemler, Gaussian dağılımından görüntü dağılımına uzun ve dolaylı yollar kullanırken, yeni sistem doğrudan optimal transport rotaları oluşturuyor. Bu sayede semantik bilgilerden görüntülere daha hızlı ve doğru dönüşüm sağlanıyor.

Yapay zeka destekli grafik arayüz ajanları, bilgisayar ekranlarını insan gibi kullanabilen gelişmiş sistemler olmasına rağmen, gerçek dışı algılar yaşayarak hatalı işlemler yapabiliyorlar. Bu durum özellikle gerçek dünya uygulamalarında ciddi sorunlara yol açıyor. Stanford araştırmacıları, bu soruna çözüm getirmek için HalluClear adlı kapsamlı bir sistem geliştirdi. Sistem, GUI ajanlarındaki halüsinasyonları kategorize ederek tanımlayabiliyor, güvenilir değerlendirme yöntemleri kullanabiliyor ve hafif eğitim teknikleriyle bu sorunları azaltabiliyor. Bu gelişme, AI ajanlarının daha güvenilir hale gelmesi açısından kritik önem taşıyor.

Yeni bir araştırma, çok modlu büyük dil modellerinin (OLLM) geleneksel metin odaklı yaklaşımdan uzaklaştığını ve görsel içerikleri tercih etmeye başladığını ortaya koydu. MIT ve diğer kurumların araştırmacıları, on farklı OLLM modelini analiz ederek bu 'modalite tercihi' olgusunu ilk kez sistematik olarak inceledi. Bulgular, bu modellerin katmanlar arası işlem sürecinde tercihlerin nasıl şekillendiğini ve çapraz-modal halüsinasyonların teşhis edilebileceğini gösteriyor. Bu keşif, AI'ın bilgiyi nasıl işlediğini anlamamızda önemli bir dönüm noktası.

Büyük dil modelleri karmaşık görevlerde kullanılmaya başlarken, halüsinasyon sorunu kritik hale geliyor. Araştırmacılar, yapay zekanın neden ve nerede hata yaptığını anlamak için PRISM adlı yeni bir değerlendirme sistemi geliştirdi. Bu sistem, halüsinasyonları dört farklı kategoride inceleyerek - bilgi eksikliği, bilgi hataları, mantık yürütme hataları ve talimat takip hataları - yapay zeka geliştiricilerine detaylı teşhis imkanı sunuyor. 65 farklı görevde 9.448 test örneği içeren PRISM, 24 farklı dil modelini analiz ederek tutarlı zayıflık kalıpları ortaya çıkardı. Bu çalışma, yapay zeka güvenliğinin kritik önem kazandığı dönemde, hataları sadece puanlamaktan ziyade kökenini anlama yaklaşımıyla öne çıkıyor.

Araştırmacılar, büyük dil modellerinin (LLM) sahip olduğu önceden öğrenilmiş bilgilerin, verilen kaynaklardaki açık delilleri geçersiz kılabildiği yeni bir halüsinasyon türünü keşfetti. 'Bilgi odaklı halüsinasyon' olarak adlandırılan bu fenomen, yapay zeka sistemlerinin belirsiz girişleri yorumlama ve eksik bilgileri tamamlama yeteneklerinin beklenmedik bir yan etkisi. Araştırma, iş süreçleri modellemesi alanında yapılan kontrollü deneylerle bu sorunu inceliyor. Yapay zeka modellerinin standardize edilmiş iş süreçleri hakkındaki güçlü iç bilgilerinin, bazen kaynak belgelerdeki açık bilgilere aykırı çıktılar üretmesine neden olabildiği ortaya çıktı. Bu bulgu, özellikle analitik görevlerde kullanılan yapay zeka sistemlerinin güvenilirliği açısından kritik öneme sahip.

Araştırmacılar, Deep-Reporter adlı yeni bir yapay zeka sistemi geliştirdi. Bu sistem, internetteki metin ve görsel kaynakları tarayarak, tıpkı uzman gazeteciler gibi uzun ve detaylı raporlar hazırlayabiliyor. Geleneksel AI sistemlerinin aksine, Deep-Reporter sadece metinle yetinmiyor; grafikleri, tabloları ve diğer görselleri de analiz ederek bunları raporda uygun şekilde konumlandırıyor. Sistem, üç ana bileşenden oluşuyor: çok modalı arama ve filtreleme, kontrol listesi rehberli sentez ve tekrarlayan bağlam yönetimi. Bu yenilik, AI'ın halüsinasyon sorununu azaltırken, ürettiği içeriklerin gerçek kaynaklara dayanmasını sağlıyor. Araştırmacılar ayrıca sistemlerini test etmek için M2LongBench adlı kapsamlı bir değerlendirme platformu da oluşturdular.

Araştırmacılar, büyük dil modellerinin bilimsel literatürden ölçüm verilerini çıkarırken yaşadığı ciddi halüsinasyon sorununa çözüm buldu. MeasHalu adlı yeni framework, AI sistemlerinin bilimsel makalelerdeki sayısal değerleri, birimleri ve ölçümleri doğru şekilde anlayıp işlemesini sağlıyor. Bu gelişme, bilimsel araştırmaların büyük ölçekte analiz edilmesi ve entegre edilmesi için kritik önem taşıyor. Sistem, ölçüm hatalarını kategorize ederek hedefli optimizasyon yapıyor ve süreç tabanlı denetimle modelleri eğitiyor.

Büyük görsel-dil modelleri bazen gerçekte olmayan nesneleri görüyor gibi davranabiliyor - bu duruma halüsinasyon deniyor. Araştırmacılar, bu sorunu çözmek için Dikkat-uzayı Kontrastif Rehberlik (ACG) adlı yeni bir yöntem geliştirdi. ACG, modelin görsel bilgiyi dil önyargılarından daha fazla dikkate almasını sağlayarak, yanlış nesne tanımlamalarını ve görsellerle uyumsuz açıklamaları önlüyor. Bu training-free yöntem, modelin dikkat katmanlarında doğrudan çalışarak, hatalar çıktı katmanında birikmeden önce müdahale ediyor.

Büyük dil modellerinin en ciddi sorunlarından biri olan halüsinasyon fenomeni için yeni bir çözüm geliştirildi. HalluSAE adlı bu yöntem, yapay zekanın yanlış bilgi üretme sürecini faz geçişi teorisiyle modelleyerek, modelin gizli dinamiklerindeki kritik değişimleri tespit ediyor. Araştırmacılar, metin üretim sürecini bir enerji manzarası içindeki yörünge olarak ele alarak, hangi özelliklerin faktüel hatalara yol açtığını belirlemeyi başardı. Bu gelişme, yapay zeka sistemlerinin güvenilirliğini artırmak için kritik bir adım olarak değerlendiriliyor.

Araştırmacılar, büyük dil modellerinin tıbbi özetleme yaparken ürettikleri yanlış bilgileri tespit edebilen yeni bir sistem geliştirdi. ClinTrace adı verilen bu sistem, modelin zaten var olan dikkat ağırlıklarını kullanarak hem her cümlenin hangi kaynaktan geldiğini gösteriyor, hem de kanıtı yetersiz ifadeleri işaretliyor. En önemli avantajı ise hiçbir ek eğitim ya da hesaplama maliyeti gerektirmemesi. Doktor-hasta diyalogları ve radyoloji raporları üzerinde test edilen sistem, tıbbi yapay zekanın güvenilirliğini artırmak için önemli bir adım sayılıyor.

Görsel-dil modellerinin (VLM) kritik bir zayıflığı keşfedildi: ekran üzerindeki metinler görsel içerikle çeliştiğinde, bu modeller gerçek görüntüyü görmezden gelip metne öncelik veriyor. Araştırmacılar bu durumu 'Metin Bindirme Kaynaklı Halüsinasyon' olarak tanımladı. 6.057 örnekten oluşan VisualTextTrap adlı kapsamlı test veri seti geliştirilerek, yapay zekanın bu sistematik hatası ölçüldü. Bulgular, günümüz yapay zeka sistemlerinin görsel anlama konusundaki sınırlarını ortaya koyuyor ve gelecek geliştirmeler için kritik bir yol haritası sunuyor.