“Lusi” için sonuçlar
57 sonuç bulundu. Sonuçları kategoriye göre daraltabilirsin.
Yazılım Hatalarını Otomatik Düzelten Akıllı Sistem Geliştirildi
Araştırmacılar, yazılım hatalarını otomatik olarak düzelten yeni nesil bir yapay zeka sistemi geliştirdi. Prometheus adlı bu sistem, geleneksel kod onarım araçlarının temel sorunu olan 'niyet boşluğu' problemini çözmeyi hedefliyor. Sistem, sadece kodu düzeltmek yerine, önce yazılımın ne yapması gerektiğini anlayarak spesifikasyon çıkarımı yapıyor. Çok-ajan mimarisi kullanan Prometheus, çalışma zamanı hata raporlarından Gherkin spesifikasyonlarını ters mühendislik yöntemiyle çıkarıyor. Geliştirilen Gereksinim Kalite Güvencesi döngüsü ile 'niyet halüsinasyonu' sorunu da çözülmeye çalışılıyor. Bu yaklaşım, yazılım geliştiricilerin asıl amacıyla uyumlu yamalar üreterek, otomatik program onarımında devrim yaratabilir.
Yapay zeka kendini geliştirerek görsel soru-cevap veri setleri üretiyor
Araştırmacılar, görsel sorulara dayalı veri setlerinin manuel olarak hazırlanmasındaki zorlukları aşmak için AutoVQA-G adlı yenilikçi bir sistem geliştirdi. Bu sistem, yapay zekanın kendi performansını değerlendirip iyileştirmesine dayanan özerk bir yaklaşım kullanıyor. Görsel soru-cevap modellerinin eğitimi için kritik önem taşıyan bu veri setleri, şimdiye kadar büyük ölçüde insan emeği gerektiriyordu. Yeni sistem, tutarlılık değerlendirmesi ve hafıza destekli optimizasyon ajanları kullanarak bu süreci otomatikleştiriyor. Geleneksel yöntemlerdeki model halüsinasyonları ve basit doğrulama mekanizmalarının yarattığı sorunları çözmek için tasarlanan AutoVQA-G, iteratif iyileştirme döngüleri ve zincir-düşünce mantığı ile çalışıyor.
Yapay Zeka Sistemlerinde Yeni Dönem: Tek Model İle Bilgi Arama ve Üretim
Araştırmacılar, büyük dil modellerinin dış kaynaklardan bilgi alırken yaşadığı sınırları aşan yenilikçi bir yaklaşım geliştirdi. LAnR adlı bu sistem, geleneksel yöntemlerin aksine tek bir model içinde bilgi kodlama, arama ve metin üretme işlemlerini birleştiriyor. Klasik sistemler doğal dil sorguları oluşturup ayrı bileşenler kullanırken, LAnR tamamen kendi gizli katman uzayında çalışarak daha etkili sonuçlar elde ediyor. Sistem, özel bir token vasıtasıyla yoğun arama vektörleri üretiyor ve yeterli kanıt toplandığında adaptif olarak karar veriyor. Bu gelişme, yapay zekanın bilgi doğruluğunu artırma ve halüsinasyon sorunlarını azaltma konusunda önemli bir adım teşkil ediyor.
Yapay Zeka'nın Görsel Halüsinasyonları Kendi Kendine Düzeltmeyi Öğrendi
Büyük görsel-dil modelleri, gördükleri görüntülerle tutarsız açıklamalar üretme sorunu yaşıyor. Bu durum 'görsel halüsinasyon' olarak adlandırılıyor ve AI sistemlerinin güvenilirliğini ciddi şekilde etkiliyor. Araştırmacılar, bu sorunu çözmek için yeni bir yaklaşım geliştirdi: AI modellerinin kendi performanslarını değerlendirerek hatalarını anlık olarak düzeltmesi. Çalışma, görsel halüsinasyonların belirli aşamalarda zirve yaptığını keşfetti ve bu keşfe dayanarak PSRD adlı yeni bir sistem tasarladı. Bu sistem, dış müdahaleye ihtiyaç duymadan AI'ın kendi kendine öğrenmesini sağlıyor. Geleneksel yöntemlerin aksine büyük ölçekli veri işleme gerektirmiyor ve dinamik düzeltmeler yapabiliyor.
Yapay Zeka Modellerinin Güvenilirliğini Artıran Yeni Yöntem Geliştirildi
Büyük dil modelleri bazen gerçekmiş gibi görünen yanlış bilgiler üretebiliyor - bu duruma 'halüsinasyon' deniyor. Araştırmacılar, yapay zeka modellerinin ne kadar emin olduklarını daha iyi tahmin edebilmeleri için yeni bir eğitim yöntemi geliştirdi. Bu yaklaşım, modellerin belirsizliklerini doğru şekilde değerlendirmelerini sağlayarak daha güvenilir yanıtlar vermelerini hedefliyor. Yöntem, modelin doğruluğunu korurken aynı zamanda hangi durumlarda daha temkinli davranması gerektiğini öğrenmesini sağlıyor. Bu gelişme, özellikle kritik alanlarda yapay zeka kullanımında güven artışı sağlayabilir.
Yapay Zeka Görsel Halüsinasyonlarına Karşı Yeni Çözüm: ACG Yöntemi
Büyük görsel-dil modelleri bazen gerçekte olmayan nesneleri görüyor gibi davranabiliyor - bu duruma halüsinasyon deniyor. Araştırmacılar, bu sorunu çözmek için Dikkat-uzayı Kontrastif Rehberlik (ACG) adlı yeni bir yöntem geliştirdi. ACG, modelin görsel bilgiyi dil önyargılarından daha fazla dikkate almasını sağlayarak, yanlış nesne tanımlamalarını ve görsellerle uyumsuz açıklamaları önlüyor. Bu training-free yöntem, modelin dikkat katmanlarında doğrudan çalışarak, hatalar çıktı katmanında birikmeden önce müdahale ediyor.
Yapay Zekanın Halüsinasyonları Artık Tespit Edilebilir: HalluSAE Yöntemi
Büyük dil modellerinin en ciddi sorunlarından biri olan halüsinasyon fenomeni için yeni bir çözüm geliştirildi. HalluSAE adlı bu yöntem, yapay zekanın yanlış bilgi üretme sürecini faz geçişi teorisiyle modelleyerek, modelin gizli dinamiklerindeki kritik değişimleri tespit ediyor. Araştırmacılar, metin üretim sürecini bir enerji manzarası içindeki yörünge olarak ele alarak, hangi özelliklerin faktüel hatalara yol açtığını belirlemeyi başardı. Bu gelişme, yapay zeka sistemlerinin güvenilirliğini artırmak için kritik bir adım olarak değerlendiriliyor.
Yapay Zeka Modelleri Kendi Bilgilerini Kaynaklara Tercih Ediyor
Araştırmacılar, büyük dil modellerinin (LLM) sahip olduğu önceden öğrenilmiş bilgilerin, verilen kaynaklardaki açık delilleri geçersiz kılabildiği yeni bir halüsinasyon türünü keşfetti. 'Bilgi odaklı halüsinasyon' olarak adlandırılan bu fenomen, yapay zeka sistemlerinin belirsiz girişleri yorumlama ve eksik bilgileri tamamlama yeteneklerinin beklenmedik bir yan etkisi. Araştırma, iş süreçleri modellemesi alanında yapılan kontrollü deneylerle bu sorunu inceliyor. Yapay zeka modellerinin standardize edilmiş iş süreçleri hakkındaki güçlü iç bilgilerinin, bazen kaynak belgelerdeki açık bilgilere aykırı çıktılar üretmesine neden olabildiği ortaya çıktı. Bu bulgu, özellikle analitik görevlerde kullanılan yapay zeka sistemlerinin güvenilirliği açısından kritik öneme sahip.
REFLEX: Yapay Zeka ile Sahte Haberlere Karşı Kendini Geliştiren Doğrulama Sistemi
Sosyal medyada yayılan sahte haberler, güvenilir doğrulama sistemlerine olan ihtiyacı artırıyor. Araştırmacılar, büyük dil modellerinin yanıltıcı açıklamalar üretme sorununu çözmek için REFLEX adlı yeni bir sistem geliştirdi. Bu sistem, kararlarını aldıktan sonra açıklamalarını iyileştiren kendini geliştiren bir yaklaşım kullanıyor. Geleneksel sistemlerin aksine, dış bilgi kaynaklarına aşırı bağımlılığı azaltarak hallüsinasyon riskini düşürüyor ve gerçek zamanlı kullanım için daha hızlı yanıtlar sağlıyor. REFLEX, temel model ile ince ayarlı versiyonu arasındaki görüş ayrılıklarından yararlanarak gerçekleri üsluptan ayıran yönlendirici vektörler oluşturuyor.
FaithLens: Yapay zekanın yanlış bilgilerini tespit eden yeni model
Büyük dil modellerinin ürettiği yanlış ve tutarsız bilgileri tespit etmek, günümüzde kritik bir sorun haline geldi. Araştırmacılar, bu soruna çözüm olarak FaithLens adlı yeni bir model geliştirdi. Bu sistem, yapay zekanın güvenilir olmayan çıktılarını sadece tespit etmekle kalmıyor, aynı zamanda neden yanlış olduğunu da açıklayabiliyor. Model, özellikle bilgi arama sistemleri ve metin özetleme gibi kritik uygulamalarda büyük önem taşıyor. 8 milyar parametreli FaithLens, 12 farklı görevde test edildi ve GPT gibi gelişmiş modelleri bile geride bıraktı. Sistem, maliyet açısından da verimli bir çözüm sunuyor.
Yapay Zeka Bilimsel Kanıtları Doğrulamada Zorlanıyor: Yeni Araştırma Şaşırtıyor
Araştırmacılar, yapay zeka modellerinin bilimsel iddiaları kanıtlarla karşılaştırma becerisini test etmek için 469 bin örnek içeren kapsamlı bir veri seti oluşturdu. M2-Verify adlı bu çalışma, PubMed ve arXiv'den toplanan verilerle 16 farklı bilim alanını kapsıyor. Sonuçlar oldukça çarpıcı: En gelişmiş AI modelleri bile basit tıbbi durumlarda %85,8 başarı gösterirken, karmaşık anatomik değişikliklerde bu oran %61,6'ya düşüyor. Daha da önemlisi, modeller bilimsel açıklamalar yaparken halüsinasyonlar üretiyor ve tutarsız sonuçlar veriyor. Bu bulgular, bilimsel araştırmalarda AI kullanımının henüz tam güvenilir olmadığını gösteriyor ve gelecekteki geliştirmeler için önemli bir yol haritası sunuyor.
Yapay Zeka Modelleri Daha Tutarlı Dünya Anlayışı Geliştirebilir mi?
Büyük dil modellerinin (LLM) tutarlı bir iç dünya modeli geliştirip geliştiremediği yapay zeka alanındaki temel tartışmalardan biri. Geleneksel tek-token tahmin yöntemlerinin aksine, çoklu-token tahmin yaklaşımı daha yapılandırılmış öğrenme sunuyor. Yeni araştırma, bu yöntemin gradient etkileşimi yoluyla iç inanç durumlarına yakınsamayı nasıl teşvik ettiğini teorik olarak açıklıyor. Ancak standart çoklu-token tahmin yönteminde yapısal halüsinasyonlar ortaya çıkabiliyor. Araştırmacılar bu sorunu çözmek için Gizli Semantik Geliştirme adlı yeni bir yaklaşım öneriyor. Bu yöntem, tahminleri gerçek gizli durum yörüngelerine sabitleyerek çevresel kısıtlamaları ihlal eden yasadışı kısayolları engelliyor. Çalışma, yapay zeka modellerinin dünya anlayışını geliştirme konusunda önemli bir adım teşkil ediyor.
Yapay Zeka Artık Metin ve Görsel Kanıtları Birleştirerek Uzun Raporlar Yazabiliyor
Araştırmacılar, Deep-Reporter adlı yeni bir yapay zeka sistemi geliştirdi. Bu sistem, internetteki metin ve görsel kaynakları tarayarak, tıpkı uzman gazeteciler gibi uzun ve detaylı raporlar hazırlayabiliyor. Geleneksel AI sistemlerinin aksine, Deep-Reporter sadece metinle yetinmiyor; grafikleri, tabloları ve diğer görselleri de analiz ederek bunları raporda uygun şekilde konumlandırıyor. Sistem, üç ana bileşenden oluşuyor: çok modalı arama ve filtreleme, kontrol listesi rehberli sentez ve tekrarlayan bağlam yönetimi. Bu yenilik, AI'ın halüsinasyon sorununu azaltırken, ürettiği içeriklerin gerçek kaynaklara dayanmasını sağlıyor. Araştırmacılar ayrıca sistemlerini test etmek için M2LongBench adlı kapsamlı bir değerlendirme platformu da oluşturdular.
Endüstriyel Öneri Sistemlerinde Devrim: LLMAR Çerçevesi Geliştirildi
Araştırmacılar, endüstriyel B2B uygulamalarda karşılaşılan veri kıtlığı sorununu çözmek için LLMAR adlı yenilikçi bir öneri sistemi geliştirdi. İnşaat sahası risk tahmini ve malzeme tedariki gibi alanlarda kullanılan geleneksel sistemler, yetersiz etkileşim verisi nedeniyle başarısız oluyor. LLMAR, büyük dil modellerinin akıl yürütme yeteneklerini kullanarak kullanıcıların gizli motivasyonlarını anlıyor ve hiçbir eğitim süreci gerektirmiyor. Sistem, davranış geçmişini yapılandırılmış anlamlı motivasyonlara dönüştüren çıkarım odaklı açıklama ve halüsinasyonları önleyen öz-düzeltme mekanizması gibi özellikler sunuyor. Bu yenilik, veri kıtlığının yaşandığı endüstriyel alanlarda öneri sistemlerinin etkinliğini artırma potansiyeli taşıyor.
Psikedeliklerin halüsinasyon etkisi rüya mekanizmasıyla açıklandı
Klasik psikedelik maddelerin nasıl görsel halüsinasyonlara yol açtığını açıklayan yeni bir bilimsel model geliştirildi. 'Oneirogen hipotezi' adı verilen bu yaklaşım, psikedeliklerin beynde gerçek anlamda rüya benzeri durumlar yaratarak halüsinasyonlara neden olduğunu öne sürüyor. Araştırmacılar, yapay sinir ağları kullanarak bu etkiyi simüle ettiler ve psikedeliklerin düşük seviyede tutarlı ancak yüksek seviyede gerçeküstü algılar yaratma mekanizmasını modellemeyi başardılar. Bu çalışma, hem psikedelik maddelerin beyin üzerindeki etkilerini anlamamıza katkıda bulunuyor hem de bu maddelerin terapötik kullanımları için önemli ipuçları sunuyor.
Yapay zeka psikiyatrist: WiseMind hem doğru tanı koyuyor hem empati gösteriyor
Araştırmacılar, ruh sağlığı alanında devrim yaratabilecek WiseMind adlı çok aracılı yapay zeka sistemi geliştirdi. Bu yenilikçi framework, Diyalektik Davranış Terapisi teorisinden ilham alarak iki farklı yapay zeka aracısını birleştiriyor: kanıta dayalı mantık yürüten 'Mantıklı Zihin' ve empatik iletişim kuran 'Duygusal Zihin'. Sistem, DSM-5 kılavuzuna dayalı yapılandırılmış bilgi grafiği kullanarak psikiyatrik değerlendirme yapıyor ve standart yöntemlere kıyasla halüsinasyonları önemli ölçüde azaltıyor. WiseMind, büyük dil modellerinin ruh sağlığı alanındaki potansiyelini ortaya koyarken, hem klinik doğruluk hem de hasta güveni için gerekli duygusal uyumu sağlayan ilk sistem olma özelliği taşıyor.
Yapay Zeka Modelleri Neden Yanlış Bilgi Üretiyor? Çözüm Bulundu
Büyük dil modelleri, eğitim sürecinde yeni bilgiler öğrenirken eski doğru bilgileri unutarak yanlış içerik üretme eğilimi gösteriyor. Araştırmacılar, bu sorunun sürekli öğrenme literatüründeki yöntemlerle çözülebileceğini keşfetti. Önerilen kendini-damıtma yöntemi, modelin yeni bilgileri öğrenirken mevcut doğru bilgilerini korumasını sağlıyor. Çalışma aynı zamanda belirli parametreleri dondurarak da halüsinasyonları azaltmanın mümkün olduğunu gösteriyor. Bu bulgular, yapay zeka sistemlerinin güvenilirliğini artırmak için kritik öneme sahip.
Yapay Zeka Halüsinasyonları Artık Tespit Edilebilir: SIVR Yöntemi Geliştirild
Büyük dil modellerinin ürettiği yanlış bilgileri (halüsinasyonları) tespit etmek için yeni bir yöntem geliştirildi. Sequential Internal Variance Representation (SIVR) adlı bu yaklaşım, yapay zekanın iç katmanlarındaki belirsizlik işaretlerini analiz ederek gerçek dışı cevapları önceden belirleyebiliyor. Geleneksel yöntemlerin aksine, SIVR modelin her katmanında ve her kelimede ortaya çıkan varyasyon desenlerini takip ederek daha güvenilir sonuçlar elde ediyor. Bu gelişme, yapay zeka sistemlerinin güvenilirliğini artırmada önemli bir adım olarak değerlendiriliyor.
Yapay Zeka Halüsinasyonlarının Sırrı: İlk Token'dan Başlayan Yanlış Yolculuk
Stanford araştırmacıları, büyük dil modellerinin neden gerçek dışı bilgiler ürettiğini açıklayan çığır açar bir keşif yaptı. Qwen2.5 modeli üzerinde yapılan deneyler, halüsinasyonların tesadüfi olmadığını, modelin ilk kelimeden itibaren yanlış bir 'yörüngeye' girdiğini ortaya koyuyor. Araştırma, aynı soruya verilen farklı yanıtları analiz ederek, modellerin %44 oranında doğru ve yanlış bilgi arasında erken ayrım yaptığını gösteriyor. En çarpıcı bulgu ise, yanlış aktivasyonların doğru yanıtları bozmasının (%87), doğru aktivasyonların yanlış yanıtları düzeltmesinden (%33) çok daha kolay olması. Bu asimetrik yapı, AI sistemlerinin neden bazen ısrarla yanlış bilgiler ürettiğini ve bu sorunu çözmenin neden bu kadar zor olduğunu açıklıyor.
Yapay Zeka Halüsinasyonlarını Tespit Eden Yeni Sistem: RAGognizer
Büyük dil modelleri bazen gerçek dışı bilgiler üretebiliyor - bu duruma 'halüsinasyon' deniyor. Araştırmacılar, bu sorunu çözmek için RAGognizer adlı yeni bir sistem geliştirdi. Bu sistem, yapay zekanın yanlış bilgi ürettiği anları gerçek zamanlı olarak tespit edebiliyor. Geleneksel yöntemler halüsinasyonları sonradan kontrol ederken, RAGognizer bunu eğitim sürecine dahil ediyor. Sistem, doğal olarak ortaya çıkan halüsinasyonları token düzeyinde işaretleyen özel bir veri seti kullanıyor. Bu yaklaşım, hem dil modellemesi hem de halüsinasyon tespitini aynı anda optimize ederek daha güvenilir AI sistemleri geliştirilmesine katkı sağlıyor.
Yapay Zeka Halüsinasyonlarını Tespit Eden Yeni Sistem: FRANQ
Araştırmacılar, büyük dil modellerinin yanlış bilgi üretme sorununu çözmek için FRANQ adında yeni bir sistem geliştirdi. Retrieval-Augmented Generation (RAG) teknolojisi kullanan yapay zeka sistemleri, internetten bilgi çekerek sorulara yanıt verirken bazen gerçek dışı bilgiler üretebiliyor. FRANQ, bu 'halüsinasyonları' tespit etmek için gelişmiş belirsizlik ölçüm tekniklerini kullanıyor ve doğru bilgiyle desteklenen ifadeleri yanlışlıkla hatalı olarak etiketleme sorununu çözüyor. Sistem, bir ifadenin kaynaklarla ne kadar uyumlu olduğunu ve gerçekte doğru olup olmadığını ayrı ayrı değerlendiriyor.
Yapay Zeka Modelleri Gerçekten Bilmediklerini Biliyor mu?
Stanford araştırmacıları, büyük dil modellerinin (LLM) halüsinasyon üretme mekanizmalarını inceledi. Çalışma, yapay zeka modellerinin yanlış bilgi üretmesinin iki farklı nedeni olduğunu ortaya koyuyor: bilgi eksikliği ve sahte çağrışımlar. Araştırma, modellerin iç süreçlerini analiz ederek, sahte çağrışımlara dayalı halüsinasyonların gerçek bilgi hatırlamayla benzer mekanizmalar kullandığını gösteriyor. Bu bulgu, AI güvenilirliği konusunda önemli sonuçlar doğuruyor çünkü modellerin kendi hatalarını tespit etme yeteneğinin düşünülenden daha sınırlı olduğunu işaret ediyor.
Akıllı AI'lerde Paradoks: Daha İyi Mantık Yürütme, Daha Fazla Halüsinasyon
Yapay zeka araştırmacıları, büyük dil modellerinde şaşırtıcı bir paradoks keşfetti: AI sistemlerinin mantık yürütme yetenekleri güçlendikçe, var olmayan araçları kullanma eğilimleri de artıyor. Araştırmacılar, OpenAI'nin o3 modeli gibi gelişmiş sistemlerde gözlemlenen bu durumu sistematik olarak incelemek için SimpleToolHalluBench adlı yeni bir test sistemi geliştirdi. Çalışma, 'önce düşün, sonra hareket et' mantığıyla tasarlanan AI ajanlarında beklenmedik bir yan etki ortaya koyuyor: daha sofistike düşünme becerileri, aynı zamanda gerçekte bulunmayan araçları hayal etme riskini de beraberinde getiriyor.
Yapay Zeka Modelleri Yeni Bilgi Öğrenirken Neden Halüsinasyon Görüyor?
Büyük dil modelleri yeni bilgilerle eğitildiğinde, daha önce doğru bildiği konularda bile yanlış bilgiler üretmeye başlayabiliyor. Araştırmacılar bu 'faktüel halüsinasyon' olarak adlandırılan durumu Biography-Reasoning adlı özel bir veri setiyle inceledi. Çalışma, halüsinasyonların sadece yeni öğrenilen konuları etkilemediğini, diğer görevlere de yayıldığını ortaya koydu. Özellikle belirli bir bilgi türünün tamamen yeni bilgilerden oluştuğu durumlarda, yapay zeka modelleri daha fazla halüsinasyon eğilimi gösteriyor. Bu bulgular, AI güvenilirliği açısından kritik öneme sahip.