Arama · son güncelleme 5 sa önce
1-24 / 55 haber Sayfa 1 / 3
Teknoloji & Yapay Zeka
2 Sep

Yapay Zeka Halüsinasyonlarını Tespit Eden Yeni Yöntem: TOHA

Büyük dil modelleri, bazen gerçek olmayan ya da kaynak verilerle çelişen bilgiler üretebiliyor; bu durum yapay zeka alanında 'halüsinasyon' olarak adlandırılıyor. Skoltech ve Sberbank'ın Pratik Yapay Zeka Merkezi'nden araştırmacılar, bu sorunu çözmek için TOHA adını verdikleri yeni bir yaklaşım geliştirdi. Yöntem, özellikle dış bilgi kaynaklarından beslenen RAG (Retrieval-Augmented Generation) sistemlerinde çalışan modelleri hedef alıyor. TOHA'nın özgün tarafı, modelin dikkat haritalarının topolojik yapısını inceleyerek verilen bağlamla örtüşmeyen yanıtları tespit edebilmesi. Üstelik bu süreç için ayrı bir yapay zeka modeli eğitilmesine gerek yok; yalnızca küçük miktarda etiketli veri yeterli oluyor. Bu özellik, yöntemi hem maliyet açısından verimli hem de geniş ölçekte uygulanabilir kılıyor. Halüsinasyon tespiti, yapay zekanın sağlık, hukuk ve finans gibi hassas alanlarda güvenilir biçimde kullanılabilmesi için kritik bir sorun olmaya devam ediyor.

TechXplore — Bilgisayar Bilimleri 0
Teknoloji & Yapay Zeka
27 Aug

Yapay Zeka Hava Tahminlerinde Sayısal Hata Yapıyor mu? Yeni Kıyaslama Testi

Büyük dil modelleri (LLM'ler), hava durumu gibi kritik alanlarda sayısal değerleri yanlış üretebiliyor — buna 'halüsinasyon' deniyor. ABD Ulusal Hava Servisi (NWS), meteorologların hazırladığı detaylı tahmin raporlarını (AFD) yayımlamaktadır. Araştırmacılar, yapay zekanın bu tür profesyonel meteoroloji metinleri üretip üretemeyeceğini sistematik biçimde ölçmek için AFDBench adlı yeni bir kıyaslama seti geliştirdi. Bu set; 13 farklı NWS ofisinden alınan 7.732 uzman yazılı tartışmayı, Google'ın WeatherNext 2 modelinden gelen gerçek yapay zeka hava tahmini verileriyle eşleştiriyor. Değerlendirme üç farklı ölçütle yapılıyor: sayısal doğruluğu ölçen Met-Align, profesyonel dil kullanımını değerlendiren Style-Align ve kaynak verilere bağlılığı test eden Input-Grounding. Sıfır örnekli (zero-shot) testlerde açık kaynaklı LLM'lerin profesyonel NWS yazı üslubunu yakalamakta ciddi güçlük çektiği, kaynak verileri ise orta düzeyde doğrulukla kullandığı görüldü. Sonuçlar, mevcut yapay zeka modellerinin yüksek riskli meteoroloji uygulamalarında doğrudan kullanımının henüz güvenli olmadığına işaret ediyor.

arXiv — Atmosfer & Okyanus Bilimleri 0
Teknoloji & Yapay Zeka
28 Jul

Yapay Zeka Kendi Söylediklerini Unutuyor: LLM'lerde Kaynak Karışıklığı

İnsanlar gündelik hayatta kendi düşündükleri ile dışarıdan duydukları bilgileri birbirinden ayırt edebilir; psikolojide bu yetiye 'gerçeklik izleme' adı verilir. Bu kapasitenin bozulması ise halüsinasyon ve konfabülasyon gibi sorunlarla ilişkilendirilir. Peki büyük dil modelleri (LLM'ler) kendi ürettikleri içerikleri kullanıcının söylediklerinden ayırt edebiliyor mu? Yeni bir araştırma, altı farklı LLM üzerinde yürütülen iki deneyle bu soruyu ilk kez sistematik biçimde ele aldı. Bulgular çarpıcı: Modeller, konuşma hafızası sade tutulduğunda kendi çıktılarını başarıyla tanımlayabiliyor. Ancak araya zaman veya ek bilgi girdiğinde bu başarı çöküyor; model, kendi ürettiği hataları kullanıcıdan gelen gerçekmiş gibi işlemeye başlıyor. Üstelik geri bildirim verildiğinde bazı modellerde doğruluk artar ama güven düzeyi doğruluktan kopuk hareket eder — yani model daha emin görünürken aslında daha fazla yanılıyor olabilir. Araştırmacılar bu örüntünün modelin toplam parametre sayısıyla değil, aktif olarak kullanılan parametre sayısıyla ilişkili olduğunu da ortaya koydu. Çok turlu otonom görevler üstlenen yapay zeka sistemleri açısından bu bulgu ciddi güvenlik ve güvenilirlik sorularını beraberinde getiriyor.

arXiv (Nörobilim) 0
Teknoloji & Yapay Zeka
14 Jul

Kamera Tuzaklarından Video Bulmak Artık Daha Akıllı

Doğadaki hayvanları izlemek için kullanılan kamera tuzakları, her yıl devasa miktarda video verisi üretiyor. Ancak bu görüntüler arasından belirli bir olayı bulmak, araştırmacılar için büyük bir zaman kaybına dönüşüyor. Yapay zeka destekli video-metin eşleştirme yöntemleri bu sorunu çözmeye aday olsa da mevcut sistemler doğa videolarında yeterince iyi performans gösteremiyor. Araştırmacılar şimdi bu boşluğu doldurmak için 'Prompting-MammAlps' adını verdikleri yeni bir sistem ve bu sistemin test edileceği bir kıyaslama veri seti geliştirdi. Sistem, her videoyu önce mekânsal ve zamansal olarak analiz edip yapılandırılmış metne dönüştürüyor; ardından büyük bir dil modeli, etoloji ilhamlı sorgulara göre bu metinleri tarayarak ilgili videoları buluyor. Yöntemin dikkat çekici yanlarından biri, dil modelinin hata yapma (halüsinasyon) riskini azaltmak amacıyla özel bir kütüphane üzerinden kısıtlı fonksiyonlar kullanması. Bu çalışma, ekolojik veri analizinde yapay zekanın daha güvenilir ve yorumlanabilir biçimde kullanılabileceğini gösteriyor.

arXiv (Nörobilim) 0
Teknoloji & Yapay Zeka
10 Jul

Karmaşık Görevleri Çözen Hiyerarşik Yapay Zeka Geliştirildi

Güney Koreli araştırmacılar, uzun vadeli ve karmaşık görevleri otonom olarak planlayabilen yeni bir yapay zeka mimarisi geliştirdi. 'Hiyerarşik görev planlama' adı verilen bu yaklaşım, yapay zekaların sıklıkla yaşadığı halüsinasyon sorununu azaltırken görev başarı oranını yaklaşık iki katına çıkarıyor. Yapay zeka sistemlerinin karmaşık talimatları yerine getirirken tutarsız ya da yanlış çıktılar üretmesi, uzun süredir önemli bir kısıtlama olarak karşımıza çıkıyordu. Bu yeni mimari, büyük görevleri daha küçük, yönetilebilir alt adımlara bölerek planlama sürecini hem daha güvenilir hem de daha verimli hale getiriyor. Araştırmacılar, bu teknolojinin özellikle robotlar ve otonom ajan sistemleri için kritik bir adım olduğunu vurguluyor. Uzun vadeli misyonları gerçekleştirmesi beklenen sistemlerin, adım adım planlama yeteneğine sahip olması büyük önem taşıyor. Bu gelişme, yapay zekanın gerçek dünya uygulamalarındaki güvenilirliğini artırma yolunda kayda değer bir ilerleme olarak değerlendiriliyor.

TechXplore — Bilgisayar Bilimleri 0
Teknoloji & Yapay Zeka
2 Jul

Büyük Dil Modellerinin 'Beyin Haritası' Çıkarıldı: NeuroCogMap

Yapay zeka araştırmacıları, büyük dil modellerinin (BDM) iç işleyişini anlamak için nörobilimden ilham alan yeni bir çerçeve geliştirdi: NeuroCogMap. Bu sistem, bir dil modelinin içindeki özellikleri işlevsel bölgelere ayırıyor ve her bölgeyi belirli bilişsel yeteneklerle ilişkilendiriyor; tıpkı beyin haritalamasında farklı bölgelerin farklı işlevlere atanması gibi. Araştırmaya göre bu işlevsel bölgeler, farklı modeller arasında kısmen korunuyor ve modelin davranışıyla doğrudan bağlantılı. Belki de en çarpıcı bulgu şu: Halüsinasyon, önyargı, yanıt vermeyi reddetme ve dalkavukluk gibi bilinen yapay zeka hataları, bu haritada birbirinden ayrışan özgün bozulma noktalarına karşılık geliyor. Bu yaklaşım, YZ sistemlerini kara kutu olarak değil, incelenebilir işlevsel yapılar olarak ele almanın yolunu açıyor ve hem yapay hem de biyolojik biliş arasındaki köprüyü kurmaya çalışıyor.

arXiv (Nörobilim) 0
Teknoloji & Yapay Zeka
19 Jun

Yapay Zeka Halüsinasyonlarını %78 Azaltan Yeni Nesil Veritabanı

Yapay zeka sistemlerinin en bilinen zayıf noktalarından biri, gerçekmiş gibi görünen ama aslında yanlış bilgiler üretmesi — yani 'halüsinasyon' sorunu. Güney Kore'nin önde gelen teknik üniversitesi KAIST'ten araştırmacılar, bu sorunu önemli ölçüde azaltabilecek yeni nesil bir veritabanı teknolojisi geliştirdi. Söz konusu sistem; belgeleri, ham verileri ve varlıklar arasındaki ilişkileri aynı anda anlayabiliyor. Bu bütünleşik yaklaşım sayesinde yapay zeka ajanlarının kurumsal veri havuzlarında yaptığı sorgulamalarda doğruluk oranı %78 oranında artış gösterdi. Günümüzde şirketler, büyük dil modellerini kendi iç verileriyle entegre ederek karar destek sistemleri oluşturuyor; ancak bu modeller bağlamı yanlış yorumladığında ciddi hatalar üretebiliyor. KAIST'in geliştirdiği veritabanı mimarisi, bu bağlam kayıplarının önüne geçerek yapay zekanın daha güvenilir yanıtlar vermesini sağlıyor. Kurumsal yapay zeka uygulamalarının yaygınlaştığı bir dönemde, bu tür altyapı yenilikleri sektör için kritik bir öneme sahip.

TechXplore — Bilgisayar Bilimleri 0
Teknoloji & Yapay Zeka
20 May

Yapay Zeka Olmayan Bir Kelime Üretti: 'Actorive' Dilbilim Tartışması

Google Gemini yapay zekası, dilbilim konularını tartışırken 'actorive' adında hiç var olmayan bir sıfat kullanmaya başladı. Matt Rips'in raporuna göre, AI bu kelimeyi tekrar tekrar kullandı ve sanki gerçek bir kelimeymiş gibi davrandı. Bu olay, büyük dil modellerinin nasıl çalıştığı ve bazen gerçek olmayan bilgiler üretebileceği konusunda önemli sorular gündeme getiriyor. Dilbilimciler bu durumu AI'ların dil işleme mekanizmalarını anlamak için önemli bir vaka olarak değerlendiriyor.

Language Log 0
Teknoloji & Yapay Zeka
14 May

Yapay Zeka Çöküşüne Karşı Tek Gerçek Veri Noktası Çözümü

Yapay zeka sistemlerinin en büyük tehditlerinden biri olan 'model çöküşü' sorununun çözümüne yönelik umut verici bir yaklaşım geliştirildi. Araştırmacılar, yapay zeka modellerinin kendi ürettikleri verilerle eğitilmesi sonucu ortaya çıkan performans kaybı ve halüsinasyon artışının, gerçek dünya verilerinin stratejik kullanımıyla önlenebileceğini keşfetti. Bu çalışma, gelecekte AI sistemlerinin daha güvenilir çalışması için kritik öneme sahip. Model çöküşü, özellikle büyük dil modelleri ve görüntü üretici AI'lar için ciddi bir sorun haline gelmişti. Yeni bulgular, bu sorunun çözümünde gerçek veri noktalarının nasıl etkili kullanılabileceğine dair önemli ipuçları sunuyor.

TechXplore — Bilgisayar Bilimleri 0
Teknoloji & Yapay Zeka
4 May

Yapay Zeka İçin Bilgi Arama Sistemleri Yeniden Tasarlanıyor

Geleneksel arama motorları insanlar için tasarlanmıştı, ancak artık büyük dil modelleri de bu sistemleri yoğun şekilde kullanıyor. Araştırmacılar, yapay zekanın bilgi arama ihtiyaçlarının insanlardan çok farklı olduğunu keşfetti. YZ modelleri, sınırlı dikkat kapasiteleri nedeniyle gürültülü veya alakasız bilgilere karşı çok daha hassas. Bu durum halüsinasyonlara ve mantık hatalarına yol açabiliyor. Yeni araştırma, bilgi arama sistemlerinde 'gürültü temizleme' yaklaşımının kritik önemde olduğunu vurguluyor. Sistemler artık kullanılabilir kanıt yoğunluğunu artırıp doğrulanabilirliği maksimize etmeye odaklanmalı. Bu paradigma değişimi, arama teknolojilerinin temelinden yeniden düşünülmesini gerektiriyor.

arXiv — Hesaplamalı Dilbilim (cs.CL) 0
Teknoloji & Yapay Zeka
4 May

Yapay Zeka Güvenliği için Yeni Çözüm: Ayrışık Güvenlik Adaptörleri

Araştırmacılar, yapay zeka sistemlerinin güvenliğini sağlamak için yenilikçi bir yaklaşım geliştirdi. Ayrışık Güvenlik Adaptörleri (DSA) adlı bu sistem, güvenlik kontrollerini ana modelden ayırarak hem verimlilik hem de esneklik sağlıyor. Geleneksel güvenlik yöntemleri ya performansı düşürüyor ya da geliştirme sürecini kısıtlıyordu. DSA ise nefret söylemi tespiti, zararlı içerik engelleme ve halüsinasyon önleme gibi alanlarda %53'e varan iyileşmeler göstererek bu sorunu çözüyor. Sistem, minimal hesaplama maliyetiyle çalışırken, kullanıcıların güvenlik seviyesini anlık olarak ayarlamasına da olanak tanıyor.

arXiv — Hesaplamalı Dilbilim (cs.CL) 0
Teknoloji & Yapay Zeka
1 May

Yapay zeka modelleri artık 'bilmiyorum' diyebilecek

Araştırmacılar, dil modellerinin bilmedikleri konularda yanlış bilgi üretmek yerine susma kararı alabilmelerini sağlayan yeni bir yöntem geliştirdi. Conformal Abstention (CA) adlı bu yaklaşım, modelin güven seviyesini ölçerek yanıt verip vermeyeceğini belirliyor. Sistem, hem katılım olasılığı hem de doğru yanıt verme olasılığı için matematiksel garantiler sunuyor. Yöntem, modeli yeniden eğitmek yerine mevcut modeller üzerine uygulanabiliyor ve böylece aşırı temkinli davranış riskini azaltıyor. Bu gelişme, yapay zeka sistemlerinin güvenilirliğini artırarak halüsinasyon sorununa önemli bir çözüm getiriyor.

arXiv — Hesaplamalı Dilbilim (cs.CL) 0
Teknoloji & Yapay Zeka
30 Apr

Yapay zeka spor haberciliğinde ağaç yapısıyla başarıya ulaştı

Araştırmacılar, spor maçı verilerinden haber metni üreten yeni bir yapay zeka sistemi geliştirdi. Tree-of-Text adlı bu framework, büyük dil modellerinin tablo verilerini yorumlarken yaşadığı 'halüsinasyon' sorununu çözmek için ağaç yapısına dayalı bir yaklaşım benimsiyor. Sistem, içerik planlama, işlem yürütme ve metin üretimi olmak üzere üç aşamalı bir süreçle çalışıyor. Geleneksel yöntemlerin büyük veri setlerine ihtiyaç duyması ve mevcut prompt yöntemlerinin veri yorumlama konusundaki zayıflıkları göz önüne alındığında, bu yenilik spor haberciliğinde önemli bir adım teşkil ediyor.

arXiv (Dilbilim & NLP) 0
Teknoloji & Yapay Zeka
30 Apr

Yapay Zeka Modellerinin Halüsinasyon Sorunu: Yeni Bilgiler Neden Yanıltıyor?

Büyük dil modellerinin eğitimi sırasında yeni bilgiler öğrenmeleri, beklenmedik bir yan etkiye yol açıyor: halüsinasyonlar. Araştırmacılar, Llama 3.1, Gemma 2 ve Mistral gibi popüler yapay zeka modellerini kullanarak kontrollü deneyler yürütmüş ve bu sorunun nedenlerini araştırmış. Çalışma, modellere yeni bilgiler öğretildiğinde, özellikle uzun süreli eğitimde halüsinasyon oranının arttığını gösteriyor. Bu durum, yapay zekanın güvenilirliği açısından kritik bir sorun teşkil ediyor çünkü modeller gerçek olmayan bilgiler üretebiliyor. Araştırma, bu problemin altında yatan gizli mekanizmaları anlamaya odaklanıyor ve yapay zeka sistemlerinin daha güvenilir hale getirilmesi için önemli ipuçları sunuyor.

arXiv (Dilbilim & NLP) 0
Teknoloji & Yapay Zeka
30 Apr

Yapay zeka asistanı öğrencilere akademik süreçlerde rehberlik ediyor

Hollanda'daki Maastricht Üniversitesi araştırmacıları, büyük dil modellerinin yaygın sorunları olan 'halüsinasyon' ve yanlış bilgi üretimi problemlerini çözmek için yeni bir yaklaşım geliştirdi. Retrieval-Augmented Generation (RAG) teknolojisini kullanan sanal asistan, öğrencilere proje yönetmelikleri konusunda doğru ve güncel bilgiler sunabiliyor. Sistem, mevcut bilgi tabanlarından ilgili bilgileri çekerek yanıtlarını desteklediği için daha güvenilir sonuçlar üretiyor. Gerçek ortam testlerinde başarılı sonuçlar alan bu teknoloji, eğitim sektöründe yapay zeka kullanımının geleceği hakkında önemli ipuçları veriyor.

arXiv (Dilbilim & NLP) 0
Teknoloji & Yapay Zeka
30 Apr

Yapay Zeka Modelleri Kısmi Bilgiyle Daha Fazla Hata Yapıyor

Araştırmacılar, büyük dil modellerinde şaşırtıcı bir keşif yaptı: çok adımlı mantık yürütme süreçlerinde modellere kısmi bilgi verildiğinde, yanlış cevaplara olan güvenleri artıyor. 'Çıpalı konfabulasyon' adı verilen bu olgu, modelin verilen kısmi bilgiyi sabit nokta kabul ederek geriye kalan adımları parametrik hafızasından tamamlama eğiliminde olmasından kaynaklanıyor. Altı farklı model ailesi üzerinde yapılan deneylerde, bu durumun model kapasitesi arttıkça daha belirgin hale geldiği gözlemlendi. Bulgular, yapay zeka sistemlerinin güvenilirlik kalibrasyonu konusunda önemli çıkarımlara sahip.

arXiv (Dilbilim & NLP) 0
Teknoloji & Yapay Zeka
30 Apr

Yapay Zekanın Halüsinasyonlarını Tespit Eden Yeni Yöntem: HIVE

Araştırmacılar, büyük dil modellerinin ürettiği yanlış bilgileri tespit etmek için HIVE adlı yeni bir sistem geliştirdi. Bu sistem, modelin metin üretim sürecindeki gizli dinamikleri analiz ederek halüsinasyonları belirliyor. Geleneksel yöntemler sadece son çıktıya odaklanırken, HIVE tüm üretim sürecini inceleyerek daha başarılı sonuçlar elde ediyor. Sistem, halüsinasyon türlerini kategorize edebiliyor ve neden böyle bir sonuca vardığını açıklayabiliyor. Test sonuçları, HIVE'ın mevcut yöntemlerden çok daha yüksek doğruluk oranına sahip olduğunu gösteriyor. Bu gelişme, yapay zeka sistemlerinin güvenilirliğini artırmak için kritik bir adım olarak değerlendiriliyor.

arXiv (Dilbilim & NLP) 0
Teknoloji & Yapay Zeka
21 Apr

Yapay Zeka Modellerinde Yeni Keşif: Az Kelimeyle Daha Doğru Sonuç

Araştırmacılar, yapay zeka modellerinin daha az kelime kullanarak daha doğru sonuçlar üretebileceğini gösteren 'Semantik Yoğunluk Etkisi'ni keşfetti. Bu etki, komutlardaki anlam yüklü kelimelerin oranının artırılmasıyla elde ediliyor. Beş farklı AI modelinde yapılan testler, gereksiz kelimelerin çıkarılıp anlamlı olanların korunmasıyla performansın ortalama %8,4 oranında arttığını gösterdi. Bu yaklaşım, model hızını etkilemeden halüsinasyon sorununu azaltıyor ve daha odaklı yanıtlar üretiyor. Bulgular, AI ile etkileşimde 'az ama öz' prensibiinin ne kadar önemli olduğunu ortaya koyuyor.

arXiv (CS + AI) 0
Teknoloji & Yapay Zeka
21 Apr

FaithLens: Yapay zekanın yanlış bilgilerini tespit eden yeni model

Büyük dil modellerinin ürettiği yanlış ve tutarsız bilgileri tespit etmek, günümüzde kritik bir sorun haline geldi. Araştırmacılar, bu soruna çözüm olarak FaithLens adlı yeni bir model geliştirdi. Bu sistem, yapay zekanın güvenilir olmayan çıktılarını sadece tespit etmekle kalmıyor, aynı zamanda neden yanlış olduğunu da açıklayabiliyor. Model, özellikle bilgi arama sistemleri ve metin özetleme gibi kritik uygulamalarda büyük önem taşıyor. 8 milyar parametreli FaithLens, 12 farklı görevde test edildi ve GPT gibi gelişmiş modelleri bile geride bıraktı. Sistem, maliyet açısından da verimli bir çözüm sunuyor.

arXiv (CS + AI) 0
Teknoloji & Yapay Zeka
21 Apr

Yapay Zeka Modelleri Daha Tutarlı Dünya Anlayışı Geliştirebilir mi?

Büyük dil modellerinin (LLM) tutarlı bir iç dünya modeli geliştirip geliştiremediği yapay zeka alanındaki temel tartışmalardan biri. Geleneksel tek-token tahmin yöntemlerinin aksine, çoklu-token tahmin yaklaşımı daha yapılandırılmış öğrenme sunuyor. Yeni araştırma, bu yöntemin gradient etkileşimi yoluyla iç inanç durumlarına yakınsamayı nasıl teşvik ettiğini teorik olarak açıklıyor. Ancak standart çoklu-token tahmin yönteminde yapısal halüsinasyonlar ortaya çıkabiliyor. Araştırmacılar bu sorunu çözmek için Gizli Semantik Geliştirme adlı yeni bir yaklaşım öneriyor. Bu yöntem, tahminleri gerçek gizli durum yörüngelerine sabitleyerek çevresel kısıtlamaları ihlal eden yasadışı kısayolları engelliyor. Çalışma, yapay zeka modellerinin dünya anlayışını geliştirme konusunda önemli bir adım teşkil ediyor.

arXiv (CS + AI) 0
Teknoloji & Yapay Zeka
21 Apr

Schrödinger Köprüsü ile Gelişmiş Görüntü İletimi Teknolojisi

Araştırmacılar, dar bant genişlikli ve yüksek gürültülü kanallar üzerinden görüntü iletimi için yeni bir yaklaşım geliştirdi. Schrödinger Köprüsü tabanlı Üretken Semantik İletişim (SBGSC) adı verilen bu yöntem, mevcut teknolojilerin karşılaştığı halüsinasyon problemlerini ve yüksek hesaplama maliyetlerini önemli ölçüde azaltıyor. Geleneksel yöntemler, Gaussian dağılımından görüntü dağılımına uzun ve dolaylı yollar kullanırken, yeni sistem doğrudan optimal transport rotaları oluşturuyor. Bu sayede semantik bilgilerden görüntülere daha hızlı ve doğru dönüşüm sağlanıyor.

arXiv (CS + AI) 0
Teknoloji & Yapay Zeka
21 Apr

AI ajanlarının halüsinasyonları artık tespit edilip önlenebiliyor

Yapay zeka destekli grafik arayüz ajanları, bilgisayar ekranlarını insan gibi kullanabilen gelişmiş sistemler olmasına rağmen, gerçek dışı algılar yaşayarak hatalı işlemler yapabiliyorlar. Bu durum özellikle gerçek dünya uygulamalarında ciddi sorunlara yol açıyor. Stanford araştırmacıları, bu soruna çözüm getirmek için HalluClear adlı kapsamlı bir sistem geliştirdi. Sistem, GUI ajanlarındaki halüsinasyonları kategorize ederek tanımlayabiliyor, güvenilir değerlendirme yöntemleri kullanabiliyor ve hafif eğitim teknikleriyle bu sorunları azaltabiliyor. Bu gelişme, AI ajanlarının daha güvenilir hale gelmesi açısından kritik önem taşıyor.

arXiv (CS + AI) 0
Teknoloji & Yapay Zeka
21 Apr

Yapay Zeka Modelleri Artık Metinden Çok Görselleri Tercih Ediyor

Yeni bir araştırma, çok modlu büyük dil modellerinin (OLLM) geleneksel metin odaklı yaklaşımdan uzaklaştığını ve görsel içerikleri tercih etmeye başladığını ortaya koydu. MIT ve diğer kurumların araştırmacıları, on farklı OLLM modelini analiz ederek bu 'modalite tercihi' olgusunu ilk kez sistematik olarak inceledi. Bulgular, bu modellerin katmanlar arası işlem sürecinde tercihlerin nasıl şekillendiğini ve çapraz-modal halüsinasyonların teşhis edilebileceğini gösteriyor. Bu keşif, AI'ın bilgiyi nasıl işlediğini anlamamızda önemli bir dönüm noktası.

arXiv (CS + AI) 0
Teknoloji & Yapay Zeka
21 Apr

Yapay Zeka Halüsinasyonları İçin Yeni Teşhis Sistemi: PRISM Geliştildi

Büyük dil modelleri karmaşık görevlerde kullanılmaya başlarken, halüsinasyon sorunu kritik hale geliyor. Araştırmacılar, yapay zekanın neden ve nerede hata yaptığını anlamak için PRISM adlı yeni bir değerlendirme sistemi geliştirdi. Bu sistem, halüsinasyonları dört farklı kategoride inceleyerek - bilgi eksikliği, bilgi hataları, mantık yürütme hataları ve talimat takip hataları - yapay zeka geliştiricilerine detaylı teşhis imkanı sunuyor. 65 farklı görevde 9.448 test örneği içeren PRISM, 24 farklı dil modelini analiz ederek tutarlı zayıflık kalıpları ortaya çıkardı. Bu çalışma, yapay zeka güvenliğinin kritik önem kazandığı dönemde, hataları sadece puanlamaktan ziyade kökenini anlama yaklaşımıyla öne çıkıyor.

arXiv (CS + AI) 2