Yapay zeka alanında önemli bir gelişme yaşanırken, araştırmacılar büyük dil modellerinin en büyük problemlerinden biri olan 'halüsinasyon' sorununa karşı yeni bir çözüm geliştirdi. FRANQ adı verilen bu sistem, yapay zekanın ürettiği yanlış bilgileri tespit etmede çığır açıcı bir yaklaşım sunuyor.
Retrieval-Augmented Generation (RAG) teknolojisi, yapay zeka sistemlerinin dış kaynaklardan bilgi çekerek daha doğru yanıtlar vermesini sağlıyor. Ancak bu sistemler hâlâ gerçek dışı bilgiler üretebiliyor - bu durum 'halüsinasyon' olarak adlandırılıyor. Mevcut yöntemler, bir ifadenin gerçekliğiyle kaynaklara olan bağlılığını karıştırarak, aslında doğru olan ifadeleri yanlışlıkla hatalı olarak etiketleyebiliyor.
FRANQ sistemi, bu sorunu çözmek için iki farklı değerlendirme yaklaşımı kullanıyor. İlk olarak, bir ifadenin çekilen kaynaklarla ne kadar uyumlu olduğunu ölçüyor. İkinci olarak, bu uyum durumuna göre ifadenin gerçek doğruluğunu ayrı tekniklerle değerlendiriyor.
Araştırmacılar, sistemi test etmek için uzun formlu soru-cevap veri seti oluşturdu ve FRANQ'ın mevcut yöntemlere göre önemli ölçüde daha başarılı olduğunu gösterdi. Bu gelişme, yapay zeka sistemlerinin güvenilirliğini artırmada kritik bir adım olarak değerlendiriliyor.