“bilgi doğrulama” için sonuçlar
3 sonuç bulundu. Sonuçları kategoriye göre daraltabilirsin.
Yapay zeka artık çelişkili bilgileri ayıklayarak daha güvenilir yanıtlar üretiyor
Uzun metinler üreten yapay zeka sistemlerinin en büyük sorunu, internetten topladığı bilgilerin birbiriyle çelişmesi ve yanlış sonuçlar vermesiydi. Araştırmacılar, bu problemi çözmek için ArbGraph adlı yeni bir sistem geliştirdi. Bu teknoloji, yapay zekanın yanıt üretmeden önce elde ettiği bilgileri analiz ederek çelişkileri tespit ediyor ve güvenilmez kaynakları eleyiyor. Sistem, bilgileri atomik iddialar halinde parçalayıp aralarındaki destek ve çelişki ilişkilerini haritalandırıyor. Böylece yapay zeka, daha tutarlı ve güvenilir uzun metinler üretebiliyor.
Althea: İnsan ve AI İşbirliğiyle Yanlış Bilgiyle Mücadelede Yeni Dönem
Araştırmacılar, çevrimiçi yanlış bilgiyle mücadelede devrim yaratabilecek Althea adlı yeni bir sistem geliştirdi. Bu hibrit yaklaşım, yapay zekanın hızını insan muhakemesinin güvenilirliğiyle birleştiriyor. Sistem, kullanıcıların iddiaları değerlendirmesine yardımcı olmak için soru üretimi, kanıt toplama ve yapılandırılmış mantık yürütme süreçlerini entegre ediyor. AVeriTeC benchmark testlerinde standart doğrulama sistemlerini geride bırakan Althea, 963 katılımcılı kullanıcı çalışmasında da umut verici sonuçlar gösterdi. Geleneksel otomatik sistemlerin şeffaflık eksikliği ve insan doğrulamasının yavaşlığı sorunlarına çözüm arayan bu yaklaşım, internetteki bilgi kirliliğine karşı yeni bir strateji sunuyor.
Yapay Zeka Halüsinasyonlarını Tespit Eden Yeni Sistem: FRANQ
Araştırmacılar, büyük dil modellerinin yanlış bilgi üretme sorununu çözmek için FRANQ adında yeni bir sistem geliştirdi. Retrieval-Augmented Generation (RAG) teknolojisi kullanan yapay zeka sistemleri, internetten bilgi çekerek sorulara yanıt verirken bazen gerçek dışı bilgiler üretebiliyor. FRANQ, bu 'halüsinasyonları' tespit etmek için gelişmiş belirsizlik ölçüm tekniklerini kullanıyor ve doğru bilgiyle desteklenen ifadeleri yanlışlıkla hatalı olarak etiketleme sorununu çözüyor. Sistem, bir ifadenin kaynaklarla ne kadar uyumlu olduğunu ve gerçekte doğru olup olmadığını ayrı ayrı değerlendiriyor.