Yapay zeka sistemleri uzun metinler üretirken karşılaştığı en kritik sorunlardan biri, farklı kaynaklardan elde ettiği bilgilerin birbiriyle çelişmesi durumunda nasıl karar vereceğidir. Özellikle RAG (Retrieval-Augmented Generation) olarak bilinen, internet üzerinden bilgi toplayarak yanıt üreten sistemlerde bu problem daha da belirginleşiyor.
Araştırmacılar bu soruna çözüm olarak ArbGraph adlı yenilikçi bir framework geliştirdi. Bu sistem, yapay zekanın metin üretme sürecinden önce devreye girerek, toplanan kanıtları sistematik bir şekilde değerlendiriyor ve çelişkileri çözümlüyor.
ArbGraph'ın çalışma prensibi oldukça sofistike: Sistem öncelikle toplanan belgeleri en küçük bilgi parçacıkları olan 'atomik iddialar'a bölüyor. Ardından bu iddiaları birbirleriyle ilişkilerini gösteren bir çelişki-farkında kanıt grafiği içinde organize ediyor. Bu grafik, hangi bilgilerin birbirini desteklediğini, hangilerinin çeliştiğini açık bir şekilde gösteriyor.
Sistemin en özgün yanı, yoğunluk odaklı iteratif hakem mekanizması. Bu mekanizma, kanıt etkileşimleri aracılığıyla güvenilirlik sinyallerini yayarak, güvenilmez ve tutarsız iddiaları final metin üretilmeden önce bastırıyor. Bu sayede yapay zeka daha tutarlı ve faktörel olarak doğru uzun metinler üretebiliyor.