Yapay zeka sistemlerinin güvenilirlik sorunu, özellikle politika geliştirme ve kalkınma araştırmaları gibi kritik alanlarda büyük risk oluşturuyor. Bu sorunun çözümü için Dünya Bankası araştırmacıları tarafından geliştirilen AVA (AI + Verified Analysis) sistemi, yanlış bilgi üretimini önleyen yenilikçi bir yaklaşım sunuyor.
AVA, 4.000'den fazla Dünya Bankası raporundan oluşan özenle seçilmiş ve çok dilli bir veri tabanı üzerine inşa edildi. Sistem, çok aracılı bir yapı kullanarak kullanıcıların sorularını yanıtlarken her iddiasını doğrulanabilir kaynaklarla destekliyor. En dikkat çekici özelliği ise 'epistemik alçakgönüllülük' olarak adlandırılan yaklaşımı: Yeterli kanıt bulamadığında soruları yanıtlamayı reddediyor ve bunun nedenini açıklayarak alternatif yönlendirmeler yapıyor.
Sistemin etkinliği 116 ülkeden 2.200'den fazla farklı kuruluş ve rollerden katılımcının yer aldığı kapsamlı bir değerlendirme ile test edildi. Araştırmacılar, log analizleri, anketler ve 20 derinlemesine görüşme gerçekleştirdi. Sonuçlar, AVA'yı düzenli kullanan kişilerin haftada 2.4-3.9 saat zaman kazandığını ortaya koydu.
Katılımcılar AVA'yı uzmanlaşmış bir 'kanıt motoru' olarak kullanırken, sistemin yanıt vermeyi reddetme özelliğinin güveni artırdığını belirttiler. Bu çalışma, yapay zeka sistemlerinin nasıl daha güvenilir hale getirilebileceğine dair önemli ipuçları sunuyor.