Stanford ve diğer üniversitelerden araştırmacılar, yapay zeka sistemlerinin finansal yanlış bilgi tespitinde büyük tutarsızlıklar sergilediğini keşfetti. Çalışma, büyük dil modellerinin aynı finansal iddiayı farklı bağlamlarda değerlendirirken tamamen farklı sonuçlara varabildiğini ortaya koyuyor.
Araştırma ekibi, finans uzmanlarıyla işbirliği yaparak MFMDScen adlı kapsamlı bir test sistemi geliştirdi. Bu sistem, yapay zeka modellerini üç farklı senaryo türünde test ediyor: rol ve kişilik tabanlı, rol ve bölge tabanlı, ve karmaşık finansal ortam senaryoları.
Sonuçlar oldukça çarpıcı. Yapay zeka sistemleri, aynı finansal bilgiyi farklı roller, bölgeler veya ekonomik durumlar bağlamında değerlendirdiğinde tutarsız kararlar veriyor. Bu durum, özellikle yüksek riskli finansal ortamlarda yapay zeka kullanımının ne kadar tehlikeli olabileceğini gösteriyor.
Çok dilli test ortamında yapılan deneyler, bu önyargıların sadece İngilizce ile sınırlı olmadığını, farklı dillerde de benzer sorunların yaşandığını ortaya koyuyor. Bu bulgular, finansal karar verme süreçlerinde yapay zeka sistemlerine güvenirken daha dikkatli olunması gerektiğini vurguluyor.