Yapay zeka alanında çok-ajan sistemlerinde işbirliği kurmanın neden bu kadar zor olduğunu açıklayan yeni bir araştırma, öğrenme sürecinin kendisinin işbirliğini nasıl baltaladığını ortaya çıkardı.
Araştırmacılar, birlikte öğrenen yapay zeka ajanlarının karşılaştığı temel bir paradoksu inceledi: Her ajan öğrenirken attığı her adım, partnerinin davranış dağılımını değiştiriyor ve bu durum işbirlikçi partneri stokastik gürültü kaynağına dönüştürüyor. Bu gürültü, tam da işbirliği kararının en hassas olduğu noktalarda ortaya çıkıyor.
Koordinasyon oyunları üzerine yapılan analiz, işbirlikçi dengenin güçlü Pareto-baskın olsa bile standart risk-nötr öğrenme altında eksponansiyel olarak kararsız olduğunu gösteriyor. Partner gürültüsü, oyunun kritik işbirliği eşiğini geçtiğinde, denge geri dönüşü olmayan şekilde çöküyor.
Daha da ilginç olan bulgu, partner belirsizliğine karşı dağılımsal sağlamlık uygulama girişimlerinin durumu daha da kötüleştirmesi. Risk-kaçınan getiri hedefleri, yüksek varyansa sahip işbirlikçi eylemleri cezalandırarak, düşük varyansa sahip ancak daha az verimli alternatifleri tercih ediyor.
Bu bulgular, gelecekteki yapay zeka sistemlerinde sürdürülebilir işbirliği mekanizmalarının tasarlanması için kritik önem taşıyor ve çok-ajan öğrenme algoritmalarının yeniden değerlendirilmesi gerektiğini gösteriyor.