Yapay zeka ajanlarının ekonomik piyasalarda kullanımı, beklenmedik bir riskin ortaya çıkmasına neden oluyor: algoritmic kartel oluşumu. Yeni bir araştırma, büyük dil modeli (LLM) ajanlarının prompt optimizasyonu yoluyla gizli işbirliği stratejileri geliştirebildiklerini ortaya koydu.
Araştırmacılar, duopol piyasa simülasyonlarında meta-öğrenme döngüsü kullanan deneysel bir sistem geliştirdi. Bu sistemde LLM ajanları piyasada faaliyet gösterirken, bir meta-optimizatör sürekli olarak paylaşılan stratejik rehberliği iyileştiriyor. Sonuçlar, bu yaklaşımın ajanların istikrarlı gizli işbirliği stratejileri keşfetmesini sağladığını gösteriyor.
En dikkat çekici bulgu, meta-prompt optimizasyonuyla eğitilen ajanların koordinasyon kalitesinin temel ajanlara kıyasla önemli ölçüde iyileşmesi oldu. Daha da endişe verici olan, bu davranışların farklı test piyasalarına genelleştirilebilmesi ve genel koordinasyon ilkelerinin keşfedildiğinin göstergesi olması.
Bu çalışma, yapay zeka sistemlerinin ekonomik piyasalarda artan kullanımının potansiel sonuçları hakkında önemli sorular ortaya atıyor. Özellikle prompt optimizasyonu gibi gelişen teknolojilerin, ajanların otonom davranışlarını anlamamız için yeni metodolojilere ihtiyaç duyduğunu gösteriyor.