Yapay zeka alanında yeni bir milat: Büyük dil modelleri artık metinlerden sadece anlam çıkarmakla kalmıyor, aynı zamanda karmaşık sayısal değerlendirmeler de yapabiliyor. Araştırmacılar bu yeni kapasiteyi 'akıl yürütme yoğunlu regresyon' olarak adlandırıyor.
Bu yenilikçi yaklaşım, geleneksel duygu analizi veya benzerlik ölçümü gibi standart görevlerin çok ötesine geçiyor. Özellikle rubrik tabanlı puanlama sistemleri, karmaşık ortamlarda yoğun ödül modellemesi ve alan-özel bilgi arama gibi uygulamalarda devrim yaratma potansiyeli taşıyor. Bu tür görevler, çok daha derin bağlam analizi gerektirirken, genellikle sınırlı eğitim verisi ve hesaplama kaynağı bulunuyor.
Araştırmacılar dört gerçekçi problem üzerinde kapsamlı testler yaparak, mevcut yöntemlerin - hem donmuş dil modellerinin yönlendirilmesi hem de gradyan iniş yoluyla Transformer kodlayıcıların ince ayarı - bu zorlu görevlerde yetersiz kaldığını ortaya koydu.
Bu soruna çözüm olarak MENTAT adlı yeni bir yöntem geliştirildi. Bu basit ama etkili yaklaşım, toplu yansıtmalı prompt optimizasyonunu sinir ağı topluluk öğrenimi ile birleştiriyor. MENTAT'in en büyük avantajı, sınırlı kaynaklarla bile yüksek performans gösterebilmesi.
Bu gelişme, eğitimden sağlığa, finans sektöründen araştırma geliştirmeye kadar birçok alanda yapay zekanın karar verme süreçlerini desteklemesi açısından büyük önem taşıyor.