Yapay zeka destekli müşteri hizmetleri sistemlerinde yeni bir dönem başlayabilir. Araştırmacılar, yüksek hesaplama gücü gerektiren büyük dil modellerinin (LLM) yerine, daha az kaynak tüketen küçük dil modellerinin (SLM) ne kadar etkili olabileceğini araştırdı.
Müşteri hizmetlerinde kullanılan sohbet botları, genellikle çok turlu konuşmalar yaparak kullanıcı sorularını yanıtlamalı. Bu süreçte konuşmanın bağlamını koruması ve önceki mesajları hatırlaması kritik önem taşıyor. Büyük dil modelleri bu konuda başarılı olsa da, yüksek enerji tüketimi ve donanım gereksinimleri nedeniyle küçük şirketler için erişilebilir değil.
Çalışmada dokuz farklı küçük dil modeli, üç ticari büyük modelle karşılaştırıldı. Araştırmacılar, konuşma geçmişini özetleyerek koruyan özel bir yöntem geliştirdi. Bu sayede küçük modeller de uzun konuşmalardaki bağlamı kaybetmeden yanıt verebiliyor.
Özellikle dikkat çekici olan, müşteri hizmetleri etkileşimlerinin farklı aşamalarına odaklanan analiz metodolojisi. İlk iletişim kurma, sorun tespiti ve çözüm sunma gibi aşamalarda modellerin davranışları ayrı ayrı değerlendirildi.
Bu araştırma, kaynak sınırlı ortamlarda çalışan şirketlerin de gelişmiş müşteri hizmetleri sistemleri kurabilmesi için yol gösteriyor. Küçük dil modellerinin doğru stratejilerle optimize edilmesiyle, büyük modellere yakın performans elde edilebileceği görülüyor.