Büyük dil modelleri sağlık alanında devrim yaratırken, bu teknolojilerin yüksek maliyeti ciddi bir engel oluşturuyor. Özellikle klinik metinler uzun, karmaşık ve çoğu zaman gereksiz tekrarlarla dolu olduğu için işlem maliyetleri hızla artabiliyor.
Araştırmacılar bu soruna yenilikçi bir çözüm getirdi: bütçe-bilinçli içerik seçimi. Bu yöntem, sınırlı token bütçesi altında metin parçalarının en değerlilerini seçerek hem maliyet hem de gecikme sürelerini kontrol altında tutuyor.
Geliştirilen RCD adlı sistem, üç temel kriteri dengeleyen akıllı bir yaklaşım kullanıyor: alakalılık, kapsam ve çeşitlilik. Sistem, metinleri farklı şekillerde bölebiliyor - cümle bazında, bölüm bazında, sabit pencereler halinde veya kümeleme yöntemiyle.
Hastane çıkış raporları, tıbbi derlemeler ve uzun metin değerlendirmeleri üzerinde yapılan testler umut verici sonuçlar gösterdi. En etkili stratejinin değerlendirme türüne göre değiştiği, ancak genel olarak hem maliyeti düşüren hem de kaliteyi koruyan sonuçlar elde edildiği görüldü.
Bu gelişme, sağlık teknolojilerinde yapay zekanın daha geniş çapta kullanılabilmesi için kritik bir adım teşkil ediyor.