Yapay zeka alanında önemli bir ilerleme kaydedildi. Araştırmacılar, büyük dil modellerinin çalışma hızını dramatik şekilde artıran yeni bir algoritma geliştirdi. Hyper-Parallel Decoding (HPD) olarak adlandırılan bu yöntem, özellikle belge analizi ve veri çıkarma görevlerinde devrim yaratma potansiyeli taşıyor.
Geleneksel yapay zeka modelleri, metinleri sırayla ve tek tek işler. Bu yaklaşım, özellikle aynı belgeden birden fazla bilgi çıkarılması gerektiğinde oldukça yavaş kalıyor. HPD algoritması ise bu sınırlamayı aşarak, bağımsız metin dizilerini aynı anda üretebilme kabiliyeti sunuyor.
Algoritmanın çalışma prensibi, bellek ve hesaplama kaynaklarının akıllıca paylaşımına dayanıyor. Sistem, pozisyon kimliklerini manipüle ederek tokenları sıra dışı şekilde üretebiliyor. Bu sayede, örneğin bir belgeden çıkarılması gereken öznitelik-değer çiftleri paralel olarak işlenebiliyor.
En dikkat çekici yanı ise performans artışı: Sistem tek bir komut içinde 96 tokena kadar paralel işlem yapabiliyor ve inferans maliyetlerini 13,8 kata kadar düşürebiliyor. Ayrıca mevcut tüm büyük dil modelleriyle uyumlu çalışması, pratik uygulanabilirliğini artırıyor.
Bu gelişme, yapay zeka teknolojisinin daha verimli ve maliyet-efektif hale gelmesi açısından kritik bir adım olarak değerlendiriliyor.