“GPU belleği” için sonuçlar
3 sonuç bulundu. Sonuçları kategoriye göre daraltabilirsin.
Yapay Zeka Görüşü 16 Kat Az Bellekle Keskinleşiyor
Akıllı telefonlardaki yüz tanımadan insansı robotlara kadar pek çok alanda kullanılan bilgisayarlı görü sistemleri, yapay zekanın dünyayı algılamasında kritik bir rol üstleniyor. KAIST ve uluslararası araştırma kurumlarından oluşan ortak bir ekip, bu alanda çarpıcı bir ilerleme kaydetti: Geliştirdilen yeni örnekleme yöntemi, yapay zekanın görüntüleri çok daha net işleyebilmesini sağlarken GPU bellek kullanımını 16 katına kadar düşürüyor. Bu gelişme, yalnızca teknik bir verimlilik artışı değil; aynı zamanda insansı robotların yaygınlaşmasını ve yapay zekanın bulut sunucularına bağımlı kalmadan doğrudan cihazlar üzerinde çalışmasını kolaylaştıracak temel bir teknoloji olarak değerlendiriliyor. Mevcut sistemlerde yüksek çözünürlüklü görüntü işleme, büyük GPU belleği gerektirdiğinden hem maliyetli hem de enerji açısından verimsiz olabiliyor. Yeni yaklaşım bu kısıtlamayı önemli ölçüde hafifletiyor ve daha kompakt donanımlarda bile güçlü görsel yapay zeka uygulamalarının kapısını aralıyor.
Büyük Dil Modellerinin Eğitimi İçin Hafıza Dostu Yeni Yöntem
Yapay zeka araştırmacıları, büyük dil modellerinin eğitimi sırasında karşılaşılan yüksek bellek tüketimi sorununa yenilikçi bir çözüm geliştirdi. AdaFRUGAL adı verilen bu yöntem, eğitim sürecini otomatik olarak optimize ederek hem GPU belleği kullanımını azaltıyor hem de eğitim süresini kısaltıyor. Geleneksel FRUGAL yönteminin aksine, AdaFRUGAL sabit parametreler yerine dinamik kontrol mekanizmaları kullanarak manuel ayarlama ihtiyacını ortadan kaldırıyor. İngilizce ve Vietnamca veri setleri üzerinde yapılan testler, bu yaklaşımın kaynak kısıtlı ortamlarda çalışan araştırmacılar için pratik bir çözüm sunduğunu gösteriyor.
Yapay Zeka Sistemlerinde Yeni Güvenlik Açığı: Bellek Hatalarıyla Sessiz Manipülasyon
Araştırmacılar, büyük dil modellerinin (LLM) hizmet verdiği sistemlerde kritik bir güvenlik açığı keşfetti. vLLM gibi popüler sistemlerde kullanılan paylaşımlı önbellek bloklarının, bit düzeyindeki hatalarla manipüle edilebileceği ortaya çıktı. Bu saldırı yöntemi, GPU belleğindeki Rowhammer saldırılarına benzer şekilde çalışıyor ancak daha sinsi bir yapıya sahip. Saldırının üç temel özelliği tespit edildi: manipüle edilmiş çıktıların normal yanıtlardan ayırt edilememesi, sadece hedeflenen prefix'i paylaşan isteklerin etkilenmesi ve zaman içinde hasarın birikmesi. Bu durum, yapay zeka sistemlerinin güvenilirliği açısından yeni bir tehdit oluşturuyor çünkü saldırı tespit edilmesi zor ve kalıcı etkiler yaratıyor.