Büyük dil modellerinin mobil cihazlarda çalışması için geliştirilen yeni çip teknolojisi, yapay zeka alanında önemli bir ilerleme kaydetti. CIMple adı verilen bu yenilikçi mimari, hesaplama işlemlerini doğrudan hafıza birimlerinin içinde gerçekleştirerek enerji verimliliğini önemli ölçüde artırıyor.
Geleneksel çip mimarilerinde veri sürekli olarak işlemci ve hafıza arasında taşınmak zorunda kalıyor. Bu durum hem enerji tüketimini artırıyor hem de işlem hızını düşürüyor. Yeni geliştirilen hafızada hesaplama (CIM) teknolojisi bu sorunu, hesaplamaları doğrudan hafıza hücrelerinin içinde yaparak çözüyor.
Araştırma ekibi, özellikle transformer modellerinin attention mekanizmalarını hızlandırmak için özel bir tasarım geliştirdi. Bu mekanizma, yapay zekanın metin anlama ve üretme yeteneklerinin temelini oluşturuyor. Standart hafıza hücreleri kullanan tam dijital mimari, hem esneklik hem de enerji verimliliği sunuyor.
En önemli yenilik, softmax işlemlerini hızlandırmak için geliştirilen özel arama tablosu sistemi. Bu sistem, karmaşık matematiksel hesaplamaları önceden hazırlanmış tablolar kullanarak hızlandırıyor. Böylece milyarlarca parametreye sahip büyük dil modelleri bile sınırlı kaynaklara sahip mobil cihazlarda çalışabilir hale geliyor.
Bu teknoloji, yapay zekanın akıllı telefonlardan tabletlere, giyilebilir cihazlardan akıllı ev sistemlerine kadar geniş bir yelpazede kullanımını mümkün kılabilir.