Stanford ve diğer araştırma kurumlarından bilim insanları, makine öğrenmesi tabanlı hava durumu tahminlerinde yaşanan spektral bozulma problemini çözen devrim niteliğinde bir model geliştirdi. Mosaic adı verilen bu olasılıksal hava tahmin modeli, geleneksel AI yaklaşımlarının iki temel zayıflığını hedef alıyor.
Mevcut makine öğrenmesi modellerinde yaşanan spektral bozulmanın iki ana kaynağı bulunuyor: deterministik eğitim süreçlerinin ensemble ortalamalarına karşı yapılması ve sıkıştırma kodlamasının yarattığı bilgi darboğazı. Mosaic, bu sorunları öğrenilmiş fonksiyonel pertürbasyonlar aracılığıyla ensemble üyeleri üreterek ve blok-seyrek dikkat mekanizması kullanarak aşıyor.
Bu yenilikçi dikkat mekanizması, uzamsal olarak bitişik sorgular arasında anahtar ve değerleri paylaşarak uzun menzilli bağımlılıkları doğrusal maliyetle yakalayabiliyor. Bu sayede model, donanım uyumlu bir şekilde yüksek çözünürlüklü verilerle çalışabiliyor.
Sadece 214 milyon parametre kullanan Mosaic, 1.5 derece çözünürlükte çalışırken, 6 kat daha ince veriler üzerinde eğitilmiş modellerle boy ölçüşebiliyor. Model, 24 üyeli ensemble ile 10 günlük hava tahminini 12 saniyenin altında tamamlayabiliyor ve tüm çözümlenmiş frekanslar boyunca neredeyse mükemmel spektral hizalama sergiliyor.