Yapay zeka sistemlerinin gerçek dünyada güvenli şekilde çalışabilmesi için, kontrol edilemeyen diğer ajanlarla etkileşimde bulunurken güvenlik garantileri sağlaması gerekiyor. Yeni araştırma, bu zorlu probleme sinir ağları tabanlı model öngörülü kontrol yaklaşımıyla çözüm getiriyor.
Sistem, kontrol edilemeyen ajanların davranışlarını önceden toplanan verilerden öğrenen bir tahmin modeli kullanıyor. Ancak asıl yenilik, tahmin hatalarına karşı matematiksel olarak kanıtlanmış garantiler sağlayan 'bölgesel sağlam konformal tahmin' yöntemi. Bu teknik, sistem kendi politikasını değiştirdikçe ortaya çıkan veri dağılımı kaymasına rağmen, belirsizlik sınırlarını doğru şekilde hesaplayabiliyor.
Araştırmacılar, ortaya çıkan karmaşık optimizasyon problemini çözmek için iki döngülü bir algoritma geliştirdi. İç döngü, sabitlenmiş hata sınırlarıyla basitleştirilmiş alt problemleri çözüyor; dış döngü ise güncellenmiş kontrol dizilerine göre bu sınırları iyileştiriyor.
Bu yaklaşım, otonom araçların trafikteki diğer sürücülerle güvenli etkileşimi, endüstriyel robotların insan işçilerle birlikte çalışması gibi kritik uygulamalarda kullanılabilir. Sistem, öngörülemez davranışlar sergileyen çevresel faktörlere rağmen güvenli operasyon garantisi sunuyor.