Yapay zeka teknolojisinin yaygınlaşmasıyla birlikte, insanların hayatlarında kritik kararlar alan AI sistemleri konusunda yeni bir etik sorun gün yüzüne çıkıyor. Bilim insanları, bu durumu 'seçim yanılsaması' olarak tanımlayarak, AI'nın insanlara gerçekte olmayan bir seçim özgürlüğü hissi verdiğini ortaya koydu.
Ullmann-Margalit'in 'opting' kavramından yola çıkan araştırmacılar, gerçek seçimin üç temel özelliğe sahip olduğunu belirtiyorlar: dönüştürücü, geri alınamaz ve alternatiflerle gölgelenmiş olması. Ancak günümüz AI sistemleri, insanlara anlamlı seçenekler sunuyor gibi görünürken, aslında gerçek karar verme yetilerini sistematik olarak zayıflatıyor.
Bu durum özellikle toplumsal açıdan dezavantajlı gruplar için tehlikeli sonuçlar doğurabiliyor. AI aracılı yönlendirmeler yanlış yollara götürdüğünde, bu grupların bunun bedelini karşılayacak kaynakları bulunmuyor. Araştırmacılar, AI sistemlerinin değerlendirilmesinde yeni bir yaklaşım öneriyor.
Bu yeni yaklaşıma göre, AI sistemleri sadece önceden belirlenmiş hedefleri optimize etmekle kalmamalı, aynı zamanda insanların 'meta-kapasite' denilen yeteneklerini korumalı. Meta-kapasite, toplumsal ve kurumsal destekle insanların amaç ve araçlarını oluşturma, tartışma, revize etme ve sahiplenme becerisidir.
Bu çerçeve, AI etiği alanında önemli bir paradigma değişikliği önerirken, teknolojinin insan özerkliği üzerindeki derin etkilerine yeni bir perspektif getiriyor.