Açıklanabilir, Sorumlu ve Güvenilir Yapay Zekâ

⏰ Bundan yaklaşık bir buçuk yıl önce “Açıklanabilir Yapay Zeka Nedir ve İhtiyaç Mıdır?” başlıklı bir yazı kaleme almıştım. Aynı konuyla ilgili derinleşmekte fayda olabileceğini düşündüm. Hem biraz daha teknik hem de iş değerlerini artırmak için nasıl bir perspektiften bakılabileceği üzerine kafa yorabiliriz. Derin öğrenme çok sayıda doğrusal olmayan fonksiyonu kullanan yapay sinir ağlarının günümüzdeki adıdır. Yapay sinir ağlarının 90’lı yıllardaki popülaritesinin çok üstüne çıkmasının sebebi insan seviyesine erişen önemli başarılara imza atmış olmasıdır. Sezgisel olarak, doğrusal olmayan fonksiyonların çok sayıda katmanı, ağın ham veriler ve tahmin arasındaki çeşitli soyutlama düzeylerinde özellikleri öğrenmektedir. Derin öğrenme katmanlarda öğrenilen özelliklerin basitleştirilmiş gösterimi Ancak ç o k sayıda doğrusal olmayan fonksiyonun karmaşık bir şekilde sonuçlar üretmesi insan tarafından (hatta bazen kendi geliştiricisi tarafından) yorumlanması ve anlaşılması zor bir noktaya gelmiştir. Bu yüzden de özellikle hastalık teşhisi gibi sağlık uygulamalarında, kredi ödeneği gibi bankacılık uygulamalarında veya hukukta ceza uygulamalarında, özetle; güvenlik açısından şeffaflık gerektiren uygulamalarda hala derin öğrenme yerine regresyon ya da karar ağaçları gibi daha kolay açıklanabilen modeller kullanılmaktadır. Yaklaşımlara Göre Performans ve Açıklanabilirlik Yapay sinir ağlarının ve bazı makine öğrenmesi yaklaşımlarının karar verme süreçleriyle ilgili şüpheler haksız değildir. Bu tip sistemlerde karar verilirken veri kümelerindeki korelasyonlardan faydalanılır. Bazen veri kümesindeki istatistiksel önyargılar sahte korelasyonların üretilmesine sebep olabilir. Örneğin; derin öğrenme yaklaşımıyla diğer yöntemlerden daha başarılı şekilde “zatürre” (pnömoni) teşhisi konulabilir. Ancak bu teşhis beklenmedik sonuçlar doğurabilir. Bu analiz ile bağlantılı olarak eğitim setinin “astım geçmişi” olan hastaların zatürreden ölme riskinin daha düşük olduğunu söyler. Ancak bu model, astımlı hastalara daha hızlı ve daha fazla ilgi gösterildiğinden (dolayısıyla, ölüm oranları daha düşük olur), aslında daha yüksek risk altında oldukları ortaya çıkar. Yani astım hastaları ile iyi ilgilenildiği için ölüm riski düşük olarak belirleniyor, aslında astımlı hastalar için -ilgilenilmediğinde- zatürre son derece önemli bir risktir. Kısacası, pratikte bu tür korelasyonlara dayanan bir model kullanmanın tehlikeleri vardır. Kara kutu (black-box) sistemlerindeki bir başka güvensizlik kaynağı; ırkçılık, cinsiyetçilik veya diğer ayrımcılık ve öznellik türleri gibi bu sistemlerin geliştirebileceği potansiyel önyargıdan kaynaklanır. Birkaç kısa tanımı hatırlamakta fayda olabilir: 👾 Pekala, gelelim açıklanabilirlik konusuna; Derin öğrenme yaklaşımları ile görüntü işleme uygulamalarına tek-piksellik ataklar yapılabildiğinden önceki yazımda detaylı olarak bahsetmiştim . Koca görüntüde yalnızca bir pikseli değiştirdiğimizde gözümüz hala görüntüyü doğru şekilde yorumlayabilirken, derin öğrenme yöntemleriyle oluşturduğumuz model çok büyük hatalar yapabiliyor. Üretici çekişmeli ağlar (Generative Adversarial Networks), doğal dil işleme ve konuşma tanıma gibi diğer alanlarda da önemli başarı oranlarına sahiptir. Atak saldırılarının ortaya çıkardığı derin sinir ağlarının kırılganlığı, bu yöntemlerin temelindeki öğrenilmiş karar verme süreçlerine şüphe uyandırıyor. Bu nedenle, sinir ağı yaklaşımlarının yaygın kamu güvenini kazanması ve bu sistemlerin gerçekten adil olmasını sağl…