Britanya’daki Algoritma Skandalına Dair

Britanya’da öğrencilerin üniversiteye girişlerinde belirleyici olan sınavların pandemi nedeniyle ertelenmesi üzerine nihai notları öğretmenlerin vermesine karar verilmiş, ardından öğretmenlerin notları olması gerekenin üstünde vereceği ve bir not enflasyonu olacağı kaygısıyla merkezi bir algoritma ile notların düzeltilmesi ve daha adil bir not dağılımının olması planlanmıştı. Sonuçta not enflasyonu kaygısı gerçek çıktığı için neredeyse tüm öğrencilerin notları düşürüldü. Buraya kadar mantıklı denilebilecek bir karar geçtiğimiz ay notlar açıklandığında ciddi bir skandala dönüştü ve pandemiye ve tatile rağmen güçlü bir öğrenci hareketi ortaya çıktı. Gençler nazik bir çeviriyle “lanet olsun algoritmanıza” diyerek sokaklara çıktı, ardından önce İskoç hükümeti, ardından da Johnson hükümeti geri adım atarak algoritmanın verdiği kararların yok sayıldığını ilan etti, üniversiteler de şartlı kabul alan öğrencileri kabul edeceğini duyurdu. Bu nedenle üniversiteye kimin yerleştiği ve kontenjanlar konusunda ciddi bir karmaşa yaşandı. Bu karmaşa ve skandaldan önemli dersler çıkarmak mümkün. Yapay zeka da dahil çeşitli algoritmaların mevcut eşitsizlikleri nasıl yeniden ürettiği ve ayrımcılıkları normalize ettiği üzerine geniş bir literatür var. Polise ve yargıya yardımcı olan algoritmaların yoksul ve siyah/azınlık kesimleri hedefe koyduğu veya iş yerlerinde insan kaynaklarına yardımcı olan algoritmaların çalışan haklarını göz ardı ettiği üzerine ciddi bir birikim oluştu. Basit bir ifadeyle bunun temel sebebinin dizayn sürecinde kullanılan veri setlerinin taraflı, önyargılı, mevcut eşitsizlikleri ve ayrımcılılıkları yansıtan şekilde hazırlanması ve algoritmaların da bu veri setine dayanarak söz konusu kararları almasıdır. Örneğin uyuşturucu arama için polis daha çok yoksul mahallelerde operasyon yaparsa ve zengin muhitlere yoğunlaşmazsa tabii ki uyuşturucu en fazla yoksul mahallelerde kullanılıyor verisi ortaya çıkar, buna dayanarak algoritma da bu mahallelere yoğunlaşılmasını önerir. Bu, zengin muhitlerde uyuşturucu kullanılmadığı anlamına gelmez, sınıfsal/sosyo-ekonomik farklılıkların devrede olduğunu gösterir. ABD’de hapishanelerde daha çok siyahların olması siyahların suça meyilli olduğu anlamına gelmez, polis teşkilatındaki kurumsal ırkçılığı ve siyahlara yönelik baskıları kanıtlar. Bu yönde ciddi bir politik, sosyolojik birikim ve verilen hak temelli mücadeleler olduğu için bizler bu niteliksel yaklaşıma sahibiz ama bunun algoritmik karar alma süreçlerine nasıl yansıyacağı ayrı bir tartışma konusu. Britanya’daki örnek de bunun bir benzeri ama belki de en kitlesel tecrübesi oldu. Aslında algoritmaya başvurmanın mantığı başta da denildiği gibi ortada. Ancak sonuçta ne oldu da öğrenciler lanet okuma seviyesine geldi? Algoritma her okulun tarihsel başarısına uygun bir seviye yakalamaya çalıştı. Örneğin bir okulun son 10 yılda bu sınavdan aldığı ortalama puan 68 ise ve bu yıl ortalama bir anda 85’e çıktıysa her öğrenciden yaklaşık 15 puan düşürüp ortalama 68’e indirildi; bir diğer okulun ortalaması 85 ise ve bu sene 92’ye çıktıysa o okulunki de 85’e indirildi. Burada 2 temel sorun kendisini gösterdi. İlki İngiliz eğitim sistemindeki derin eşitsizlik çok bariz şekilde ortaya çıktı. Yoksul mahallelerdeki okullar eğitim politikaları ve ayrılan bütçe nedeniyle daha düşük puanlara sahipken zengin muhitlerdeki okullardan ve özel okullardan gelenler daha yüksek puanlar alıyor. Bu nedenle Oxford, Cambridge gibi üniversitelere daha çok üst sınıfların çocukla…