Giriş: Yapay zekanın ve algoritmaların kullanımının hukuki bir çerçeveye oturtulmasına dair tartışmalar yıllardır sürüyor; yine de bu teknolojilerin düzenlenmesine yönelik net bir uygulamanın meydana getirildiği söylenemez. Ünlü bilimkurgu yazarı Isaac Asimov’un Robotik’in Üç Kuralı‘ndan beri pek çok akademisyen, yazar ve felsefeci algoritmaların kurallara bağlanması hususu üzerinde çalışmalar gerçekleştirdi. Ancak ulaşılan sonuçlar ve meydana getirilen eserler temelde ‘etik’ kuralları ekseninde dönmeye devam ediyor. Bu alandaki somut düzenlemelere ve hukuki kurallara ilişkin tavsiyeler hala nadir olarak karşımıza çıkıyor.
Alman Federal Hükümeti Veri Etiği Komisyonu Raporu: Ancak bu teknolojilerin yaygınlaşması ve doğabilecek tehlikelerin ciddi ciddi insanların hayatlarını etkileyebileceğinin gözlemlenmesiyle birlikte bu alanda elle tutulur çalışmalar yapılmaya başlandı. Ekim 2019’da Alman Federal Hükümeti Veri Etiği Komisyonu (Datenethikkommission) tarafından yayınlanan bir rapor özellikle dikkat çekici. Rapor, içeriği itibarıyla yapay zekanın regüle edilmesi konusunu yine etik ilkeler çerçevesinde ele alsa da içeriğinde oldukça somut ve uygulamaya yönelik tavsiyeler bulunuyor. Yakın gelecekte algoritmik sistemleri ve yapay zekayı düzenleyecek bir hukuki sistemin neye benzeyebileceği hakkında fikir sahibi olmak için rapor içerisindeki bazı somut tavsiyeleri incelemek faydalı olacaktır:
- Algoritma temelli sistemlerin kritiklik seviyelerine göre bir ayrıma gidilmelidir – yani risk temelli bir yaklaşım benimsenecektir. Algoritmik sistemler sosyal medyada kişiselleştirilmiş reklam göstermekten potansiyel suçluların tespit edilmesine kadar hayatın her alanında kullanılmakta. Farklı algoritma sistemlerinden çıkan sonuçların insanların hayatında farklı sonuçları olabildiği gözetilerek genel geçer kurallar oluşturmak yerine bir risk skalası oluşturulması önerilmektedir. Ardından skalanın farklı yerlerindeki sistemlere ayrı kurallar uygulanacaktır. Örneğin kişilerin haklarına yönelik göz ardı edilebilir riskler arz eden algoritmalara (örn. kişiselleştirilmiş reklam) herhangi bir spesifik kural uygulanmaması olasıyken; geri döndürülemez ve engellenemeyecek riskler meydana getirebilecek algoritmaların (örn. askeri sistemlerde kullanılabilecek algoritmalar) kısmen veya tamamen yasaklanabileceği öngörülmektedir.
- Algoritmik sistemlerin kritiklik seviyelerinin genel kabul gören kriterlere bağlanması ve yazılımların tespit edilen kritiklik seviyelerinin standartlaşmış bir plan çerçevesinde belgelendirmesi önerilmiştir. Rapor içerisindeki en ilgi çekici tavsiyelerden biri, algoritmik sistemlerin kritiklik seviyelerinin tespitini zorunlu kılacak bir etiketlendirme çalışmasının yapılması. Böylece her algoritmik sistemin hangi kurallara tabi olacağı sistem çalışmaya başlamadan önce belirlenebilecek ve sistemin muhatap olduğu kişilere yönelik gerekli şeffaflık sağlanacaktır. Yani yakın gelecekte yazılımlar üzerinde “algoritma kritiklik etiketleri” görebiliriz – aynı bugün beyaz eşyalar üzerinde gördüğümüz enerji sınıfı etiketleri.
- AB ülkeleri açısından, bu alanda uygulanacak hukuki düzenlemelerin yeknesaklığını sağlamak için Algoritmik Sistem Regülasyonu (EU Regulation on Algorithmic Systems) hazırlanmalıdır. Tüm AB’de geçerli olacak olan sistem kritikliği konsepti, algoritmik sistemlerin oluşturulmasında izlenecek kriterler, algoritmik işleme tabi tutulan kişilerin temel hakları ve bu sistemlerin gözetimini üstlenecek düzenleyici denetleyici kurumların yapısı gibi hususlar bu düzenleme ile AB genelinde tek elden düzenlenmelidir. Böylesi bir düzenlemenin Türkiye açısından da şüphesiz etkileri olacaktır. Zira, AB üyelik süreci kapsamında Türk mevzuatının AB mevzuatına uyumluluğu çerçevesinde bu düzenlemede yer alan kuralların Türk hukukuna da getirilmesi gerekecektir.
- Kurumlar tarafından kullanılan algoritmik sistemlerin gözetimi için bu sistemler hakkında uzmanlığı olan bir merkez kurulması tavsiye edilmiştir. Ayrıca yüksek kritiklikte algoritmik sistemleri kullanacak kuruluşların sistemden sorumlu bir kontak kişisi belirlemesi ve merkez ile ilişkileri bu kişi üzerinden yürütmesi öngörülmektedir. Söz konusu merkezin, algoritmik sistemin ve kontak kişisinin görev ve yetkileri rapor içerisinde belirtilmemekle birlikte, Avrupa kişisel veri koruma mevzuatındaki uygulamalara atıf yapılmıştır. Dolayısıyla ilgili merkezin ileride şikâyet üzerine karar alma, idari para cezası uygulama, ikincil düzenleme yapma gibi yetkileri olabileceği öngörülebilir.
Sonuç: Avrupa Komisyonu Başkanı Ursula von der Leyen’in komisyonu için belirlediği 2019-2024 yol haritasında yer alan amaçlardan biri algoritmik sistemler dahil, yeni nesil teknolojilere dair standartların oluşturulması. Dolayısıyla bu alandaki temel hukuki çalışmaların en azından bir kısmının 2024’e kadar tamamlanacağını umabiliriz.
Şüphesiz ilk etapta oluşturulacak hukuki kuralların aceleye getirilmemesi gerekir. Bu alanda AB genelinde uygulanacak (ve muhtemelen global pratiğe yön gösterecek) bir düzenleme ya da düzenleme taslağı elimizde bulunmuyor. Yine de bu doğrultudaki somut çalışmaların yoğunlaştığını gözlemleyebiliyoruz. Özellikle AB’nin yirmi seneyi aşkın teknoloji spesifik kanun yapma pratiği ve tecrübesiyle bu alanda ne şekilde ilerleyeceği bilişim alanına ilgi duyan hukukçular açısından heyecan ve merak konusu. Yazıda incelenen raporun en azından kafalarda şekillenmeye başlayan hukuki yapı açısından fikir verebileceğini umuyorum.