Yapay zeka, blokzinciri, robotik, sürücüsüz araba gibi son teknolojik gelişmelerin yarattığı olanak ve tehlikeler son yıllardaki en önemli konu başlıkları arasında. Bir yanda bu alana yatırım yapan şirketler, devletler ve o projelerde çalışan binlerce araştırmacı; diğer yanda gelişmelerin olası sonuçlarından heyecanlanan ve kaygılanan geniş toplumsal kesimler bulunuyor.
Bu iki kesim arasında köprü kurmak, teknik alandaki gelişmeleri anlaşılır bir dilde topluma anlatmak, toplumun kaygılarının da diğer tarafa aktarılması değerli görevler olarak ortaya çıkıyor. Bu amaçla ülkemizde ve dünyada kendisini teknoloji iletişimcisi veya fütürist gibi kavramlarla tanımlayan çok sayıda insan, şirket ve kuruluş sorumluluk alıyor. Kendilerini takip eden geniş kitleler son teknolojik gelişmeleri onlardan öğreniyor, onların aktarımlarına göre gelişmeleri yorumluyor ve belki de bu yorumlara dayanarak kariyer, yatırım planları yapıyor.
Ben de son teknolojilerin sosyal ve siyasal etkilerine dair araştırmalara başladığımda literatürü tarıyor, son makaleleri, röportajları heyecanla takip ediyor ve oradan öğrendiklerim üzerinden sonuçlar çıkarmaya çalışıyordum. Örneğin yapay zeka algoritmalarının bir şirkette İnsan Kaynakları tarafından kullanılmasının çalışanların hakları nezdinde yaratacağı etkiden, blokzinciri üzerinden mültecilere para göndermenin yarattığı sosyal sonuçlara kadar bir dizi vakayı analiz etmeye çalışıyordum. Ancak bu çalışmanın bir parçası da bu sonuçları Bilgisayar Bilimleri ve Mühendislik Fakültelerinde araştırma yapan ve son teknolojilerin teknik süreçlerine hakim olan hocalarla görüşmekti ve bu görüşmelerde ilginç bir yaklaşımla karşılaşıyordum.
Yapay zeka, makine öğrenmesi vb. alanlarda çalışan arkadaşlar bu yorumlara genelde şüpheyle yaklaşıyor, abartılı buluyor ve bazen saflığımla dalga geçiyorlardı. Örneğin “ben şu kişi şu şekilde açıklama yapmış” dediğimde “ha, evet, biliyoruz, şirket kurdu, yatırımcı peşinde koşuyor” veya “yatırımcılar sıkıştırmış, onları rahatlatması lazım” gibi yorumlar yapıyorlardı. Bu sohbetlerin benim açımdan en önemli faydası daha eleştirel, daha sorgulayıcı bir bakış açısını edinmenin gerekliliğiydi.
Artık gün aşırı bir şirketin harika bir buluşla veya gelişmeyle manşet olduğu iddiasına tanık oluyoruz. Ama gerçekten öyle mi? Örneğin yapay zeka olarak adlandırılan kavram çok geniş bir çalışma alanını kapsıyor ve bazı alanlarda ciddi ilerlemeler yaşanırken, bazı konularda ilerleme çok yavaş oluyor veya hayal kırıklığı yaratıyor. Ancak yapılan çalışmaların yetersizlikleri, sınırları vb. konular pek gündem olmuyor. Herkes başarıdan başarıya koşuyor (!).
Bunun iki temel sebebini görmemek elde değil. İlki bu PR çalışması hem şirketler hem de bazı akademisyenler için daha fazla yatırım ve fon anlamına geliyor. İkincisi herkes kendi malını över, kimse kusurunu söylemez. Bu her alanda-her sektörde geçerli bir durum. Ancak teknolojide meselenin teknik boyutunun karmaşıklığı nedeniyle sorgulamak da zor. Dolayısıyla teknoloji iletişimcileri-fütüristler-bu alanlardaki gelişmeleri toplumla paylaşma amacıyla çalışmalar yürüten kurumlar genelde yalnızca şirket bültenlerini, bu şirketlerde çalışan yöneticilerle akademisyenlerin demeç ve röportajlarını çevirmekle yetiniyorlar.
Bu da zor bir iş değil. Bir dizi web sitesini ve yayını takip edip konuları seçip çevirmek ve bunu bir hikâye ile sosyal medyada veya etkinliklerde anlatmak işin daha kolay ve tüketime açık tarafı. Sosyal medya çağında beğeni ve tıklanma oranı da esas motivasyon olduğu için bu çevirileri daha da abartıp büyük sonuçlar çıkarmak ve izleyicileri heyecanlandırmak da doğal olarak prim yapıyor.
Yeni bir Yapay Zeka Kışı mı?
Ancak artık teknoloji üreticileri (şirketler, çalışanlar, araştırmacılar) ile toplum arasındaki köprünün doğru şekilde kurulup kurulmadığı daha fazla sorgulanıyor. Bunun bir yönü insanlarda oluşan gerçekçi olmayan kaygılar. Örneğin ABD’de toplumun % 54’ü önümüzdeki 10 yıl içinde tüm işlerin otonomlaşacağına inanıyor. Diğer yanı ise bu sektöre yatırım yapan devletlerin ve yatırımcıların söz konusu abartılı beklentiler sonucunda birkaç yıl sonra hayal kırıklığı yaşaması ve yapay zeka çalışmalarında yeni bir “kış”ın başlaması korkusu. Benzeri bir heyecan ve hayal kırıklığı 1970’lerde yaşanmış, bu alandaki çalışmalara ayrılan fon ve destek büyük oranda azalmıştı.
Örneğin Gary Marcus 30 Kasım 2019’da The Gradient’te yayınlanan “An Epidemic of AI Misinformation” (https://thegradient.pub/an-epidemic-of-ai-misinformation/) adlı makalesinde son dönemde medyaya manşet olan yapay zeka alanındaki birçok başarının aslında ciddi manipülasyon içerdiğini vurguluyor.
Yapılan çalışmaların sonuçlarına dair makalelerde olanaklar-olasılıklar kısmının öne çıkarılması ama limitlerinden bahsedilmemesi manipülasyonun bir türü. Diğer bir türü ise bir başarı haberinin verilmesinden 3 gün sonra “düzeltme” yapılmasına karşın düzeltmenin ilki kadar değer görmemesi, öne çıkarılmamasıdır. Örneğin Economist dergisinde çıkan haberde Open AI’ın konuşma dili üzerine uzmanlaşan GPT-2 programının yazılarının insanlar tarafından düzenlenmediği belirtilse de aslında insanlar tarafından düzenlendiği, filtreden geçirildiği açığa çıktı. Yine OpenAI’ın CTO’su Greg Brockman GPT-2’nin yazdığı makalenin sunulduğu yarışmada hakemler tarafından övüldüğünü iddia etmişti ama bir olumlu görüşün yanındaki iki olumsuz hakem yorumuna yer verilmemişti. Veya yine Open AI’nın son dönemde geliştirdiği robot elin Rubik küpü çözdüğü yönündeki haber ve eşlik eden video da birkaç gün sonrasında düzeltildi ve robot elin aslında problemi çözmediği belirtildi. Marcus’un verdiği örneklerde “başarı” haberi ile “düzeltme” haberinin okunurluğu arasında neredeyse 75 kat fark görülebiliyor.
Üçüncü manipülasyon ise örneğin robotik veya sürücüsüz araba alanında kontrollü bir ortamda elde edilen kısmi başarıların sanki kısa sürede gündelik yaşamda etkin kullanılabileceğine dair bir algı yaratılması.
Dördüncü tür ise teknoloji firmalarının üst düzey yöneticilerinin net tarihler vererek yapay zekanın bazı sorunları çözeceğini öne süren demeçlerinin tersinin çıkması. Örneğin Google’dan Geoff Hinton 2015 yılında The Guardian’da yaptığı açıklamada insan düzeyinde akıllı makinelerin geliştirilmesine az kaldığını iddia etmişti. Bugün bu başarılmış bir hedef değildir. Veya Hinton 2016 yılında artık radyologlara ihtiyaç duyulmayacağını, derin öğrenmenin bu mesleği ele alacağını iddia etmişti. 2015’de Facebook YZ Araştırma ekibinin başı Yann LeCun derin öğrenme sayesinde yakında süper zeki robotların ortaya çıkacağını öne sürmüştü. Bunların hiçbiri olmadı.
Princeton Üniversitesi’nden Arvind Narayanan ise (https://www.cs.princeton.edu/~arvindn/talks/MIT-STS-AI-snakeoil.pdf) birçok yapay zeka projesinin yılan yağı satmakla eşdeğer olduğunu vurguluyor. Özellikle 30 saniyelik videoda bir adayın işe uygun olup olmadığını anladığını savunan algoritmaların veya insanların sosyal medya hesapları üzerinden terörist olup olmadığını sorgulayan, suç önlemede polise yardımcı olmaya çalışan veya riskli çocukları tespit eden, sosyal yargılara ulaşmayı hedefleyen yapay zeka uygulamalarının hem aşırı derecede veriye bağımlı olduğunu hem kişisel verilerin güvenliği konusunda sıkıntılar yarattığını hem de (en önemlisi ve belki de çok şükür ki) beklenen başarıyı göstermediğini öne sürüyor.
Burada asıl mesele İnsan Kaynakları için işe alım süreçlerinde uygun adayları belirleyen algoritma sunan firmaların milyonlarca dolarlık yatırım almaları ve bu nedenle, Narayanan tarafından İK astrolojisi olarak tanımlanan başarısızlıklarını saldırgan şekilde gölgelemek istemelerinde kendini gösteriyor.
Bu nedenle içerik tanımlamada, yüz tanıma sistemlerinde, tıbbi taramalardan hastalık tespit etmede, konuşmayı yazıya dökmede oldukça başarılı olan ve kendisini geliştiren yapay zeka uygulamaları diğer birçok alanda ve sektörde oldukça geri konumda. Ancak bizler bunların hepsini yapay zeka olarak tanımlıyoruz ve toplumda genel bir algının oluşmasına neden oluyor.
Bu nedenle teknolojik haberleri aktarmadan veya onlardan ilgi çekici hikayeler oluşturmadan önce bu haberlerin habere konu olan şirketlerin çıkarlarına uygun şekilde hazırlandığını göz önüne almak ve bunu vurgulamak gerekiyor. “… şirketin iddiasına göre … başarılmış” demekle “… şirketi yine … alanında büyük başarı elde etti” demek arasında fark var.
İkinci olarak, şayet bir gelişmeye dair sonrasında düzeltme, eleştiri vb geldiyse bunun da aynı şekilde aktarılması etik açıdan da önemli.
Üçüncü olarak, teknoloji alanında her biri kendi içinde devrim yapma iddiasında olan gelişmeleri yayınlamadan önce meselenin teknik boyutlarını bilen kişilerce yorumlanması, bir nevi hakem rolü üstlenmesi de bir yöntem olabilir. Bu sayede haberi aktarırken o konuda uzmanların yorum, kaygı ve soru işaretleri de okuyucuyla paylaşılmış olur.
Son olarak teknolojik gelişmeleri yalnızca mistik veya medyatik bir havada aktarmak yerine felsefe ve sosyoloji ile iç içe geçirerek toplumsal değişimleri ve dinamikleri yorumlayarak aktarmak da önemli. Bu konuda genellikle meselenin etik boyutlarına odaklanılsa da bununla yetinilmemeli, siyasal, sosyal, felsefi açıdan insanlığın karşısında çıkan imkanlar ve tehditler analiz edilmelidir. Bu sayede insanlar nasıl bir gelecekte yaşamak istediklerini, teknolojik gelişmenin hangi yönde ilerlemesi gerektiği konusunda seçim yapma imkanına sahip olabilsinler.