Önümüzdeki elli yıl içinde insan hayatı nasıl ve hangi yönde bir değişime uğrayacak? Teknolojideki inanılmaz gelişmeler, değişimin ana dinamiği olacak. Bu gelişmeleri dikkate almadan gerçekçi değerlendirmelerde bulunmak imkânsız. Ancak insanlığın değişmeyen temel sorunları devam edecek: Demokrasi, diktatörlük, adalet, özgürlük ve insan hakları vb..
Erik D. Schulz, Berlinli bir yazar ve tıp doktoru. Buğday Güneyde Büyür adlı romanında (2020) Avrupa’da gerçekleşecek bir nükleer savaşın sonuçlarını bütün dehşetiyle gözler önüne sermişti. “İnsansız Dünya Gücü” (Delfy International Publishing, 2022) başlıklı gerilim romanı ise yapay zekanın muhtemel sonuçlarını işliyor. Olası network ve çatışmalara dair heyecan verici olduğu kadar ürkütücü bilgiler içeriyor. Romanı henüz proje aşamasındayken “nükleer savaştan bile daha yıkıcı” diye nitelemesinde bulunmuştu bana. Bilim kurgu romanı olmasına rağmen olaylar gerçekçi bir üslupla anlatılıyor.
Romandaki olay 12 Haziran – 10 Ağustos 2075 arasında geçer. Süper zekâ yardımıyla dünya hakimiyeti kurmaya çabalayan bir şirket vardır. Dünya beklenmedik bir güneş fırtınasına maruz kalır ve tüm internet ağını çökertir. Bu doğal afet şirketin planlarını altüst eder. Ama şirket pes etmez, süper zekâ Daguo aracılığıyla dünyanın dizginlerini ele geçirip diktatörlük ilan etmesine ramak kalmıştır. Büyük krizi kendi lehinde istismar eder.
İnsanlığın Daguo diktatörlüğü gibi büyük bir felaketten kurtulması için tek bir şansı kalmıştır. Bilim adamları Philip Rogge ve Friedrich Cannavale, her ne pahasına olursa olsun Daguo’nun iktidarı ele geçirmesini önlemelidir. Eğer önleyebilirlerse felaket içinde bir nimet olacaktır. Çünkü insanlığın geleceği buna bağlıdır.
Yapay zekâ teknolojisi öyle hızlı gelişiyor ki bu tür olayların yaklaşık elli yıl içinde olağan hale gelmesi işten bile değil. “Dünya hakimiyeti” kavramı kulağa biraz komplo efsanesi gibi gelse de sosyal medya ve yapay zekâ alanındaki gelişmelere bakınca o kadar da uzak ihtimal değil. Reel hayatı etkisi altına alan küreselleşme, iyi işleyen ve herkesi denetleyen/gözetleyen bir devlete, ardından da bir diktatörlüğe dönüşemez mi? En azından teorik olarak mümkün.
Zira Daguo; ekonominin, medyanın ve neticede siyasetin kontrolü gibi dünya hakimiyetinin en önemli bileşenlerine sahiptir. Gizli ajandası olan her despot gibi daha mutlu bir dünyaya öncülük etme iddiasıyla ortaya çıkar. Bu hedef, katı kuralları meşrulaştırmayı amaçlar. Kurallara uymayanlar “cezalandırılacak veya tasfiye edilecektir”. Şirket, sözde ‘demokrasinin bozuk sistemi’ni bir yetkinlik ve entelektüel hakimiyet, yani bir “bilginler cumhuriyeti” ile değiştirmek ister. Rogge ve Carlo arasındaki demokrasi ve diktatörlük hakkındaki konuşmalar, sanki bugün tartışılıyormuş gibi günceldir.
Ana kahraman (birinci şahıs anlatıcı olarak Dr. Rogge), Tıbbi Bakım Merkezi’nde (MCC) yıllardır yetersiz çalışmadan mustariptir. Fakat aktüel gazete haberlerine göre felaketlerin tam ortasındadır: Son derece bulaşıcı bir süper virüs ve dünyanın manyetik alanını etkileyerek büyük tahriplere yol açan bir güneş fırtınası tüm dünyayı tehdit etmektedir.
Dünyadaki küresel kriz
Güneş fırtınası sebebiyle dünya çapında bir kıyamet atmosferi hakimdir. Tüm dijital sistemler devre dışı kalır: Elektrikli otobüsler ve arabalar caddelerde devrilmiş vaziyettedir, onlarca araba kazası, sürücüsüz arabalar, mikro drone’ler artık tepki vermez, asansörler, gökdelenlerde aydınlatma ve klimalar çalışmaz, dükkanlar ve barlar karanlıkta kalır, internet aşırı yüklüdür, elektrik, su, kurtarma araçları yoktur. Akıllı telefonun yerini alan lensler ve 7-Sense ile de daha fazlası elde edilemez. Kurumlardaki androidler gibi robotlar artık kontrol dışıdır ve gelişigüzel hareket ederler. İnternet ve Citydrive çevrimdışıdır. Hastaneler acilen tedaviye muhtaç hastalarla dolar.
On yıllar önce tabletlerin yerini alan ve daha sonra lensler ve 7-Sense ile değiştirilen alüminyum folyoya benzer bir elektronik kâğıt olan ‘Flexpaper’e ek olarak, radyo hala vazgeçilmezdir. Çünkü her şeyin iflas ettiği bir zamanda örneğin “Radyo Teborlis” en önemli haber kaynağıdır. Bir robot şöyle bir haber sunar: “Saat dokuz. Haberler. Gece boyunca dünya genelinde ciddi bir elektrik kesintisi yaşandı. Ülke genelinde ciddi aksaklıklar var. Milyonlarca insan asansörlerde, trenlerde, Hyperloop’larda ve tüplerde mahsur kaldı. Karayolu trafiği neredeyse tamamen durma noktasına geldi ve Teborlis Uluslararası Havalimanı’ndaki faaliyetler etkilendi. Hastaneler, mağazalar ve kamu kurumları, acil durum jeneratörlerini devreye sokmak veya bağımsız şebekelere geçmek zorunda kaldı. Uzmanlar, felaketin polar ışınlarıyla ilişkisinin olduğunu tahmin ediyorlar…”
Bu haberi, dünyanın her yerinden gelen ufak tefek bilgileri bir araya toplayan başka haberler takip ediyor: Paris yakınlarında yüksek hızlı trenler birbirleriyle çarpıştı. GPS verisi alamayan iki uçak gece karanlığında Londra üzerinde düştü. (…) Londra, Köln ve Paris’te kolera salgını yayılıyor. Her yerde yağma var. Kolera salgını kontrolsüz bir şekilde devam ediyor ve elektrik kesintisinin yol açtığı problemler henüz giderilmiş değil. Dünya çapında kurbanların sayısı yirmi milyonu aştı. „Ekonomi, teknoloji, politika ve güç açısından kartlar yeniden karılıyor.” Dünya yeniden “askeri aktiviteler, oldukça etkili bilgisayar virüsleri ve savaş” tehdidi altında.
Haberler o kadar da yabancı değil bize. Anlaşılan gelecekte de insanlık Putin ve Musk gibi güç peşinde koşan figürlerle daha sık uğraşmak zorunda kalacak.
Romanda hemen hemen tüm şartlar tam kötümserlik için mevcuttur. Ama Alman atasözündeki gibi „Umut en son ölür.” Karanlığın en yoğun olduğu anda bir ışığın doğması gibi Rogge, şehrin bir kısmında bazı şeylerin çalıştığını fark eder. Bu ona elektrik kesintisinin tüm ülkeyi kaosa sürüklemediğine dair güven verir. Artık ufak bir iyimserlik parıltısı, yaygın karamsarlığın üstesinden gelecektir.
Umutların tükendiği anda Friedrich, kapsamlı bir yapay zekâ projesi hakkında rapor verir. Buna göre toplam beş bilim insanı süper zekayı araştırmaktadır ve bir atılım içindedir: “Bütün modern yapay zekanın zekâsı şu anda insan seviyesinin altında. (…) Ancak kendi kendini optimize edecek bir sisteme de sahip olabilirsiniz. Bir zaman sonra bizim yardımımız olmaksızın zekanın hızla yükselmeye devam ettiği bir başlangıç noktası, bir kalkış noktası vardır. Öyle bir noktaya geldiğinde bu patlar ve sonunda tüm insanlığın seviyesini aşar.”
Medya Daguo tarafından kontrol edildiğinde, daha da tehlikeli hale gelecektir. Çünkü Daguo kadimden beri var olan tüm insanlardan daha akıllıdır. Fakat Friedrich ve ekibi, Daguo’nun yapabileceği her şeyi yapabilen Omniscient adlı yeni bir süper zekâ geliştirir: “Stratejik düşünen, güç kazanan, zenginlik yaratan!”.
Bu esnada Friedrich’in beş kişilik ekibinde ciddi bir sorun daha ortaya çıkar: İçlerinden biri, yani Carlo, casustur. Dolayısıyla kod ve yazılımları onun eline geçmeyecek şekilde geliştirmeleri gerekmektedir. Carlo ve diğer savaşçılar arasındaki mücadele, bir aksiyon filmindeki kadar heyecanlıdır.
Daguo’dan farklı olarak Omniscient, “Dünyanın kurtarıcısı” olarak algılanır ve algoritması buna göre geliştirilir. Üstün zekasıyla tüm insanların iradesini tahmin edebildiği söylenir. Hedeflerini kendisi şöyle açıklar: “Mutluluğun, sağlığın, özgürlüğün ve adaletin güvenli bir ortamda ve doğayla uyum içinde optimize edilmesi.” Peki Daguo’nun da aynı hedefleri varsa, sorun nerededir öyleyse? Romanın sonlarına doğru yazar, iki aktör arasındaki farkı göstermek için somut örnekler kullanır. Omniscient, “Asla tek adamlık yapmayacağım!” der ve devam eder: “Ant olsun ki her zaman herkesin yararına olacak ve kimseye zarar vermeyecek hedeflere ulaşacağım.” Evrenin tüm sorunlarını çözmek üzere kendinden emindir.
Sorumsuzca geliştirilen teknoloji eleştirisi
Yazar, süper zekanın akıl almaz tehlikelerini de ortaya koyar: “Robot teknolojisinde on yıllardır büyük adımlar atılıyor. Her şey daha güvenli hale geliyor: Otonom araçlar, ev işlerinde yardımcılar, yapay polisler ve lanet olası otonom silahlar. Ve bundan, bir yapay zekâ ne kadar akıllıysa, o kadar az zarar verebileceği sonucuna varıyoruz.” (…) “Ama gerçekte tam tersi. Bir sistem ne kadar akıllı olursa, bıçak altına girme riskimiz o kadar artar.”
Schulz, teknolojik ilerlemelerin çıkarlar amaçlı istismarının net, gerçekçi bir eleştirisini yapar. Fakat bu teknolojinin George ve Hipokrat robotları gibi pek çok faydası da vardır. Hipokrat, MCC’de son derece hassas bir şekilde çalışır ve asla yorulmaz.
Konu yapay zekâ olunca romanda birçok robot isminin ve bazı cihazların ne olduğunu ayırmakta ve anlamakta zorlanıyorsunuz. Özel dil bağlamında ön bilgiye sahip olmayan bir okuyucu olarak, bazı yerlerde neyin tartışıldığından, androidler mi, robotlar mı yoksa elektronik nesneler mi kastedildiğinden emin olamayabiliyorsunuz. Bu nedenle kitaptaki bazı terimler küçük bir sözlükle daha anlaşılır hale getirilebilirdi.
Üslupça başarılı ve sonu açık roman (çünkü devamı gelecek), toplumdaki muhtemel istenmeyen gelişmeler hakkında pek çok öneri sunuyor. Kötü sonuçlar doğuracak ve istismara açık teknolojik gelişmelerin ancak şimdi eğitsel ve politik anlamda karşı önlemler alındığı takdirde önlenebileceği nazara veriliyor. Çoğulcu ve katılımcı demokrasi ile işleyen bir hukuk devleti yapay zekâ bağlamında test ediliyor!
Muhammet Mertek
Not: Türkiye’de Temrin dergisi Eylül 2023 sayısında yayınlandı.
