Yuval Noah Harari, son kitabı Neksus* ile gelecekte yapay zekânın hayatımızda yapabileceği etkileri kurgularken kitaba bilgi ağlarının tarihte oynadığı olumsuz örneklerle başlıyor.
Yapay zekâ ile ilgili olumlu görüşleri herkes hayranlıkla tekrarlarken Harari, pek anlatılmayanlara; özgürlüğün, demokrasinin, mahremiyetin yok olmak üzere olduğuna dikkat çekmeyi yeğliyor. Tarihte bilgi ağları ile milyonlarca insanın özgürlüğünü yok eden, köleleştiren sistemlerde olduğu gibi bir gidiş içinde olduğumuza dikkat çekiyor. Yapay zekânın sadece olumlu yanlarını anlatanları kibarca “naif düşünceliler” olarak adlandırıyor.
Tarihteki bilgi ağlarının sistemsel olarak nasıl özgürlükleri yok edebildiğini çeşitli örneklerle birlikte anlatıp 12 yıllık Nazi yükselişi ve 70 yıllık Stalinist baskı süreci ile ilişkilendiriyor. Tarihteki dramlarda bilgi ağlarının nasıl totalitarizme hizmet ettiğini gösteriyor.
Kutsal metinlerin oluşturulma sürecinde Talmud ve İncil’in aslında sonradan oluşturulan kurgular olduğunu belirtiyor. İlk oluşturulan hikayelerin sonradan değiştirildiği, yeniden hikayeler yazılması ve öncekilerin gizlenmesiyle yeni metinlerin kurumsallaştırıldığı görüşünü savunuyor. Sorgulama ve telafi mekanizmasının oluşmadığı kutsal kitaplar ile katı dini kuralların sistemsel hale geldiğini anlatıyor.
Harari’ye göre Avrupa’da matbaanın kullanılmaya başlanması, kutsal kitapların çoğalması ve yerel çevirilerinin herkes tarafından okunması sorgulamaları beraberinde getiriyor. Ancak, afişlerle, kitaplarla çokça ilgi çeken cadı hikayelerinin nasıl tekrar tekrar basılıp satıldığından (günümüzde nefret ve şiddet söylemlerinin sosyal medyada patlaması, binlerce tıklanması, Trend Topic (TT) olması gibi) söz ediyor. Yine yalan hikayelerin uydurulmasından, kilise tarafından istenmeyen kişilerin cadı olarak ilan edilerek on binlerce kişinin vahşice öldürülmesinden, Orta çağda engizisyonun itiraz edilemeyen kararlarla ve katı sistemlerle yönetilmesinden bahsediyor.
Totaliterleşen sistemlerde bütün yollar Roma’ya çıkıyor. Bilgi ağlarını kontrol eden merkezler, Nazi Almanya’sında Berlin’e, Sovyetler Birliği’nde Moskova’ya akıyor, sıkı bir denetim hüküm sürüyor. Yasa yapıcıya itiraz edebilen insan hakları mahkemeleri, bağımsız medya kuruluşları, özgür üniversiteler, bağımsız yargılama, ifade özgürlüğü, muhalefet edebilme ve toplanma özgürlüğünden bahsedilemiyor elbette. Roma lejyonlara, Çin askeri ihtiyaçlara hizmet edilmesini dayatıyor.
Harari antik Sparta, Çin, Roma gibi totaliter rejimleri anlatırken Çavuşesku ve Hüsnü Mübarek’in devrilmelerine de değiniyor. Kızıl Ordu’yu izleyen Kremlin’in istihbarat örgütlerini sayıyor ya da Fenike imparatorunun 3.yy’da özgür yetişkin erkeklere Roma vatandaşlığı vermesini, sonra da suikaste kurban giderek iç savaşa yol açmasını örnekliyor.
Tarihte küçük demokratik toplumlar olsa da yeryüzündeki büyük ölçekli insan toplumlarında, güçlü demokratik telafi mekanizmalarından yoksun olan geçmişteki İran, Hindistan, Çin gibi çok sayıda uygarlıkta merkezileşmiş bilgi ağlarının egemenliğinde yaşandığını vurguluyor. Milyonlarca insanı yöneten, Kızıl Meydan’daki kürsülerde oturan yaşlı adamların elinde yapay zekanın o zamanlar bulunmadığını hatırlatıyor Harari.
Yakın zamanda Burma’da 700 binden fazla Rohingyaya karşı, sosyal medyada hızla ve otomatik algoritmalarla kontrolsüzce yayılan yalan haberler üzerinden yapılan etnik saldırıları ve sürgünü hatırlatıyor.
80 yıl önce başlayan bilgisayar çağı bugün otomatik algoritmaların yönlendirdiği bir aşamaya geldi. 10 yıl kadar önce yapay sinir ağları, derin öğrenme ve yapay zekâ alanında emekleme dönemiydi. 2020’lerde artık yapay zekâ insan olmayan botlar, sahte haberler ve komplo teorileri yaratmaya, sahte (fake) videolarla seçimlerin sonucunu değiştirmeye başladı.
Bulutta analiz edilerek depolanmış devasa metinleriyle paralel işlemcileriyle, yapay zeka uygulaması ChatGpt, sorulara inanılmaz hızlı cevap veriyor. Yeni dil modelleriyle, ChatGpt ve benzeri dil modelleri, %100 doğru olmasalar da (şimdilik), nerdeyse her konudaki çok fazla bilgiye anında ulaşmamızı sağlıyorlar. Programlanmış politikalarına aykırı olmasına rağmen, yine de kurnaz kullanıcılar ChatGpt’ye yalan söyletebiliyorlar, vermek istemediği bilgiyi alabiliyorlar.
Hangi kafede kahve içtiğiniz, hangi şehrin hangi sokağında gezdiğiniz, hangi ATM’lerden para çektiğiniz, lokasyon verileriniz toplanıyor. Fotoğraflardaki arkadaşlarınız etiketleniyor. Konuştuklarınız otomatik algoritmalarla metne çevriliyor, anlaşmalı şirketlerle eşleştirilerek, aynı gün, satın alacağınız ürünlerin reklamları olarak karşınıza çıkıyor.
Bizden izin alınmayan kamera görüntüleri, lokasyon verileri, mesajlaşmalar, Büyük Veri’nin (Big Data) devasa veri kaynağı. Yapay zekâ modelleri milyonlarca insanın izinsiz toplanan verileri üzerinde çalışıyor. Program yazabiliyor. Sapiens’den çok daha zeki. Ancak, bilincinin olmadığını ve kontrolsüz olduğunu vurguluyor Harari.
Avrupa Birliği, 26 devleti ve onlara mal, hizmet satan devletleri bağlayan kapsamlı bir Yapay Zekâ Yasası ile mahremiyeti korumaya çalışıyor. Buna karşın Amerika ve Çin, böyle bir mahremiyeti koruyan yasa yapmaya niyetli gözükmüyor.
Harari, Çin’in insanlara uygulanan kredi puanının yaşamın her alanında para yerine geçebileceğini, bir kişinin yöneticilerin suç kabul ettiği eylemlerde bulunması durumunda sadece o kişinin değil ailesinin ve arkadaşlarının da kredi puanlarında azalma yapılacağını iddia ediyor. O’na göre Çin’in kredi uygulamasının diğer ülkelerce de uygulanması durumunda sadece mahremiyet değil, özgürlük ve demokrasiden de bahsedilemeyecek duruma gelebiliriz.
5-10 yıla kalmadan Genel Yapay Zekâ adı verilen süper bilgisayarların oluşturulmasını en stratejik hedef haline getirmiş olan devletler var. Yapay zekânın derin öğrenme algoritmalarındaki binlerce düğümü, algoritmanın yaratıcısı olan uzmanları takip edemiyor ve onları yorumlayamıyor. Yapay zekanın sinir ağlarının iç katmanlarını ve nasıl çalıştığını bilemiyoruz. Yapay zekâ insanlardan öğreniyor ve Sapiens karar verme yeteneğini ona devrediyor. Bu zeki ancak bilinçsiz devasa icada!
Endişelerinde haksız mı Harari? Keşke haksız olsa! Şimdiye dek insanlar arasında tarih yazıldığını söylüyor Harari ve ekliyor: “Artık yeni oyuncular, avatarlar, botlar da insanlarla bilgi ağlarına dahil oldular.”
Kontrol etme, hataları telafi etme, sorgulama, muhalefet etme, hatadan geri dönme mekanizmaları ortadan kalktıkça, üniversiteler işlevini yitirir, bağımsız medya ve yargı es geçilir. Şirketler mahremiyeti yok ederek tüm ilgilerimizi bizden önce bilir ve reklam olarak sadece anlaştıklarını karşımıza çıkarırsa; özgürlükler yok olur. Ayrıca bizden daha zeki olan yapay zekâ ile totalitarizme geçilirse, buradan geri dönmek ve kayıpları telafi etmek mümkün olmayabilir.
Harari, alıntıladığı epey kabarık akademik dipnotlarıyla, bilgi ağlarının oynadığı mahremiyet ve özgürlük karşıtı rolünü, tarihsel bağlamda değerlendiriyor,kamuya açık ya da özel toplantılarda dile getiriyor ve Neksus ile de okuyucularıyla paylaşıyor. Bu çok zihin açıcı ve faydalı kitabı okumanızı öneririm.
*Neksus – Taş Devri’nden Yapay Zekaya Bilgi Ağlarının Kısa Tarihi, Yuval Noah Harari, Kolektif Kitap, Çev: Çiğdem Şentuğ, 2024
Leave a Reply