Diktatörlüğe giden taşları döşeyen teknoloji ya da gözetleme kapitalizmi mi?

Kamusal alanlardaki her hareketinizi, internet alışverişlerinizi, sosyal medyadaki paylaşımlarınızı veri olarak alan bir algoritmanın hesapladığı kredi notuna sahip oluyorsunuz. Kredi notunuzu etkileyecek kötü hareketlere neler mi dahil? Cinayet, banka soyma gibi ciddi şeyler beklemeyin: Rezervasyon yaptığınız restorana gitmemek, online bilgisayar oyunlarında hile yapmak gibi basit kusurları düşünün...

Serdar Temiz  

Çin Halk Cumhuriyeti teknolojinin nimetlerinden en çok faydalanan devletlerin başında geliyor. 2014’te teste başladıkları sosyal kredi sistemi ile, Black Mirror dizisindeki gibi bir dünya oluşturmaya daha yakın oldular. İlk başlarda, niyetlerinin böyle olmadığını belirttiler tabii ki. Kamuda sorun yaratan bazı kişiler ve firmalar vardı. Sistemin tanıtılması da, ‘görevini suistimal eden devlet memurları, piyasaya sahte gıda ve ilaç sokan üreticiler cezalandırılacak’ denilerek yapıldı. Zamanla sistem daha geniş alanlarda kullanılmaya başladı. Geniş kitlelerce kolay kabul edilmesi için de, sadece cezalandırma olmayacağı, ‘düzgün’ ve ‘yasalara uygun’ davrananların ödüllendirileceği, üstelik bu sistem ile ‘suçların azalacağı’, daha ‘güvenli’ bir ortam yaratılacağı söylenerek tepkilerinin azaltılması sağlandı.

Kamusal alanlardaki her hareketinizi, internet alışverişlerinizi, sosyal medyadaki paylaşımlarınızı veri olarak alan bir algoritmanın hesapladığı kredi notuna sahip oluyorsunuz. Kredi notunuzu etkileyecek kötü hareketlere neler mi dahil? Cinayet, banka soyma gibi ciddi şeyler beklemeyin: Rezervasyon yaptığınız restorana gitmemek, online bilgisayar oyunlarında hile yapmak, ürün hakkında yanlış yorum yapmak, yaya geçidi olmayan yerde karşıdan karşıya geçmek gibi olağan sayılabilecek basit kusurları düşünün…

Bu kredi notuna göre de, özgürlüklerinizin kısıtlanması mümkün. Bu kısıtlamalar uçuş yasağından, internet hızınızın yavaşlatılmasına, otellere girişinizin yasaklanmasına kadar geniş alanlara varabiliyor. Mesela Çin’de 12 milyon kişinin uçması kötü davranıştan dolayı yasaklandı! Tabii kredi notunuz yüksek olursa, ödüller var: Kamu ulaşımında indirim, hastanelerde kuyrukta beklememe, ücretsiz spor salonuna giriş gibi imkanlar da sağlıyorlar. Sistemin 2020’de yaygın olarak kullanılması planlanıyor. Peki Çin’deki sosyal kredileme sistemini kuran ve sistemi destekleyen firma hangisi? Evet, Amazon’un rakibi, dünyanın en büyük firmalarından biri Ali Baba ve onun sahibi büyük verilerin kullanılarak sosyal kredilendirme sisteminin kurulmasından yana.

Sistemi yaratanların ‘düzgün tavır’dan ne anladıkları, nelerin ‘yasal kurallar’ olarak getirilebileceğini elbette tam olarak bilmiyoruz. İleride “Yahu elektrik fiyatları neden yükseldi” diye serzeniş etmek ‘iktidara itaatsizlik ve dolayısı ile karmaşaya yol açarak teröre sebep olma’ kategorisine sokulup cezalandırılabilirsiniz. Bunun örneklerini etrafınızda görmüyorsanız, hangi dünyada yaşadığınızı bilmiyorum.

Bu sistemin yayılması çok uzak değil. Zaten havaalanlarından, alışveriş merkezlerine her yer, işyeri kameraları veya MOBESE’lerle izleniyor. Demokratik ülkeler bunun gerisinde kalmıyor. Sistem, Londra’da sokakta her yaptığınızı isterse takip edebilecek kadar kamera yerleştirmiş her yere. Buna bir önceki yazımda belirttiğim alıcıları, sensörleri, Apple Siri, Amazon Echo gibi cihazları, uydudan gözetlemeyi de eklerseniz, gözetleme kapitalizminin ve insanları kontrol altına alma gücünün boyutunu hesaplayabilirsiniz.

KUŞ SESİNİ YAYINLAMAK YASAK

Peki, kafasına göre videoları bloklayan Youtube meselesini duydunuz mu?

Content ID denilen bir sistem ile videoların eser ve hak hırsızlığı sonucu oluşup oluşmadığını otomatik olarak belirleyen sistem, çalıntı bulduğu videoların görüntülenmesini engelleyebiliyor. Buraya kadar her şey yolunda, ancak MIT Üniversitesi tarafından ücretsiz konulan videolar, ücretsiz 3 boyutlu Blender yazılımı için Blender Vakfı’nın hazırladığı videolar hatta çektiği videoya eklediği kuş sesi, sesin çalıntı olduğu sanılarak bloklandı. Sistem nasıl tasarlandı ise, istenilenin dışında çalıştı. Şimdi çalıntı videoları bloklayan sistem, sizce gerektiğinde başka tarz videoları da çatır çatır bloklamaz mı?

HAVAALANI GİRİŞİNİ KİM KONTROL EDİYOR?

Bir örneği kendi tecrübemden vereyim: Berlin Schönefeld Havaalanı’na kredi kartımın verdiği imkanla orada güzel bir masada, ücretsiz içecek ve yiyeceklere de erişerek çalışırım diye uçuştan epey önce vardım. Erkenden check-in yaptığım ve valizim olmadığı için güvenlik kontrolüne doğru gittim. Kontrolden önce, dijital uçuş kartınızı makineye okutmanız lazım. Okuttum. Kırmızı ışık yandı. ‘Allah Allah, ne oldu acaba? Makinelerin nedense aramak için rastgele beni seçtiği bir güne mi dek geldim?’ diye düşünürken, güvenlikçi yanıma geldi, kartımı tekrar okuttu, ortaokul seviyesindeki Almancam ile, ‘Çok erken’ yazısını anladım. Adam “Çok erken” dedi. “Anlamadım, neye erken?” dedim. “Uçuştan iki saat önce gelin” dedi. Yahu bilette en geç iki saat önce gelin diyor zaten. Adamı girişe ikna edemedim. Başka bir girişe gittim. Derdim, oradaki kişiyi ikna edip geçmek, işten fırsatım kalırsa da mağazalara bakmak. Bu sefer görevli “Üç saat kala geçebilirsiniz” dedi. Aynı sisteme bağlı havalaanında bana farklı cevap veren iki kişi.

Vaktim var, bir de merak da ettiğimden bilgi masasına gittim. Görevli iki kişi de boştu. “Yahu neden giremiyorum, işte pasaportum, işte biletim”. Orada görevli iki kişiden biri iki saat, biri de üç saat önce ancak girebilirsin, dediler. “Yahu uçağa alacağım her şey için teferruatlı onca not var. Havalanının hiçbir yerinde bu iki ya da üç saat kuralı yazmıyor. Bileti alırken de kimse belirtmedi, sizin havaalanı sayfasında yazıyor da ben mi göremiyorum?”. Sebebine dair cevap yok. Havaalanı polisine gittim, “Bu kuralın kaynağı ne ve nerede yazıyor bu?” demek için. Polis de tam cevap veremedi; “Öteki tarafta yer olmadığı için de olabilir” dedi. “Aldığınız biletteki uzun ve ufak yazılarda geçiyor olabilir” dedi. Ben de üşenmedim, baktım. Hayır orada da yok! Yani biri sisteme bu kuralı kodlamış, havalanındaki anonslarda “Güvenlik sebebi ile check-in’den hemen sonra güvenlik kontrolüne gidiniz” anonsu yapılmasına rağmen, uçuşum beş saat sonra diye ben giremedim. Oysa o kadar erken sokulmayacağımı bilsem, belki şehirde daha fazla kalırdım. Oradaki görevli durumu anlayıp istese de beni içeri sokamaz çünkü kartımın okunması şart. Geçişime izin verse, sonradan bir şekilde kartın okutulması gerekiyor, onunla da uğraşacak.

“Bu bir istisna, sen de havaalanına o kadar erken gitmeseydin” diyebilirsiniz, ama buradaki dert ben değilim ki. İnsanların değil makinelerin karar verdiği ve kullananların etkisinin olamadığı bir sistem sizi düşündürmüyor mu?

İŞTEN ÇIKARAN MAKİNE

‘Yukarıda bahsettiğin sistemler toplum için iyi. Bunu suçlular düşünsün’ diyorsanız, Avustralya’daki İbrahim Diallo’nun başına gelenleri anlatmam lazım. İbrahim’i yazılım işten kovdu. Evet yanlış duymadınız, makinedeki yazılım kafasına göre karar verip İbrahim Diallo’yu işten kovdu. Her şey işe düzenli giden İbrahim’in kartının çalışmaması ile başladı. Basit bir dijital kart hatası sandığı şey, zamanla arabasının park girişini yapamamasına, sistem bilgisayarlarına erişiminin iptal edilmesine, güvenlik tarafından binadan özenle çıkarılmasına ve sonunda makine tarafından gerçekten çıkarılmasına sebep oldu. Sistem öyle bir tasarlanmıştı ki, bir kere aktif edildiğinde, adım adım giriş kartlarından kat görevlilerine, sistem şifrelerinden, ekranının karartılmasına kadar her şey tasarlanmıştı. Müdürleri bunu durdurmak istedi iseler de, durduramadılar. İzinsiz şekilde binada olduğu tespit edilen İbrahim, uyarı bilgisini alan güvenlik görevlilerinin kolunda, binadan çıkarıldı. Belki de insanlık tarihine makineler tarafından işten atılmış ilk kişi olarak geçen Diallo, aynı işe birkaç ay sonra yeniden başvurarak alındı. Elbette sisteme erişim şifreleri, hesapları, kartları tek tek en baştan oluşturuldu. Teknoloji sektöründe çalışanlar bunun bayağı zaman alan ve yorucu bir işlem olduğunu bilirler.

EN BÜYÜK TEHLİKE

Demokrasinin karşısındaki en büyük tehlikelerden biri teknoloji. Esasında yazılımda bir satır eklemekten başka bir şey olmayan ve insanı bilgisayar ekranına gizleyen yazılım platformlarına ‘sosyal’ network diyerek sosyal kelimesinin manasını yitirdik. Karşı komşumuzun aç olmasından haberdar değilken, Katrina kasırgası için ah vah ettik.

Sosyal medyanın yeni fikirlerin ortaya çıkmasına imkan sağlayacağına inanıp, hiç yapamayacağımız şekilde, eskiden ‘bizi fişlerler’ diye gizli paylaşırken dahi dikkat ettiğimiz şeyleri, sosyal medyada paylaşır olduk. Bırakın paylaşmayı, araştırmacılar, sadece ‘beğeni’lerimizi inceleyerek cinsiyetimizden eğitimimize kadar hakkımızda her şeyi bilir oldular. Yüzde 1 tarafından dışlananların, baskıcı rejimlerde bunalanların sesini çıkarma, muhalefet etme ve örgütlenme imkanı bulacağına inandık ya da inandırıldık. Hatırlayın, Arap Baharı’nı. Güya Twitter ile Facebook ile bahar rüzgarları esecek dediğimiz ülkelerde, ya baskıcı rejimler iktidarda ya da siyasi ve sosyal yapı harap halde.

Peki neyi unuttuk? Başta bu gelişmelere karşı, bu gelişmelerin dışında olan güçler, var olan yapılarını bu yeni dijital ortamlara taşımak için daha fazla kaynağa sahipler. Belki ilk başlarda, sosyal medya sayesinde dağ başında bir çobanın sesini duyurmasını, meşhur olmasını sağlayabilirsiniz ama uzun vadede ana akım mecralarda bulunanlar, onları kontrol edenler ya da maddi gücü olanlar, yeni dijital ortamlarda daha bilinir, tanınır olmayı becerebilirler. Zaten ondandır ki, sosyal medyada ortaya çıkan birileri eninde sonunda televizyonlarda yer almayı başarı sayıyor oldu. Zaten ondandır ki teknoloji artık Sensetime gibi firmalar arasında, sosyal medyadan toplanan 2 milyar resim ile eğitilen ‘yüz tanıma’ sistemlerine yatırım yapan yapana.

Zaten ondandır ki, geleneksel medyadan gelenler, dijital medyanın kontrol edilmesi gerekliğinden bahsediyorlar.

Tüm sistemlerimize entegre olmuş bu teknolojiyi kontrol edenler, insanların karar aşamalarından çıkarılması ile isteyerek ya da istemeyerek, zaruri ya da gereksiz birçok hizmete erişimimizi kısıtladığında, en basitinden en gereklisine kadar özgürlüklerimizi sınırladığında, elimizde mücadele için bir şey kalacak mı?

İnternetin babası sayılan Timothy John Berners-Lee’nin esasında bilim insanları daha özgür bir şekilde bilgi paylaşımı yapılabilsin diye bilim insanları arasında kurduğu ağ, zamanla gelişip yayılarak şimdi bildiğimiz internete dönüştüğünde, birçok umudu da beraberinde getirdi. Hatırlayın o ilk günleri, internetin yarattığı fırsatlar ve getirdiği imkanlar heyecan çok verici idi. İnternetle insanların bilgiye daha kolay erişebileceği, internetin sağladığı imkanlarla gelir dağılımının daha iyi olacağı, internet sayesinde bilgiye ve birbirine daha kolay erişen insanların yöneticileri daha demokratik olmaya yönelteceği konuşuluyordu. İnternetin ekonomik olarak yarattığı fırsatlar ve bilgiye erişimde getirdiği imkanlar yadsınamaz. Ancak, baskıcı rejimlerin ve merkezileşen internet platformlarının kişisel verilerimizi ve birçok veriyi toplaması ve bizleri gözetlemesi sayesinde, demokrasiyi geliştirmesi gereken internet, artık özgürlüğü kısıtlayan bir araca dönüştü. Timothy John Berners-Lee dahi, ‘internetin kurtarılması’ gerektiğini, bu amaçla kurduğu Web Vakfı ile her defasında belirtiyor ve bunun için uğraşıyor. Bu sebeple aktivistler, sivil toplum örgütleri ve sosyal hizmet yönü ağır basan kimi firmalar büyük mücadeleler veriyorlar. Eğer hepimiz açık ve şeffaf teknolojik sistemler ve devlet sistemleri kurulsun diye mücadele etmez, üstüne üstlük dijital devletleri ve dijital firmaları başıboş bırakırsak dijital teknolojiyi kullanan tekel firmalar ve işbirliği yaptıkları devletler, gelecekte özgürlüğümüze, geri dönülmez bir biçimde, mal olacaklar.

Referanslar:

Youtube’un kısıtladığı videolar: https://torrentfreak.com/youtubes-piracy-filter-blocks-mit-courses-blender-videos-and-more-180618/

Makine tarafından işten kovulan İbrahim Diallo: https://www.abc.net.au/news/2018-08-14/ibrahim-diallo-man-who-was-fired-by-a-machine-law-ai/10083194

Jack Ma dijital gözetlemeyi savunuyor: https://www.techdirt.com/articles/20161026/08144335892/alibabas-boss-says-chinese-government-should-use-big-data-techniques-citizen-scores-surveillance-store.shtml

Makine beni kovdu, İbrahim Diallo’nun yazısı: https://idiallo.com/blog/when-a-machine-fired-me

‘Çin’de 12 milyon kişinin uçması yasak’ haberi: https://www.telegraph.co.uk/news/2018/03/24/chinas-social-credit-system-bans-millions-travelling/

Dijital haklar aktivisti Aral Baykal’ı takip etmenizi öneririm: https://ar.al/

Çin’in video gözetleme teknolojisinin arkasındaki isimler: https://www.forbes.com/sites/shuchingjeanchen/2018/03/07/the-faces-behind-chinas-omniscient-video-surveillance-technology/