Algoritmik totalitarizm
Sosyal medya algoritmalarından yapay zekaya algoritmik düzen hepimizin zihniyetlerini tektipleştirmeye çalışan totaliter bir yapı olarak hareket ediyor.
Bugün totalitarizm kelimesini telaffuz ettiğimizde, zihnimizde hemen geçmiş dönemin ikonik karanlık günleri canlanır: Sert diktatörlükler, tek tip üniformalar veya tarihin tozlu sayfalarındaki toplama kampları. Sovyetler Birliği deneyimi veya Nazi Almanyası akla gelen ilk örneklerdir. Ancak içinde yaşadığımız liberal-kapitalist düzen de totaliter zihniyetin en sarih biçimde vücut bulmuş hali değil midir? Nazizm veya Stalinizm’i aynı sepete atıp totaliter diye etiketlemek; liberal-kapitalist düzeni doğal, masum ve yegâne özgürlük alanı gibi pazarlamanın belki de en kestirme yoludur. Böylece Antonio Gramsci’nin zamanında kullandığı, günümüzde tekno-feodalizmle karakterize olmuş “canavarlar zamanı”nın pürüzsüz şiddetini görünmez kılarız.
Oysa bugün, kaba bir baskı rejiminden çok daha tehlikeli, çok daha sinsi bir yapıyla karşı karşıyayız. Bu yeni rejim bizi meydanlarda toplayıp slogan attırmıyor; tam tersine bizi en derin mahremiyetimizde, çalışırken veya kahve masamızda yakalıyor. Kişiselleştirilmiş bir dünya vaat ederek irademizi, seçim kapasitemizi ve en nihayetinde insani olan hata yapma hakkımızı elimizden alıyor. Hatta yapay zekâ dil modelleriyle birlikte, bu rejim adeta zekâsına hayran kalınası bir güçmüş gibi davranıyor. Özellikle iş dünyası ve politikacılar bu tekno-feodal zihniyetin peşinden koşuyor, durmadan bu algoritmik düzeni alkışlıyor. Alkışı kesmeye hiç kimse kolay kolay cesaret edemiyor. İşte çıkışı yokmuş gibi davranılan o düzene ALGORİTMİK TOTALİTARİZM adını vermeyelim de ne diyelim?
Algoritmik totaliter düzen bize üç ana alanda iktidarını hissettirir: Düşünme ve zihin, toplumsal düzen algısı ve öznellik.
Karar Vermenin Sonu: Bilişsel Proleterleşme
Fransız teknoloji felsefecisi Bernard Stiegler, günümüzün bu dijital kuşatmasını anlamak için hayati bir kavram sunar: Proleterleşme. Ancak Stiegler için bu kavram, Marx’ın anladığı anlamdaki sınıfsal sömürünün ötesine geçer. Stiegler’e göre proleterleşme, bilginin kaybıdır (perte de savoir). Sanayi Devrimi, işçinin elindeki zanaat bilgisini alıp onu makineye devrettiğinde işçiyi proleterleştirmişti; işçi artık neyi, nasıl ürettiğini bilmiyor, sadece makinenin bir parçası haline geliyordu.
Bugün yaşadığımız süreç ise “Yapay zekâ işinizi elinizden alacak” sloganlarının çok ötesinde. (Gerçi bu slogan felaketçi bir havadan ziyade, “Ne de güzel olacak” tınısıyla servis ediliyor.) Bu, sömürünün bilişsel katmana, yani doğrudan zihnimize taşınmış halidir. Artık sadece nasıl üreteceğimizi değil, nasıl yaşayacağımızı (savoir-vivre) ve nasıl karar vereceğimizi kaybediyoruz. Burada kastedilen salt bir karar verme değil; Aristoteles’in phronesis dediği şey, yani duruma özgü ahlaki yargı kurma kapasitesi, o an neyin doğru olduğunu hissedebilme yetisi. Bir navigasyon uygulaması bize hangi sokaktan döneceğimizi söylediğinde, bir algoritma hangi haberi okumamız gerektiğini önümüze düşürdüğünde veya bir yapay zekâ e-postalarımızı bizim yerimize tamamladığında; karar verme yetimiz makineye devrediliyor. Ve bu sadece rotayı değil, o rotada ne öğreneceğimizi de bizden alıyor. Karar verme eylemi, tıpkı kullanılmayan bir kas gibi köreliyor.
Stiegler’e göre bu şekilde hepimiz artık özgür özneler değil, sistemin pürüzsüz akışını sağlamak için veri üreten “bilişsel proleterler” haline geliyoruz. Düşünce ile eylem arasındaki o insani boşluk —yani durup düşünme, tereddüt etme, şüphe duyma anı— algoritmanın hızıyla kısa devre yaptırılarak yok ediliyor.
Algoritma: Yeni “Büyük Öteki”
Algoritmik totalitarizmin ikinci iktidar alanı, toplumsal düzen algımızdır; kimin onayladığına, neyin normal sayıldığına, sembolik dünyanın sınırlarının nerede çizildiğine dair içselleştirdiğimiz o sessiz otoritedir. Fransız psikanalist Jacques Lacan’ın kuramında Büyük Öteki, tam da bu görünmez otoritedir; bizi izleyen, onaylayan ve sembolik düzenin sınırlarını çizen toplumsal regülasyonun ta kendisi. Žižek’in sıkça vurguladığı gibi, ideoloji en güçlü halini biz kendimizi en özgür ve bağımsız hissettiğimizde alır. Eskiden bu “Öteki”; Tanrı veya Devlet’ti; kural koyar ve ceza keserdi. Bugünün Büyük Öteki’si ise Algoritma’dır.
Algoritma bizi cezalandırmaz, aksine bizi “anlar”. Bize “Şunu yapmalısın” demez, “Bunu sevebilirsin” der. İşte ideolojik tuzak tam olarak buradadır: Algoritma, bizim arzumuzun yerine kendi arzusunu yerleştirir ama bunu sanki bizim en özgün, en mahrem tercihimizmiş gibi sunar. Özgürce kaydırdığınız o ekran, aslında arzunuzun Algoritma tarafından sömürgeleştirilmiş halidir. Algoritma’nın arzusunu kendi arzumuz sanmaya başlarız.
Kafede telefonunuzu elinize almadan oturamama halinizi düşünün: Konuşmak için kimseniz yok, yapacak bir işiniz de yok; yalnızca oturuyorsunuz ve ekrana uzanmaktan kendinizi alamıyorsunuz. Bu aslında Büyük Öteki’nin bakışından kopma korkusudur. Telefonu elinize aldığınızda sisteme şu mesajı verirsiniz: “Ben buradayım, veri üretiyorum, hâlâ sembolik düzenin içindeyim.” Sessizlik ve kopuş, bu rejimde bir “hata” olarak görülür; sistem bu hatayı derhal bir yalnızlık, eziklik veya “boşluk” hissiyle cezalandırır.
İnterpasif Öznellik
Günümüzde yapay zekâyla kurduğumuz sözde etkileşim, algoritmanın arzusunu dil modelinin arzusu olarak deneyimlememize yol açar. E-posta cevaplamak gibi en basit işlerden, gün içinde aklımıza takılan en ufak meraka kadar her şeyi “prompt”lar aracılığıyla yapay zekâya havale eder hale geldik: “Bana bu rapordaki önemli noktaları çıkarır mısın?” “Şu analizi benim için yapar mısın?” “Bana bir taslak hazırlar mısın?”
Verdiğimiz her prompt ile aslında sancılı bir süreç olan düşünme eylemini yapay zekâya devrediyoruz. Analitik yetimiz olan düşünmeyi algoritmalara teslim ettiğimizde, bilgi zihnimizde işlenen bir süreç olmaktan çıkıp veri merkezlerinde bizim yerimize gerçekleşen bir “işleme” dönüşüveriyor. Avusturyalı felsefeci Robert Pfaller bu öznellik biçimine “interpasiflik” adını veriyor. İnterpasif özne, kendi üzerine düşen bir eylemi veya duyguyu bir nesneye delege eder; nesne o eylemi onun yerine gerçekleştirirken, özne de o eylemi kendisi yapmış gibi pasif bir tatmin yaşar.
Yapay zekâ araçları interpasif öznelliğin saf bir örneğidir ancak ilk örneği değildir. Sitcomlardaki konserve kahkahalar izleyicinin gülme eylemini pasifleştirir; biz eğlenmesek bile o ses bizim yerimize eğlenir. Cenazelerdeki profesyonel ağlayıcılar, biz yas tutmasak bile bizim yerimize yas tutar. Bir makaleyi okumak yerine yapay zekâya özetletip “Tamam, öğrendim” dediğimizde; aslında şunu diyoruz: “Benim yerime sen düşün, benim yerime sen karar ver, benim yerime sen yarat.” Dolayısıyla yapay zekâ işlerimizden önce düşünme yetimizi ve biricik öznelliklerimizi elimizden alarak bizi düzleştiriyor. Tıpkı bir yüzeyin pürüzlerini zımparalamak gibi. Pürüzsüz bir yüzeyde artık hiçbir şey tutunamaz. Özü gereği “sürtünmeli” bir eylem olan düşünmeyi, sürtünmesiz hale getirerek bizi Algoritmik Totaliter Düzen’e teslim ediyor.
Sürtünmesiz Deneyimlerin Şiddeti
Algoritmik Totalitarizm’in alametifarikası, sürtünmesiz deneyim (frictionless experience) kavramıdır. Byung-Chul Han’ın Palyatif Toplum‘da belirttiği gibi, modern dünya her türlü acıyı, direnci ve pürüzü yok etmeye ayarlı bir narsisizm cehennemine dönüşmüştür. Sürtünmesizlik bir konfor olarak pazarlanır: Beklemeden ulaşılan bilgi, tek tıkla ödeme, bizi hiç şaşırtmayan sosyal medya akışları. Kyle Chayka, Filterworld adlı kitabında bu sürecin kültürel sonucunu keskin bir biçimde ortaya koyar: Algoritmalar yalnızca ne tüketeceğimizi değil, neyi güzel bulduğumuzu, neye değer verdiğimizi de düzleştiriyor; müzikten mimarlığa, yemekten seyahate kadar her şey birbirine benzeyen, “algoritma dostu” bir estetiğe doğru yakınsamaya başlıyor.
Ancak gerçek anlam, ancak bir dirençle karşılaştığımızda ortaya çıkar. Anlam, sürtünmenin olduğu yerdedir. Žižekçi bir perspektifle bakarsak; algoritmanın bize sunduğu o pürüzsüz dünya, aslında bizi “Gerçek”in (o travmatik, öngörülemez, ham gerçekliğin) sarsıcılığından koruyan bir fantezi perdesidir. Örneğin; eskiden bir şehri keşfetmek yanlış sokağa girmeyi, kaybolmayı, bilmediğiniz bir dilde biriyle anlaşmaya çalışmayı, yani “sürtünmeyi” gerektirirdi. Bugün navigasyon ve çeviri uygulamalarıyla bu sürtünme sıfıra iner. Şehir artık hakiki bir deneyim alanı değil, bir veri setidir. Siz o şehri gezmezsiniz; sadece algoritmanın sizin için çizdiği en verimli rotayı tüketirsiniz.
Sürtünmeyi Geri Kazanmak Mümkün Mü?
Algoritmik totalitarizm, bizi son derece tahmin edilebilir “ideal kullanıcılara” dönüştürmeye çalışarak zihnimizdeki o kurucu boşluğu ve anlam arayışını kapatmayı hedefler. Oysa bizi insan yapan, tam da o boşluk ve o boşluğun yarattığı huzursuzluktur. Žižek’in hatırlattığı üzere ideolojinin en saf hali, bizim sisteme alaycı bir mesafe koyduğumuzu sandığımız ama eylemlerimizle ona hizmet etmeye devam ettiğimiz andır. “Algoritmalar bizi yönetiyor ve ben bunun farkındayım” demek tek başına bir kurtuluş sağlamaz; çünkü sistem sizin farkındalığınızla değil, verinizle beslenir. “Biliyorum ama yine de yapıyorum” dediğimiz her an, interpasif öznelliğimizin zırhını biraz daha kalınlaştırır.
Gerçek bir kopuş, Stiegler’in işaret ettiği üzere teknolojiyi bir pharmakon (hem zehir hem ilaç) olarak yeniden düşünmeyi gerektirir. Pharmakonu eczacıdan aldığınızda dozu, zamanlaması ve hangi derde karşı kullanıldığı önemlidir, aynı madde iyileştirdiği kadar öldürebilir. Teknolojiyle ilişkimiz de tam olarak böyle bir dikkat gerektiriyor: Topyekûn bir ret değil, onun pürüzsüzlük vaadine karşı bilinçli ve ontolojik bir direniş. Algoritmayı bir araç olarak kullanmak ile algoritmanın sizi bir araç olarak kullanmasına izin vermek arasındaki fark, tam da bu dikkat anında belirir. Algoritmanın en büyük korkusu; tahmin edilemeyen, verimlilik rasyonalitesine sığmayan ve kendi boşluğunda durmayı göze alan “verimsiz” insandır.
Yaşamak, önümüze düşen seçenekler arasından en rasyonel olanı seçmek değil; tereddüt etme, yanılma ve o “katlanılmaz” sessizliğin içinde kendinle karşılaşma riskini almaktır. Eğer öznelliğimiz bu sürtünmesiz akışın içinde eriyorsa, o akışı bozacak birer “hata” haline gelmek, bugün belki de elimizdeki en insani eylemdir. Nihayetinde hiçbirimiz tam olarak hesaplanabilir bir veri seti değiliz ya da en azından henüz değiliz ve bizi böyle kalmaya zorlayan, benliğimizin pürüzlü, öngörülemez ve dirençli boşluğudur. İşte algoritmanın asla tam olarak çözemeyeceği şey de tam da budur.
Monokrom Okuma Listesi
Bernard Stiegler - The Age of Disruption: Technology and Madness in Computational Capitalism
Byung-Chul Han - Palyatif Toplum: Günümüzde Acı
Kyle Chayka - Filterworld
Robert Pfaller - Interpassivity: The Aesthetics of Delegated Enjoyment
Shoshana Zuboff - Gözetleme Kapitalizmi Çağı
Slavoj Žižek - İdeolojinin Yüce Nesnesi
Bu algoritmik düzenden sadece okuyarak değil, birlikte düşünerek çıkabiliriz. Çok yakında başlayacak olan Monokrom Düşünme Kulübü ve Monokrom Kitap Kulübü’nde aynı merakı paylaşan bir toplulukla bu konuları derinlemesine tartışacağız.
Tartışmaların derinliğini korumak adına buluşmaları her zaman küçük tutuyorum. Takvim netleştiğinde buluşmalara öncelikli olarak yerinizi ayırtmak ve kulüplerin ilk üyelerinden olmak için bekleme listesine adınızı bırakabilirsiniz.
Monokrom, hızın kutsandığı bir çağda çağda yavaş düşünmenin, derin kavrayışın ve entelektüel merakın yeniden değer kazandığı bir alan yaratmayı hedefleme girişimidir. Tek bir renk gibi görünen dünyanın aslında kaç tona sahip olduğunu birlikte açığa çıkarır.