EVGENY MOROZOV
Warren Brodey gibi 1924 doğumlu olan Sovyet filozofu Evald Ilyenkov da dünyanın öbür ucunda kendine aynı soruları soruyor ama “yaratıcı Marksizm” kavramsal çerçevesi içinde kalıyordu. Ilyenkov’un çalışmaları, komünist ve sosyalist düşüncede insanın geliştirilmesi kavramının ne anlama geldiğini daha iyi anlamamızı sağlar. Brodey gibi Ilyenkov da görme engellilerle yoğun biçimde çalışmış, bilişsel ve duyusal yeteneklerin sosyalleşme ve teknoloji ile etkileşimden kaynaklandığı sonucuna varmıştır. Doğru eğitim ve teknolojik ortamları bulduğumuz sürece, potansiyel olarak sahip olduğumuz yetenekleri geliştirebiliriz. Bu nedenle komünizm, devlet önderliğinde, insanların uyuyan yeteneklerini serbest bırakmayı ve herkesin sosyal veya doğal engellerden bağımsız olarak tam potansiyelini ortaya koyabilmesini amaçlar.
Sovyet bürokratlarının Amerikan tarzı yapay zekâya olan hayranlığı karşısında çileden çıkan Ilyenkov, 1968 tarihli “İdoller ve İdealler” başlıklı makalesinde oldukça ikna edici bir eleştiri getirmiştir.(6) Ona göre yapay zekâ geliştirmek, Sahra Çölü’nün ortasında devasa ve pahalı bir kum fabrikası inşa etmeye benziyordu. Fabrika ne kadar mükemmel çalışırsa çalışsın, duvarlarının ötesinde bolca bulanan doğal kaynaklardan yararlanmamak saçmaydı. İnsani, yaratıcı, öngörülemez ve şiirsel bir zekâ okyanusu… İlyenkov eleştirileri neredeyse 60 yıl sonra bile güncelliğini koruyor. Hâlâ çölde sıkışıp kalmış haldeyiz; fabrikanın erdemlerini savunuyoruz ama üst düzey yöneticiler ve ekonomik düzenin mimarları dışında hiç kimsenin ona gerçekten ihtiyacı olmadığını fark etmiyoruz. Brodey, Marshall McLuhan’dan aldığı bir benzetmeyi kullanıyor, çevresel teknolojilerinin bizi bir balığın suyun varlığının farkına varması gibi uyandırma gücüne sahip olduğunu söylüyordu. Birilerinin, yapay zekâya kafayı takmış olanlara, insani, yaratıcı, öngörülemez ve şiirsel bir zekâ okyanusuyla çevrili olduklarını göstermesinin zamanı geldi. Asıl soru şu: Yapay zekâ gibi insani gelişim fikriyle çelişen kavramları kullanmakta ısrar ederek gerçekten gelişebilir miyiz? Yapay zekâ inşa etme hırsı sadece milyarlarca doları yutmakla kalmadı, bazıları için kişisel bedeli de oldu. Bu genişlemeye öncülük eden genç kurtların uzlaşmazlığı (Her yerden fon toplama ve disiplinin sınırlarının katı bir şekilde tanımlanmasıyla) Stafford Beer ve Warren Brodey gibi “yapay zekâ” etiketinden her zaman rahatsız olan ileri görüşlü düşünürlerin marjinalleşmesine yol açtı. 2002’de yaşamını yitiren Beer’in ölümünden kısa bir süre önce tanışan iki adam taban tabana zıt geçmişlerden geliyordu. Eski bir şirket yöneticisi olan Beer, son derece elitist İngiliz Athenaeum Kulübü üyesiydi; Brodey ise Toronto’da orta sınıf bir Yahudi ailede büyümüştü. Bu durum, bilimsel bir disiplin olarak yapay zekâya ve uygulayıcılarının dogmatizmine karşı aynı küçümsemeyi duymalarını engellemedi. Aynı zamanda manevi bir babayı da paylaşıyorlardı: Sibernetik devi Warren McCulloch… Makineleri ve insan beynini aynı kavramlarla anlama çabası Sibernetik, İkinci Dünya Savaşı’dan hemen sonra matematikçi Norbert Wiener’in öncülüğünde doğdu. Kendi alanlarında öncü olan çok sayıda araştırmacı (matematik, nörofizyoloji, mühendislik, biyoloji, antropoloji, vb.) ortak bir zorluk tespit etmişti: Hepsi de karmaşık, doğrusal olmayan süreçlerle karşı karşıyaydı ve bu süreçlerde nedeni sonuçtan ayırmak imkansız hale geliyordu: Belirli bir doğal veya sosyal sürecin görünürdeki etkisi aynı anda bir diğeriyle bağlantılı olabiliyordu. Bu karşılıklı nedensellik ve görünüşte birbirinden bağımsız olguların iç içe geçmesi fikri etrafında inşa edilen sibernetik, bilimsel bir disiplinden ziyade bir felsefedir. Büyük düşünürleri başlangıçtaki araştırma alanlarını terk etmediler, ancak analizlerini yeni bir bakış açısıyla zenginleştirdiler. Disiplinler arası yaklaşım, makinelerde, insan beyinlerinde ve toplumlarda işleyen süreçlerin aynı kavramlar dizisi kullanılarak anlaşılabileceği anlamına geliyordu. Yapay zekâ 1950’lerin ortalarında ortaya çıktığında, sibernetiğin doğal bir uzantısı olarak görüldü; gerçekte ise geriye doğru atılmış bir adımdı. Sibernetik, insan zekâsını yeniden üretmek için değil, onu daha iyi anlamak için makinelerden ilham almaya çalışıyordu. Karmaşıklaşan yapay zekâ disiplini, bizim hakkımızda “düşünebilen” makineler inşa ederek yeni bir sınır açmayı hedefledi. Amaç insan kavrayışının gizemlerini çözmek değil, ana müşteri olan ordunun gereksinimlerini karşılamaktı. Araştırmalar savunma zorunlulukları tarafından yönlendirilmeye başlandı ve bu da gelecekteki gelişimi için belirleyici oldu.
Yapay zekâ modelini gerçek zekâya eşitleme amacı
Yapay sinir ağları oluşturma girişimi gibi sibernetik felsefeden ilham alan ilk projelerden bazıları hızla askeri amaçlara yönlendirildi. Bu ağlar, düşüncenin inceliklerini çözmeyi değil, düşman gemilerinin veya petrol tankerlerinin yerini tespit etmek için hava görüntülerini analiz etmeyi amaçlar hale geldi. Yapay zekâya yönelik hırslı arayış, sıradan askeri sözleşmeleri bilimsel prestijle örtbas etmenin bir yolunu bulmuş oldu.
Bu ortamda disiplinler arası yaklaşım söz konusu değildi. Yapay zekâ çevresi, sibernetiği fazla soyut, fazla felsefi ve hepsinden önemlisi potansiyel olarak yıkıcı bulan parlak genç matematikçiler ve bilgisayar bilimcileri tarafından ele geçirilmişti. Bu dönemde Norbert Wiener’in sendikal mücadeleleri desteklemeye ve orduyu eleştirmeye başladığını ve Pentagon’dan fon almasının pek mümkün olmadığını söylemek gerekir. Kendisini kullananları “güçlendirmeyi” ve otonom silahlar geliştirmeyi vaat eden yapay zekâ, böyle bir imaj sorunu yaşamıyordu. Başından itibaren ayrı bir bilimsel disiplin olarak kabul edildi. Geleneksel bilimler, modellemeler yardımıyla dünyayı anlamaya çabalarken yapay zekânın öncüleri, yapay bir zekâ modeli inşa etme ve bunu gerçek zekâya eşitleme amacını güdüyor. Bu durum, coğrafyacıların yapay bir coğrafya yaratmaya çalışarak haritaları ve gerçek toprakları aynı şey gibi göstermeye çalışmasına benzetilebilir.
Yapay zekâ, ekonomi ve Soğuk Savaş dönemi
Soğuk Savaş sırasında yapay zekânın izlediği yol (veya yaşadığı trajedi) birçok açıdan ekonominin, özellikle de Amerikan ekonomisinin izlediği yola benzemektedir. Amerika Birleşik Devletleri’nde ekonomi, gerçek dünyanın dinamikleriyle uyum içinde olan, güç ve kurumların (sendikalardan Merkez Bankası’na kadar) üretim veya büyüme üzerinde etkisi olduğunun farkında olan, coşkulu, çoğulcu bir düşünceydi. Soğuk Savaş’ın öncelikleri, onu soyut modellere (optimizasyon, denge, oyun teorisi vb.) takıntılı, gerçek hayatla ilgisi ikincil önemde olan bir disipline dönüştürdü. Bugünkü bazı dijital uygulamalar – internet reklamcılığı veya şoförlü araç çağırma hizmetleri gibi – bu matematiksel yapıların üzerine inşa edilse bile bir yaklaşımın ara sıra geçerlilik kazanması onu kurtarmaya yetmez. Gerçek şu ki, modern ortodoks ekonomi, eşitsizlikler veya iklim değişikliği gibi sorunları çözmek için piyasa temelli çözümler dışında pek bir şey sunamıyor. Aynı analiz, teknolojik bir zafer olarak tanımlanan ancak genellikle militarizm veya kapitalizm için bir kılıf haline gelen yapay zekâ için de geçerlidir. Asgari kontrol ve düzenleme ihtiyacını kabul eden savunucuları bile zekâ anlayışımızın yapay zekâ tarafından kontrol edilmediği bir gelecek hayal etmekte zorlanıyor. Yapay zekâ en başından beri, önceden belirlenmemiş nihai hedefleri olan bir bilim olmaktan çok din ve mühendisliğin bir karışımı olmuştur. Nihai amacı, açıkça eğitilmeden her türlü görevi yerine getirebilecek evrensel bir bilgisayar sistemi yaratmaktı: Bu vizyon şimdi Yapay Genel zekâ (YGZ) olarak biliniyor.
Burada ekonomi ile bir başka paralellik devreye giriyor: Soğuk Savaş döneminde, yapay genel zekâ (YGZ), ekonomistlerin serbest piyasayı gördüğü gibi, yani özerk, kendi kendini düzenleyen ve insanlığın uyum sağlamak zorunda olduğu bir güç olarak düşünülüyordu. İktisadi düşünce, Adam Smith’in ünlü ifadesiyle, “bir şeyi başka bir şeyle takas etme ve değiş tokuş etme” eğiliminin doğal bir uzantısıymış gibi, kapitalizmin yayılmasında sömürgeci şiddetin, ataerkilliğin ve ırkçılığın oynadığı rolü görmezden gelmektedir. (7) Öte yandan, yapay zekânın kökenlerine ilişkin geleneksel anlatı, sibernetik, matematik ve mantığın katkılarını kabul etmekte, ancak tarihsel veya jeopolitik bağlam konusunda sessiz kalmaktadır. Tıpkı öjeni ve frenolojinin sadece genetik ve biyolojinin dalları gibi sunulması ve ırkçı boyutlarından bahsedilmemesi gibi. Yarden Katz’ın “Yapay Beyazlık” adlı çalışmasında vurguladığı gibi, yapay zekâ, Soğuk Savaş’ın militarizmi, özel sektörcülüğü ve aşırı milliyetçiliği olmadan var olamazdı. (8) Bu kadar bozulmuş bir kavram bir gün ilerici hedeflerin hizmetine sunulabilir mi? “Sosyalist yapay zekâ” çağrısı yapmak, insancıl atölyeler ya da keyifli işkence aletleri hayal etmek kadar boş değil mi?
Yapay zekâ sonrası sosyalist bir teknoloji politikası tanımlamak
Stafford Beer ve Warren Brodey’in deneyleri, sosyalist yapay zekâ fantezisinden vazgeçip, yapay zekâ sonrası sosyalist bir teknoloji politikası tanımlamaya odaklanmamızın daha iyi olacağını gösteriyor. Mevcut ürünler için solcu uygulamalar hayal ederek ya da yeni ekonomik mülkiyet modelleri icat ederek onları insancıl hale getirmeye çalışmak yerine, yaratıcı özerkliği teşvik eden ve insanların sınıf, etnik köken ya da cinsiyetten bağımsız olarak tüm potansiyellerini ortaya çıkarmalarını sağlayan kurumlara, altyapılara ve teknolojilere erişimi açmamız gerekiyor. Başka bir deyişle, güçlendirilmiş insandan geliştirilmiş insana geçişi başlatmamız gerekiyor. Böyle bir politika, kapitalizmin muhafazakâr söylemlerinden en uzak refah devleti bileşenlerine dayanacaktır: Eğitim ve kültür, kütüphaneler, üniversiteler ve kamu yayıncıları. Mevcut yaklaşımın yaptığı gibi neoliberal ekonomiyi güçlendirmek yerine sosyalist bir eğitim ve kültür politikasının önünü açacaktır.
Brodey’nin kendisi de sosyalizm olmadan sosyalist bir yapay zekâ olamayacağını oldukça çabuk anladı. 1970’lerin başında, Amerika’daki Soğuk Savaş bağlamının “insani gelişim” ve “çevresel teknoloji” arayışını anlamsız hale getirdiğini fark etti. Vietnam Savaşı’na karşı olduğunu göstermek için Pentagon’dan ve hatta MIT gibi kurumlardan para almayı reddettiğinden bahsetmiyorum bile.
‘Herkes bir balonun içinde yaşamak istemez’
Negroponte’ye göre Brodey hiçbir zaman MIT’de kadrolu bir pozisyon istemedi. Konforla ilgilenmiyordu. New Hampshire ormanının ortasında kendine köpük ve balonlardan bir ev inşa etmeyi tercih etti. Kendisine uygun, “duyarlı ve akıllı” bir ortam yarattı. Ama bu, hayranları için bile fazla ileri gitmekti… Negroponte o zamanlar “Herkes bir balonun içinde yaşamak istemez” diye espri yapmıştı. Brodey’in düşünceleri ütopyalarla doluydu. O ve en yakın çalışma arkadaşı Avery Johnson, Amerikan endüstrisinin kendi görüşlerini benimseyeceğini umuyordu: Tüketici arzularını karşılamaktan ziyade kullanıcıda yeni zevkler ve ilgi alanları uyandırmak için tasarlanmış duyarlı, etkileşimli ürünler… Ancak şirketler Negroponte’nin daha muhafazakâr yorumunu tercih etti; bu yorum, tüketicilerin kaygılarını tespit edip onları daha fazla tüketmeye teşvik ediyor. Hayal kırıklığına uğrayan Brodey 1973 yılında Norveç’e taşındı. Orada Maoist, Komünist İşçi Partisi’nin aktif bir üyesi olarak yeniden ortaya çıktı ve hatta mühendislerle “etkileşimli teknolojiler” kavramı hakkında konuşmak üzere Çin’e gitti. Soğuk Savaş sırasında ordu, Ulusal Havacılık ve Uzay Dairesi (NASA) ve CIA için yapılan projelerle yakından ilgilenmiş biri için bu büyük bir dönüşümdü. Halen yaşadığı Norveç’te son 10 yıl boyunca kendisiyle yaptığım uzun sohbetlerden anladığım kadarıyla Brodey, 1960’larda savunduğu “açık evrim” projesine bağlılığını hâlâ koruyor. Açıkçası, insanın geliştirilmesi onun için işe yaramış gibi görünüyor. Bu, doğru teknolojileri seçer ve komünist ya da değil yapay zekâya karşı sağlıklı bir şüphecilik beslersek herkes için de işe yarayabileceği anlamına geliyor.
Morozov, geçen haziran ayında Post-Utopia tarafından yayınlanan “A sense of rebellion” podcastinin sahibi…
Le Monde diplomatique Türkçe’nin temmuz sayısında yayımlanan yazıyı iki bölüm olarak okurlarımıza sunduk.
ÇEVİRİ: Arda Anık
