EVGENY MOROZOV
Amerika’ya bir hayalet musallat oldu: Komünizm hayaleti… Ama bu kez dijital bir hayalet. Massachusetts Teknoloji Enstitüsü’nden (MIT) ekonomist Daron Acemoğlu “Yapay zekâ tarafından yönetilen komünizm işe yarayabilir mi?” diye sorarken, risk sermayedarı Marc Andreessen, Çin’in komünist bir yapay zekâ yaratıp yaratmayacağını merak ediyor. (1) Cumhuriyetçi muhalif Vivek Ramaswamy bile X’te komünizm yanlısı yapay zekânın Covid-19 kadar büyük bir tehdit oluşturduğu analizini yaptı. Ancak bu genel panik ortamında gerçekten ne hakkında konuştuğumuzu kim biliyor? Büyük ABD şirketlerinin platformlarını model alan ve sıkı devlet kontrolüne tabi olan Çin modeli komünist yapay zekâ mı, yoksa kamu kurumlarının elinde geliştirilen Avrupa tarzı bir sosyal devlet yaklaşımını benimseyen model mi? Geçen Mayıs ayında Google’ın AI Overviews fonksiyonunun, pizzanın üzerine yapıştırıcı sürmenizi veya taş yemenizi önermesi (2) gibi örneklerin ortaya koyduğu gibi yapay zekâ yarışı günümüzde kaliteden önce hızı öne çıkarma eğiliminde ve bu durum göz önüne alındığında ikinci seçeneğin belirgin bir cazibesi var. Yapay zekâ üretiminin kamu tarafından finanse edilmesi, verilerin titizlikle seçilmesinin ve sıkı bir denetimin yanı sıra, araçların kalitesini ve müşterilere sunulan fiyatların artmasını ve bu sayede üreticilere daha iyi ödemeler yapılmasını sağlayabilir.
Daha geniş kapsamlı dönüşümler sağlanamaz mı?
Bununla birlikte, sosyal bir yapay zekâ ekonomisi geliştirmeye çalışmak yine Silikon Vadisi’ne teslim olmak anlamına gelmiyor mu? “Komünist” ya da “sosyalist” yapay zekâ, verilere kimin sahip olacağına ve veriyi kimin kontrol edeceğine karar verme konusuyla ya da bilgi işlem altyapılarını ve modelleri dönüştürmekle sınırlı mı kalmalı? Daha geniş kapsamlı dönüşümler sağlayamaz mı? Modern tarihten gelen iki örnek olumlu bir yanıta işaret ediyor. İlk örnek, Şili Devlet Başkanı Salvador Allende’nin vizyoner girişimi CyberSyn… (3) Stafford Beer adında karizmatik bir İngiliz danışman tarafından yönetilen bu iddialı ancak kısa ömürlü proje (1970-1973) ülkenin mütevazı bilgi işlem altyapısını kullanarak ekonomiyi daha verimli bir şekilde yönetmenin yollarını bulmayı amaçlıyordu. Genellikle “sosyalist internet” olarak adlandırılan CyberSyn, kamulaştırılmış şirketlerden gelen tüm üretim verilerini Santiago’daki merkezi bir bilgisayara iletmek için ülkedeki teleks ağını kullanıyordu. Bununla birlikte, Sovyet devletçiliğinin tuzaklarından kaçınmak için çalışanlara daha fazla güç vermek üzere tasarlanmış, zamanının ötesinde bir makine öğrenimi biçimi getiriyordu. Fabrikaları ziyaret eden devletin teknisyenleri işçilerle birlikte çalışarak üretim ve yönetim süreçlerini sahada uygulandığı şekliyle şemalandırdı. Kapitalist bir şirkette erişilemez olan bu değerli bilgiler daha sonra işletme modellerine dönüştürüldü ve özel istatistiksel yazılımlar kullanılarak takip edildi. Bu sayede, işçi ve yöneticiler sorunlara karşı neredeyse gerçek zamanlı olarak uyarılabiliyordu. CyberSyn’in merkezinde, bilgisayar gücünün insan zekâsını güçlendirdiği melez bir sistem vizyonu vardı. Gizli bilginin resmileştirilmiş somut bilgiye dönüştürülmesi, daha önceki yönetim ya da ekonomi deneyimleri ne olursa olsun, ülkenin dümenindeki yeni sınıf olan işçilerin güvenle ve akıllıca hareket etmelerini sağlayacaktı. Bu model, sosyalist yapay zekâ arayışımız için bir rehber olabilir mi?
Biri size ‘soyun’ derse ne yaparsınız?
Bu benzersiz fikrin önemini daha fazla keşfetmek için, hippi olmadan önce sibernetik ile ilgilenen ve şu anda 100 yaşında olan psikiyatrist Warren Brodey’nin maceralarına bakmak gerekiyor. Brodey, 1960’ların sonunda zengin bir ortağından aldığı parayla Boston’da Çevresel Ekoloji Laboratuarı (EEL) adında deneysel bir laboratuvar kurdu. Birkaç metro istasyonu ötede, bir dönem bağlı olduğu MIT’den arkadaşları Marvin Minsky ve Seymour Papert, ona göre yanlış yönde ilerleyen yapay zekâ projeleri geliştiriyordu. Minsky ve Papert, insan muhakemesinin, bir bilgisayara “yapay zekâ” kazandırmak için yalnızca numaralandırılması ve deşifre edilmesi gereken bir dizi soyut algoritmik kural ve süreç tarafından yönlendirildiğini varsayıyordu. Brodey ve beş meslektaşı ise bu görüşün aksine, zekânın sadece beynimizde hapsolmadığını, çevremizle olan etkileşimlerimizden doğduğuna inanıyordu. Bunu adı çevresel zekâdır. Soyut kurallar ve mekanizmalar kendi başlarına bir anlam ifade etmez; her şey bağlamdadır. Bu teoriyi açıklamak için basit bir örnek kullandılar: “Soyun” emri; bir doktor, bir sevgili ya da karanlık bir sokakta karşılaşılan bir yabancı tarafından verildiğinde tamamen farklı anlamlar taşır. Bu ince nüansları bağımsız olarak kavrayabilecek bir yapay zekâ tasarlamak onlara zor bir görev gibi görünüyordu. İnsanların zihinsel süreçlerini modellemenin yanı sıra, bilgisayarların sonsuz çeşitlilikteki kavram, davranış ve durumlara ve bunların tüm ilişkilerine hâkim olması, başka bir deyişle, anlam üretmenin tek yolu olan insan uygarlığının tüm kültürel çerçevesini anlaması gerekecekti. İklim değişikliği hakkında yorum yapan duyarlı bir duş başlığı… Brodey’in ekibi, bu ulaşılmaz görünen hedefin peşinde kendilerini tüketmek yerine, bilgisayarları ve sibernetik teknolojileri insanların hizmetine sunmayı, çevrelerini ve her şeyden önce kendilerini keşfetmelerini ve zenginleştirmelerini sağlamayı hayal etti. Bu perspektiften bakıldığında, bilgi teknolojileri sadece görevleri yerine getirmeye yarayan araçlar değil, dünya hakkında düşünmeye ve onunla etkileşime geçmeye yarayan araçlardı. Örneğin, sizinle iklim değişikliği ve su kaynaklarının kıtlığı hakkında konuşan duyarlı bir sibernetik duş ya da yolculuğunuz sırasında size toplu taşıma sisteminin durumu hakkında bilgi veren bir araba hayal edin. Laboratuvar, dans etmeden önce giydiğinizde müziği gerçek zamanlı olarak değiştiren ve ses ile hareket arasındaki karmaşık bağlantıları vurgulayan bir kıyafet bile icat etmişti. Çevresel Ekoloji Laboratuvarı, Frankfurt Okulu’na ve onun araçsal akıl eleştirisine karşı kararlı bir duruş sergiliyordu: Dünyamızı ekolojik boyutundan koparan ve bizi Theodor Adorno, Max Horkheimer ve Herbert Marcuse’un eleştirdiği araç-amaç rasyonalitesine yönlendiren şey teknoloji değil, endüstriyel kapitalizmdir. Bu kaybolmuş boyutu geri kazanmak için sensörler ve bilgisayarlar yardımıyla varoluşun en sıradan görünen yönlerinin ardındaki gizli karmaşıklıkların farkına varmamızı sağlamayı amaçladılar. Brodey’nin tuhaf fikirleri dijital kültürümüz üzerinde derin ama çelişkili bir şekilde neredeyse görünmez bir iz bıraktı. MIT’deki kısa kariyeri boyunca Brodey, MIT Media Lab’de yaptığı çalışmalarla dijital devrim hakkındaki tartışmaları büyük ölçüde tanımlayan öncü bir tekno-ütopyacı olan Nicholas Negroponte’yi kanatları altına almıştı. (4) Ancak iki adamın felsefeleri tamamen farklıydı.
Özgün ve eksantrik makineler mi yoksa insanlar mı?
Brodey, yeni nesil sibernetik cihazların öncelikle insan-makine diyaloğunu kolaylaştıracak ve çevresel farkındalığımızı keskinleştirecek bir araç olan “duyarlılıkları” ile ayırt edilmeleri gerektiğine inanıyordu. Bireylerin içtenlikle gelişmeyi arzuladıklarını ve bilgisayarı bu kalıcı dönüşüm girişiminde bir müttefik olarak gördüklerini varsaydı. Çırağı Negroponte ise bu konsepti daha kullanışlı hale getirmek için yeniden uyarladı: Ona göre makinelerin birincil işlevi, ihtiyaçlarımızı anlamak, tahmin etmek ve karşılamaktı. Kısacası, Negroponte, özgün ve eksantrik makineler yaratmaya çalışırken akıllı ortamların (ve genel olarak yapay zekânın) insan olmadan var olamayacağına inanan Brodey, özgün ve eksantrik insanlar yaratmaya çalışıyordu. Silikon Vadisi, Negroponte’nin vizyonunu benimsedi. Brodey’i çağdaşlarından ayıran bir başka unsur daha vardı: Dönemin bilgisayar bilimcileri yapay zekâyı insanı güçlendiren bir araç olarak görürken Brodey, insanı geliştirmeyi hedefliyordu; bu kavram, sadece verimliliği aşan çok daha kapsamlı bir konuydu. (5)
Yeni beceriler edinmek için teknolojiyi kullanmak
Bu iki paradigma arasında ince ama çok önemli bir ayrım var. Güçlendirme, bilmediğiniz bir arazide yolunuzu bulmak için cep telefonunuzdaki GPS’i kullanmanız gibidir: Hedefinize ulaşmanızı hızlandırır ve kolaylaştırır. Ancak sağlanan kazanç kısa sürelidir. Eğer bu teknolojik destek elinizden alınırsa, kendinizi daha da çaresiz hissedersiniz. Geliştirme ise yeni beceriler edinmek için teknolojiyi kullanmayı içerir: Gelişmiş hafıza tekniklerini kullanarak doğuştan gelen yön duygunuzu geliştirmek veya doğanın işaretlerini çözmeyi öğrenmek gibi. Güçlendirme verimlilik adına yeteneklerimizi elimizden alırken, geliştirme bize yeni yetenekler verir ve dünyayla etkileşimimizi zenginleştirir. Bu temel fark, teknolojiyi hayatımıza entegre etme şeklimizi belirler ve bizi pasif uygulayıcılara ya da yaratıcı zanaatkarlara dönüştürür. Brodey bu kanaatlere, 1960’ların başında Merkezi İstihbarat Teşkilatı (CIA) tarafından tasarlanan gizli bir programa bir psikiyatrist olarak katıldığında ulaşmıştı. CIA, seçilmiş bir grup görme engelliye Ruşça öğretmeyi ve bu kişilere Sovyet iletişimini dinletmeyi planlıyordu. Görme engelli bu kişilerin diğer duyularının gören analistlerden daha keskin olduğu varsayılıyordu. Yıllar boyunca bu kişilerle çalışan ve algılarını zenginleştirmek için kullandıkları iç ve dış unsurları – vücut ısısı, ortam nem oranı, ışık kalitesi gibi – belirlemeye çalışan Brodey, duyuları mükemmelleştirme yeteneğinin aslında herkeste olduğunu fark etti.
Zevklerimizi zenginleştirmek ve yeteneklerimizi genişletmek
Hepimize potansiyel bir sanatsal duyarlılık kazandıran bu geliştirme programı kesinlikle şairane olsa da iflah olmaz bir pragmatist olan Brodey, bilgisayarların yardımı olmadan uygulanmasının imkansız olduğunu düşündü. Bunu MIT’ye resmi bir araştırma projesi olarak sunduğunda, sadece muhafazakâr yapay zekâ elitinden değil, çok geniş çapta şiddetli bir muhalefetle karşılaştı. Bazıları bunda karanlık Nazi çağrışımları gördü: Brodey insanlar üzerinde deneyler yapılmasını mı öneriyordu? Tepkiler onu özel bağışçılara yönelmeye zorladı. İnsanı güçlendirme ile geliştirme arasındaki derin fark – ve bunun otomasyon açısından sonuçları – on yıllar sonra belirgin hale geldi. Güçlendirme, bizim gibi düşünen ve hisseden makineler yaratmayı amaçlıyor ve becerilerimizi kullanılmaz hale getirme riskini artırıyor. Üretken yapay zekâya dayalı mevcut araçlar yalnızca sanatçıların ve yazarların çalışmalarını “güçlendirmeyi” amaçlamakla kalmıyor, aynı zamanda onları tamamen değiştirmekle tehdit ediyor. Brodey’in akıllı teknolojileri ise insanı işe yaramaz hale gelene kadar otomatikleştirmeyi ya da yaşamları standartlaştırmayı değil, zevklerimizi zenginleştirmeyi ve yeteneklerimizi genişletmeyi, yani insan deneyimini geliştirmeyi amaçlıyordu. Bu, karşı kültürün çoğu temsilcisinin teknolojiyi güvenilmemesi gereken anonim, ruhsuz bir güç veya “toprağa dönüş” gibi topluluklarda bireysel özgürleşmenin bir aracı olarak gördüğü bir dönemde cesur bir bakış açısıydı. Bu fikirleri 1960’ların ortasında dile getiren Brodey’nin profesyonel yaşamı ve aile hayatı dağılmaya başladı. Aldığı pozisyon, onu giderek saygın bir üyesi olduğu Amerikan düzeninin daha aykırı sınırlarına çekti. Birçok hippi gibi, politikanın meşruiyetini tanımıyordu, bu da teorilerini taleplere dönüştürmesini engelledi.
